OpenAI desarrolla marca de agua para textos generados por ChatGPT

Introducen un patrón de marca de agua imperceptible para el ojo humano pero detectable por OpenAI.

OpenAI ha desarrollado una marca de agua para textos generados por ChatGPT, con una efectividad del 99,9 % en la detección, aunque la compañía aún está considerando su lanzamiento debido a "complejidades" y posibles impactos "más allá" del ecosistema de la marca.

Fuentes internas informaron a The Wall Street Journal que el proyecto ha sido objeto de un debate interno durante "aproximadamente dos años" y que llevan cerca de uno considerando ponerlo a disposición de los usuarios.

El método técnicamente prometedor para detectar texto generado por ChatGPT presenta "riesgos importantes" que OpenAI está evaluando mientras explora otras alternativas. La tecnología funcionaría alterando la selección de tokens en los textos generados, introduciendo un patrón de marca de agua imperceptible para el ojo humano pero detectable por OpenAI.

A pesar de su alta efectividad, la herramienta plantea dudas debido a la facilidad con la que se pueden eliminar las marcas de agua, por ejemplo, utilizando técnicas simples como traducciones automatizadas o la adición y eliminación de emojis. Además, OpenAI considera que determinar quién debería tener acceso a esta herramienta es un desafío, ya que su utilidad podría verse comprometida si muchos usuarios pueden descifrar el método.

Debate interno y posibles implicaciones globales de la tecnología que detecta textos generados con ChatGPT en el 99,9% de los casos

La posibilidad de proporcionar el detector a educadores o empresas externas está siendo evaluada, con el fin de ayudar a identificar textos escritos por IA y trabajos plagiados. Sin embargo, una encuesta entre los usuarios de ChatGPT reveló que el 69 % teme que esta tecnología pueda llevar a acusaciones falsas de uso de IA, y casi el 30 % afirmó que usaría menos el chatbot si se implementaran estos cambios.

OpenAI también está preocupada por el posible impacto en la calidad del texto generado por ChatGPT. A pesar de pruebas que demostraron que las marcas de agua no afectaban el rendimiento del chatbot, la compañía sigue investigando soluciones de texto y ha desarrollado un método de marca de agua "muy preciso y eficaz" contra la manipulación de contenidos.

No obstante, la empresa reconoce que el sistema "es menos robusto contra la manipulación globalizada" y podría "afectar desproporcionadamente a algunos grupos", como los hablantes no nativos de inglés, estigmatizando el uso de la IA como herramienta de escritura. Con datos de Europa Press