OpenAI lanza una marca de agua oculta para los textos de ChatGPT en Europa

En un paso que busca reforzar la transparencia sobre el contenido generado por inteligencia artificial, OpenAI ha anunciado que comenzará a integrar una marca de agua invisible en los textos producidos tanto por ChatGPT como por la herramienta de programación Codex dentro de los países de la Unión Europea. Esta decisión responde a los requisitos de la Ley de Inteligencia Artificial europea, que obliga a las empresas tecnológicas a incluir señales claras y detectables que distingan el contenido generado automáticamente del contenido humano.

¿Qué exige la ley europea?

Las normas de transparencia establecidas en la Ley de Inteligencia Artificial europea entraron en vigor a principios del pasado agosto. Estas normas obligan a los desarrolladores de sistemas de inteligencia artificial a marcar el contenido producido por sus herramientas de una manera que permita a otros sistemas reconocerlo. De este modo, OpenAI se suma a la lista de grandes empresas que se han adherido al código de prácticas europeo sobre el contenido generado, entre ellas Google, Meta, Microsoft y Anthropic.

¿Cómo funciona la marca de agua?

Contrariamente a lo que podría pensarse, esta marca no es un símbolo visible que se añade al texto, sino que funciona mediante una influencia sutil en las elecciones de palabras del modelo, de modo que deja un patrón oculto que el lector no percibe, pero que un detector especializado puede identificar. Dado que este patrón reside en las propias palabras, se transfiere con el texto al copiarlo y pegarlo en otros lugares.

La empresa confirmó que la marca no revela la identidad del usuario, y que tampoco observó ninguna disminución significativa en el rendimiento de sus modelos al activarla. Asimismo, aclaró que no convertirá esta función en una configuración predeterminada a nivel global en su lanzamiento.

Disponibilidad y alcance de aplicación

Se espera que la función se despliegue de forma gradual durante las próximas semanas para los usuarios elegibles de ChatGPT y Codex en todos los planes, pero únicamente dentro de la Unión Europea. En cuanto a los desarrolladores que utilizan la interfaz de programación de aplicaciones (API) de la empresa en cualquier parte del mundo, podrán activarla para modelos específicos a partir de ahora, aunque permanecerá desactivada de forma predeterminada.

Informe técnico en colaboración con dos universidades

OpenAI publicó un informe técnico que explica su metodología denominada textGrain, elaborada en colaboración con investigadores de las universidades de Pensilvania y Yale. El informe presenta un ejemplo que ilustra el uso de una clave secreta para ordenar las predicciones de la palabra siguiente en una frase. Con la acumulación de cientos de estas orientaciones sutiles, el detector puede identificar el contenido generado basándose únicamente en el texto y la clave.

Límites de la tecnología y su posibilidad de eliminación

OpenAI reconoció que la marca de agua puede debilitarse o desaparecer al modificar el texto. Sus pruebas mostraron que sustituir el 10% de las palabras por sinónimos redujo la precisión de detección de alrededor del 92% al 66%. También señaló que algunos tipos son difíciles de detectar, entre ellos:

• Los textos muy cortos.
• Las respuestas matemáticas.
• Los textos traducidos.

Debido a estas limitaciones, la empresa decidió poner la herramienta de detección en su primera fase a disposición únicamente de investigadores acreditados e instituciones expertas, para ayudar a evaluar su fiabilidad y sus usos responsables.

La ausencia de la marca no significa autoría humana

OpenAI advirtió que la ausencia de la marca de agua no prueba que el texto haya sido escrito por un humano, ya que el texto podría ser demasiado corto, haber sido objeto de modificaciones extensas o haber sido producido por un sistema de inteligencia artificial de otra empresa. Añadió que la marca puede indicar que uno de sus sistemas produjo parte del texto o lo procesó, pero no determina el grado de intervención humana, creatividad o edición que lo acompañó.

Un contexto más amplio entre los competidores

Este anuncio llega dos meses después de que Anthropic anunciara su intención de colocar una marca de agua en los textos de su asistente Claude a nivel mundial, una decisión que provocó la objeción de algunos usuarios que consideraban que son ellos quienes aportan las instrucciones, el contexto y las decisiones, mientras que el modelo sigue siendo una mera herramienta. Cabe recordar que OpenAI ya había desarrollado anteriormente una marca de agua textual, pero pospuso su lanzamiento, en parte por temor a que los usuarios migraran a competidores que no adoptan esta tecnología.

✦ بقلم فريق دروب أيديا