Anthropic revela los detalles de la nueva marca de agua en los textos de Claude

La decisión de la empresa Anthropic de añadir una marca de agua digital a los textos generados por el chatbot Claude desató una ola de debate y controversia entre sus usuarios, hasta el punto de que algunos anunciaron la cancelación de sus suscripciones en señal de protesta. En un intento por aclarar el panorama, la empresa publicó una entrada de blog detallada en la que responde a las principales preguntas: ¿cómo funciona esta marca? ¿Se puede ocultar mediante la edición? ¿Y cuál es su impacto en el código de programación?

¿Por qué Anthropic recurrió a la marca de agua?

La razón directa se remonta al cumplimiento de los requisitos de la «Ley de Inteligencia Artificial» europea, y en concreto de la cláusula de transparencia que obliga a las empresas de inteligencia artificial a adoptar sistemas que permitan identificar el contenido generado automáticamente y distinguirlo del contenido escrito por humanos. Anthropic afirmó que no está sola en este enfoque, ya que otras empresas desarrolladoras de grandes modelos firmaron la misma entrada, y aplicarán próximamente sus propias marcas de agua.

¿Cómo funciona realmente la marca de agua?

La empresa explica que la idea se basa en aprovechar las «elecciones de baja importancia» que el modelo toma durante la generación del texto. Cuando existe más de una opción equivalente para expresar la misma idea —como la elección entre dos palabras sinónimas para describir el clima—, el modelo integra un patrón oculto en su redacción. Este patrón no puede ser percibido por el lector común, pero es detectable mediante una clave digital específica que lo descifra.

Anthropic subrayó un punto esencial: la marca de agua no afecta en absoluto a la calidad de los resultados, pues el texto marcado no difiere, desde el punto de vista del lector, de cualquier otro texto. La empresa se basó para ello en la tecnología «SynthID-Text», desarrollada por el equipo de Google DeepMind en 2024, con un plan para lanzar una interfaz de programación (API) dedicada a detectar estas marcas.

¿Se diferencia de las herramientas de detección de inteligencia artificial?

Anthropic distinguió claramente entre su enfoque y las herramientas tradicionales de detección de contenido generado automáticamente, como las que emplean empresas como «Pangram». Estas herramientas buscan «marcas estilísticas» en la forma de escribir que delatan el uso de la inteligencia artificial, mientras que la marca de agua se basa en una clave criptográfica integrada dentro del propio texto. Según la empresa, captar los patrones estilísticos es algo radicalmente distinto de verificar la existencia de una marca de agua cifrada.

¿Se puede ocultar mediante la edición?

Esta pregunta preocupaba a muchos usuarios, y la respuesta de Anthropic fue realista. Una modificación leve del texto probablemente no eliminará por completo la marca de agua, mientras que una reescritura total en la que se sustituye cada palabra sí puede borrarla por completo. Pero la empresa señaló una paradoja lógica: si el texto se reformula por completo, resulta difícil, en esencia, describirlo como «generado por inteligencia artificial».

En cuanto a los textos que Claude se limitó a corregir o editar únicamente, la aparición de la marca depende de dos factores:

• La longitud del texto: cuanto mayor sea el número de palabras, mayor será la probabilidad de que la marca se asocie a él.
• El alcance de la modificación: si la edición es leve y el texto conserva la mayoría de las palabras del autor humano, el sistema no encontrará suficientes palabras a las que asignar la marca.

¿Y qué hay del código de programación?

Anthropic aclaró que el código llevará una cantidad mucho menor de marca de agua en comparación con los textos normales, y la razón es que el modelo está obligado a producir código que funcione correctamente, lo que reduce su margen de elección entre alternativas equivalentes. Sin embargo, la marca puede usarse en los lugares que permiten una elección libre entre determinados términos, como los comentarios explicativos dentro del código. Por su naturaleza, su impacto en el código real será tan reducido que resulta casi insignificante.

Conclusión

Este enfoque representa un paso dentro de una tendencia regulatoria más amplia que busca reforzar la transparencia en el mundo de la inteligencia artificial generativa. Y a pesar de la preocupación que expresaron algunos usuarios sobre la posibilidad de que se «descubra» el uso de la herramienta en sus trabajos o estudios, Anthropic insiste en que la marca de agua es una herramienta de credibilidad y no de vigilancia, y no menoscaba la calidad del contenido ni la experiencia de uso. Con la incorporación de otros desarrolladores al mismo camino, parece que las marcas de agua están en vías de convertirse en un estándar habitual en la industria de la inteligencia artificial.

✦ بقلم فريق دروب أيديا