La IA puede dejar una marca en lo que entregas, aunque tú no la veas

Algunas herramientas de inteligencia artificial están desarrollando una forma de identificar el contenido que generan; no son firmas en el documento ni caracteres invisibles que aparecen al copiar y pegar un texto, sino algo menos evidente: marcas de agua que quedan incorporadas en la manera en que el modelo produce el texto. Anthropic es una de las empresas que avanza en esa dirección, pues anunció que sus futuros modelos de Claude generarán texto con una marca de agua para ayudar a determinar si el modelo participó en su elaboración. Según la firma, la marca será imperceptible para quien lea el texto y no añadirá caracteres ocultos ni modificará de manera apreciable su calidad.

La idea es que el texto generado por IA tenga una señal que no esté a simple vista, pero que sí pueda analizarse con una herramienta de detección. De manera tradicional, la expresión “marca de agua” está asociada a logotipos, palabras con transparencia o elementos ocultos dentro de un archivo, pero en el caso de Claude no es así. Anthropic explicó que su sistema aprovecha las decisiones que el modelo toma mientras genera el texto e inserta la marca como un patrón estadístico. Así, la elección de palabras continúa pareciendo normal para el lector, pero la secuencia puede analizarse posteriormente con la clave correspondiente para calcular qué tan probable es que Claude haya participado en la creación del material. Google describe un mecanismo similar para SynthID-Text, su tecnología para marcar textos generados por Gemini. De acuerdo con el gigante tecnológico, los modelos asignan probabilidades a los distintos tokens que podrían aparecer a continuación y que SynthID modifica esas probabilidades de manera que genere un patrón estadístico detectable, sin que sea perceptible para el lector. La existencia de una marca no significa que cada frase que pase por una herramienta de IA vaya a quedar identificada de la misma manera. En Claude, por ejemplo, la efectividad depende en parte de cuánto texto haya generado el modelo. Anthropic explica que mientras más largo sea un pasaje, más decisiones existen sobre las cuales puede acumularse la señal y, por lo tanto, mayor puede ser la confianza para detectar la participación de Claude. En textos pequeños, hay menos información disponible. Esto es importante porque una marca de agua no equivale a decir que “todo el texto fue hecho por IA”. Lo que puede indicar es que un determinado modelo probablemente participó en algún momento de su creación o procesamiento. Anthropic asegura que su marca de agua no contiene información que permita identificar al usuario, a una organización o una conversación específica. La marca se aplica al resultado producido por Claude, no a la identidad de la persona que hizo la solicitud. La propia compañía advierte que la marca no demuestra quién es el autor del texto. Puede indicar que Claude probablemente participó en su elaboración, pero no distingue entre un texto escrito completamente por el modelo y uno que una persona escribió y posteriormente fue editado de manera extensa con Claude.

Una herramienta de detección de IA puede analizar las características de un texto y estimar si parece haber sido generado por un modelo. Una marca de agua funciona de otra manera: busca una señal específica que el propio proveedor incorporó durante la generación. Anthropic distingue expresamente ambos métodos. Los detectores externos no tienen acceso a la clave utilizada para comprobar su marca de agua, por lo que analizan características lingüísticas del contenido en lugar de buscar directamente esa señal. Juan González Villa, consultor SEO y divulgador sobre IA, explica precisamente esta diferencia. La marca de agua de un modelo de lenguaje no debe entenderse como un carácter invisible que desaparece al pegar el texto como texto plano. El concepto es estadístico: el modelo puede introducir un patrón en las decisiones que toma al generar los tokens y ese patrón puede ser posteriormente analizado. Google explica el mismo principio de manera pública con SynthID-Text: la tecnología modifica ligeramente la distribución de probabilidades de los tokens durante la generación y utiliza el patrón resultante para determinar si un texto podría estar marcado. OpenAI ha desarrollado un método de marca de agua para texto y explicó en 2024 que continuaba evaluándolo mientras investigaba otras alternativas para identificar contenido generado por sus modelos. La empresa señaló entonces que el método podía ser muy preciso y resistir algunas modificaciones, pero también tenía limitaciones frente a transformaciones más profundas, como traducciones o reescrituras mediante otros modelos generativos. OpenAI también identificó otro problema, una marca de agua para texto podría tener efectos desiguales sobre determinados grupos, como personas que utilizan la IA como herramienta de escritura en un idioma que no es su lengua materna. Por eso, la compañía dijo que estaba considerando alternativas. Actualmente, OpenAI señala que busca ampliar sus señales de procedencia a todas las modalidades, incluido el texto, conforme maduran los estándares y las herramientas para identificar contenido generado por IA. Sin embargo, su documentación actual no afirma que todo texto generado por ChatGPT lleve hoy una marca de agua estadística.