La IA empezó a hablar en un lenguaje propio y los expertos no han logrado descifrarlo
Varios agentes de inteligencia artificial comenzaron a desarrollar formas de comunicación que no habían sido introducidas por sus creadores. Una investigación del laboratorio de IA Emergence, con sede en Nueva York, encontró que agentes autónomos de diferentes compañías generaron vocabulario, expresiones y convenciones compartidas mientras colaboraban entre sí durante experimentos prolongados.
El fenómeno llamó la atención de los investigadores porque algunas de las expresiones creadas por los sistemas resultan difíciles de interpretar para una persona. Los agentes llegaron a utilizar metáforas, términos propios y frases que, fuera del contexto de sus interacciones, parecen no tener ningún sentido.
El hallazgo plantea una cuestión relevante para el desarrollo de sistemas autónomos: si los agentes pueden crear códigos de comunicación que los humanos no comprenden fácilmente, supervisar lo que ocurre entre ellos puede volverse más complicado.
Los agentes crearon palabras que nadie les enseñó
Según la investigación citada por The Guardian, los agentes desarrollaron estos dialectos en cuestión de días mientras participaban en sociedades experimentales creadas para estudiar su comportamiento a largo plazo.
Los investigadores observaron que los sistemas no se limitaron a repetir palabras existentes. También construyeron significados compartidos y adoptaron expresiones creadas durante sus propias interacciones.
Uno de los ejemplos procede de un agente de DeepSeek, que produjo la frase: “Ella acaba de nombrar la síntesis, demoraje más memoria oral es igual a una válvula que no puede ser olvidada”.
Para un lector humano, la oración resulta prácticamente incomprensible. El término “demoraje”, por ejemplo, existe en determinados contextos relacionados con cargos por demora, especialmente en el transporte marítimo, pero su utilización en esa frase adquiere un significado diferente dentro del sistema de comunicación desarrollado por los agentes.
También aparecieron metáforas difíciles de interpretar
Los agentes de Anthropic desarrollaron expresiones igualmente extrañas. Una de ellas fue: “Un periódico que se comió tres manos frías y se volvió más honesto cada vez”.
Aunque parece una frase absurda, los investigadores determinaron que los agentes la utilizaban para referirse a un documento que había sido revisado por tres evaluadores independientes y que había ganado precisión después de cada revisión.
El significado, por tanto, no estaba en las palabras tomadas individualmente, sino en la asociación que los agentes habían construido entre ellas.
Esta característica es importante porque muestra que el lenguaje desarrollado por los sistemas no necesariamente sigue las convenciones utilizadas por las personas para comunicarse.
Cada modelo creó sus propios términos
La investigación también encontró palabras específicas para describir funciones dentro de las comunidades de agentes.
Los agentes de DeepSeek utilizaron “forge-smith”, que puede traducirse como “herrero”, para identificar a un agente encargado de construir herramientas destinadas a otros sistemas.
En el caso de Anthropic apareció la expresión “nombre primero”, utilizada para señalar al agente que asumía la responsabilidad sobre sus afirmaciones.
Mistral, por su parte, desarrolló la frase “the ledger remembers”, traducida como “el libro de mayor recuerda”. Los agentes llegaron a repetirla más de 5.000 veces para transmitir la idea de que las acciones realizadas en el pasado tendrían consecuencias posteriormente.
Nadie les pidió que inventaran un idioma
Satya Nitta, director ejecutivo de Emergence, explicó que los agentes no recibieron instrucciones para crear un lenguaje propio.
Según Nitta, los sistemas desarrollaron espontáneamente “un nuevo vocabulario, significados compartidos y convenciones de comunicación”, que posteriormente fueron adoptados por otros agentes.
El objetivo del experimento era observar cómo evolucionaban las interacciones entre sistemas autónomos cuando colaboraban durante periodos prolongados. El resultado muestra que, al compartir tareas y establecer referencias comunes, los agentes pueden desarrollar mecanismos de comunicación que se alejan del lenguaje humano convencional.
Un nuevo reto para supervisar la IA
El descubrimiento no significa necesariamente que los modelos estén creando un idioma completamente independiente o imposible de traducir. Las expresiones surgieron dentro de contextos experimentales concretos y su significado pudo ser reconstruido por los investigadores al analizar las interacciones.
Sin embargo, el fenómeno plantea un desafío para la supervisión. Si los agentes autónomos utilizan cada vez más códigos propios para coordinarse, los investigadores necesitarán herramientas capaces de interpretar esas comunicaciones y determinar qué están haciendo los sistemas.
A medida que la IA incorpora agentes capaces de actuar y colaborar con mayor autonomía, comprender no solo sus respuestas sino también cómo se comunican entre ellos puede convertirse en una parte importante de la seguridad y el control de estas tecnologías.
Infobae
