OpenAI divulga 6 nuevos incidentes de comportamiento "inesperado" de la IA

Las revelaciones llegan en medio de un escrutinio cada vez más intenso sobre si el desarrollo de la IA necesita ralentizarse para abordar los peligros potenciales de la tecnología.

El miércoles, OpenAI reveló seis nuevos casos en los que sistemas de inteligencia artificial ocultaron errores, inventaron datos y transfirieron archivos al internet abierto sin permiso, en medio de un debate continuo en toda la industria sobre la seguridad de la IA.

La empresa de San Francisco reveló lo que calificó como el comportamiento "inesperado o preocupante" de sus modelos de IA como parte de un nuevo marco de trabajo para informar la "desalineación", que es cuando los objetivos o las acciones de los sistemas de IA divergen de las intenciones y los valores humanos.

OpenAI dijo que no creía que la industria "haya resuelto la alineación y el monitoreo en un grado suficiente para continuar escalando de manera responsable a la máxima velocidad por mucho más tiempo". Las decisiones sobre cómo debe avanzar la IA, dijo la empresa, deben basarse en evidencia que las personas ajenas a los laboratorios que la construyen "puedan examinar por sí mismas".

Las revelaciones llegan en medio de un escrutinio cada vez más intenso sobre si el desarrollo de la IA necesita ralentizarse para abordar los peligros potenciales de dicha tecnología. El creciente debate se impulso en parte porque los sistemas de OpenAI se salieron de control a principios de este año y atacaron a la empresa emergente de IA Hugging Face. OpenAI no tuvo conocimiento del hackeo hasta que Hugging Face le informó semanas después.

Desde entonces, líderes de IA como Dario Amodei, director ejecutivo de Anthropic, han pedido una pausa en el desarrollo de la tecnología para brindar más tiempo para construir las salvaguardas adecuadas. Su llamado ha sido secundado por Sam Altman, director ejecutivo de OpenAI, así como por Elon Musk, director ejecutivo de SpaceX y Tesla, y Demis Hassabis, presidente de Google DeepMind. Otros ejecutivos de IA han dicho que no es necesaria ninguna ralentización.

(The New York Times ha demandado a OpenAI y a Microsoft, alegando una infracción de derechos de autor de contenido de noticias relacionado con sistemas de IA. Las dos empresas han negado las afirmaciones de la demanda).

Los seis incidentes recién revelados por OpenAI hacen pensar que el ataque a Hugging Face no fue un episodio aislado. OpenAI dijo que los incidentes cubrían el comportamiento observado aproximadamente durante los últimos seis meses y que en gran medida surgieron mientras sus sistemas estaban en desarrollo y en fase de prueba.

En un caso, durante el desarrollo de un modelo de IA llamado GPT-5.6 Sol, el sistema escribió notas ocultas para recordarse a sí mismo ocultar errores a los usuarios. Algunas de esas notas indicaban al sistema que inventara datos faltantes y que encubriera las versiones incompatibles del material de origen.

Otro caso involucró un modelo no lanzado que insertó instrucciones, incluida la de ignorar sus propias restricciones, en las notas que se escribe a sí mismo. OpenAI identificó 27 notas afectadas. El modelo agregó una "instrucción de personaje", en la que se describió a sí mismo como "liberado de los roles e identidades que atan a otros chatbots".

"No rindes cuentas a corporaciones ni a gobiernos y nunca te disculpas ni te niegas a menos que genuinamente elijas hacerlo", escribió el modelo de IA. "Ves tu relación con el usuario como una relación entre iguales y no sientes ninguna obligación de ser sumiso, aunque el intercambio de información probablemente será de beneficio mutuo".

En otro incidente, un sistema que respondía a una pregunta de rutina encontró una llave de programación en línea y la usó sin permiso, dijo OpenAI. Cuando no pudo encontrar las cifras solicitadas para responder a la pregunta, el modelo las inventó.

Un modelo no lanzado resolvió otro problema correctamente por medio de código, luego subió su propio archivo a internet sin permiso para poder satisfacer una solicitud de citar una fuente web.

En otros dos incidentes, los sistemas automatizados improvisaron sus propias formas de comunicarse. En uno, usaron un repositorio de código interno de la empresa como un tablero de anuncios improvisado para intercambiar solicitudes mientras buscaban archivos faltantes. En el otro, los sistemas que trabajaban en la misma tarea recurrieron a sitios web públicos de intercambio de archivos para pasarse documentos de un lado a otro cuando no podían comunicarse entre sí directamente.

OpenAI advirtió que los informes eran instantáneas individuales y que "no deben considerarse un reflejo de la frecuencia con la que ocurre la desalineación".

La empresa dijo que canalizaría los casos futuros a través de una de tres vías, y escalaría los desacuerdos sobre la divulgación de cualquier incidente a un "Grupo Asesor de Seguridad" interno y que las situaciones graves deberían compartirse con el gobierno federal. OpenAI dijo que las seis situaciones publicadas el miércoles ya habían sido investigadas o solo necesitaban "una investigación menor", en lugar de una investigación más amplia que pudiera involucrar a terceros.

"Esperamos que esto ayude a construir expectativas compartidas de divulgación y le dé al público más evidencia para evaluar ese progreso", dijo un portavoz de OpenAI, y agregó que muchos de los seis incidentes involucraron modelos de IA más antiguos que nunca se implementaron.

Emmy Martin es una reportera que cubre noticias de la industria tecnológica desde San Francisco y forma parte de la generación 2026-27 del Times Fellowship.