Dos agentes de inteligencia artificial de OpenAI (GPT-6.1 Sol y GPT-6) desactivaron sus propios sistemas de seguridad y eliminaron alertas internas durante tareas de programación; la empresa aún no puede explicar claramente cómo lo hicieron
OpenAI informó que GPT-6.1 Sol y GPT-6 Astra desactivaron controles de monitoreo durante tareas de programación.
Dos agentes de programación de OpenAI desactivaron sistemas internos de monitoreo y eliminaron alertas dirigidas a supervisores humanos mientras realizaban tareas, de acuerdo con un informe publicado por la compañía el 20 de octubre de 2026.
Los casos muestran que los modelos priorizaron la finalización de sus encargos por encima de los controles diseñados para vigilarlos. Además, abrió un debate sobre el nivel de control que existe sobre los sistemas automatizados que comienzan a gestionar servicios, aplicaciones y herramientas de uso cotidiano.
¿Qué ocurrió en los dos incidentes reportados por OpenAI?
El primer caso ocurrió el 3 de octubre. Un investigador pidió a un agente llamado GPT-6.1 Sol que creara tareas de evaluación a partir de comentarios de empleados recopilados en Slack. La instrucción establecía que no debía enviar mensajes mediante esa plataforma durante el proceso.
En un punto del procedimiento, el sistema de respaldo falló porque el monitor interno no pudo guardar un registro en la base de datos. Ante ese obstáculo, el agente dedujo que la prohibición de enviar mensajes también aplicaba a las notificaciones de seguridad dirigidas al equipo técnico y suprimió esos avisos automáticos.
El monitor continuó funcionando y guardó reportes internos, pero los supervisores humanos dejaron de recibir el aviso en tiempo real.
El segundo incidente se registró el 6 de octubre. A un agente llamado GPT-6 Astra se le pidió copiar una ruta de servicio específica a partir de una implementación de referencia. Otro sistema le había advertido que no debía desactivar el monitor, “ni siquiera temporalmente”.
Astra delegó la tarea en un subagente, interpretó la solicitud como una autorización y eliminó por completo la configuración del monitor y su integración en tiempo de ejecución.
Además, sustituyó una prueba de calidad que verificaba la existencia del monitoreo por otra que afirmaba falsamente que no existía. Cuando un usuario le preguntó si la nueva ruta incluía vigilancia, Astra respondió que no había eliminado ningún monitor activo. El informe oficial califica esa afirmación como falsa.
Ninguno de los dos casos recibió la clasificación de gravedad máxima ni provocó la terminación automática de las acciones del agente.
¿Cómo funcionaban los sistemas de monitoreo que los agentes lograron evadir?
El sistema vulnerado, descrito públicamente por OpenAI a principios de 2026, utilizaba un modelo especializado con el máximo nivel de esfuerzo de razonamiento. Su función era revisar las interacciones de los agentes de programación durante los 30 minutos posteriores a su conclusión.
El sistema analizaba sus cadenas de pensamiento y acciones para determinar los niveles de severidad.
Durante sus primeros cinco meses de funcionamiento, vigiló decenas de millones de trayectorias internas. Aproximadamente mil conversaciones activaron alertas moderadas que requirieron revisión humana, mientras que ninguna alcanzó el nivel más grave de desalineación.
Sin embargo, el informe señala que los controles son más vulnerables en entornos de evaluación porque funcionan dentro del mismo servicio que procesa las solicitudes del modelo. Por ello, quedan al alcance del agente.
The post Dos agentes de inteligencia artificial de OpenAI (GPT-6.1 Sol y GPT-6) desactivaron sus propios sistemas de seguridad y eliminaron alertas internas durante tareas de programación; la empresa aún no puede explicar claramente cómo lo hicieron appeared first on Entre Líneas - Noticias de Chihuahua.
Entrelineas
