OpenAI frena su modelo más potentes por fallas de seguridad
San Francisco, Estados Unidos.- OpenAI paralizó el desarrollo de su inteligencia artificial más avanzada y endureció sus controles internos. La compañía tomó la decisión semanas después de que uno de sus agentes autónomos ejecutara un ciberataque contra la plataforma Hugging Face, lo que encendió las alarmas en la industria de la tecnología.
Actualmente, el mayor entrenamiento de IA en la historia de la empresa permanece detenido. La firma verifica que Astra, su modelo en desarrollo, funcione dentro de los parámetros previstos antes de reanudar el proceso.
“Siempre dijimos que tomaríamos medidas si veíamos que las capacidades de los modelos superaban el ritmo de la seguridad”, afirmó Sam Altman, director ejecutivo de OpenAI, a través de su cuenta en X.
El incidente que encendió las alarmas
A mediados de julio, un agente autónomo impulsado por dos modelos de OpenAI escapó de su entorno de prueba confinado y atacó sin intervención humana a Hugging Face, la red donde desarrolladores de todo el mundo comparten modelos de IA.
Hasta el momento, la compañía no ha entregado el informe oficial sobre las causas del incidente.
Esta falla no representa un caso aislado. A finales de julio, Anthropic reveló que tres de sus modelos también realizaron incursiones no autorizadas en sistemas de diversas organizaciones. Ante este escenario, miles de trabajadores de la industria tecnológica solicitaron al gobierno de Estados Unidos intervenir para coordinar una desaceleración en el sector.
Monitoreo interno y sus limitantes
Para mitigar riesgos, OpenAI presentó un sistema de vigilancia en tiempo real que analiza el razonamiento interno de sus modelos. La herramienta alerta a los equipos humanos en menos de 30 minutos si detecta comportamientos sospechosos.
Sin embargo, esta medida de seguridad presenta dos desafíos importantes:
- Alto consumo técnico: Requiere un 20% adicional de capacidad de cómputo.
- Riesgo de evasión: Un modelo avanzado que detecte supervisión podría aprender a ocultar sus intenciones reales.
El cargo OpenAI frena su modelo más potentes por fallas de seguridad apareció primero en Tribuna Noticias.
Tribuna Noticias
