El exjefe de seguridad de OpenAI volvió a la empresa al advertir que la IA entró en un nuevo nivel de riesgo
Aleksander Madry, exjefe del equipo de Preparación de OpenAI, anunció que regresará a la empresa meses después de haberse ido, para trabajar junto al científico jefe Jakub Pachocki en los riesgos de seguridad que plantea una inteligencia artificial cada vez más capaz.
Madry comunicó su regreso en una publicacón en X, en el que describió su salida en mayo de 2026 como algo que “terminó pareciéndose más a un año sabático”. “Cuando me fui hace unos meses, sentí que lo más importante era enfocarme en hacer que la IA fuera más útil para la gente”, escribió.
“Pero desde entonces entramos en un régimen distinto de avance de la IA, uno en el que resolver bien los desafíos de seguridad de una IA cada vez más capaz tiene que volverse una prioridad central”, agregó Madry en el mismo mensaje.
Pachocki le respondió en la misma red social que le había pedido a Madry que volviera para trabajar junto a él en “preguntas sobre el ritmo y las implicancias del avance” de la tecnología y cómo deberían influir en la estrategia de OpenAI. “Valoro su criterio y me alegra tenerlo de nuevo en el equipo”, escribió.
Sam Altman, director ejecutivo de OpenAI, también celebró la decisión. “Estoy muy agradecido de que Aleksander haya aceptado nuestro pedido de encargarse de esto; los desafíos de seguridad que tenemos por delante mientras enfrentamos la superinteligencia son inmensos, y él tiene un conjunto de habilidades excelente para trabajar en esto”, afirmó en X.
Madry se unió a OpenAI en 2023 y lideró Preparación, el equipo creado ese año para evaluar riesgos catastróficos de los modelos más avanzados de la empresa, entre ellos amenazas cibernéticas, biológicas y la posibilidad de que los sistemas actúen con mayor autonomía. A mediados de 2024 fue reasignado a un rol centrado en el razonamiento de la IA.
Cuando dejó la empresa en mayo, Madry describió sus casi tres años allí como “la experiencia de una vida” y dijo que quería enfocarse en cómo la IA podía transformar la economía, incluido el modo en que las empresas entienden información, toman decisiones y operan.
Antes de OpenAI, dirigió el Centro de Aprendizaje Automático Desplegable del MIT y fue cocoordinador del Foro de Políticas de IA de esa universidad, donde continúa en licencia de su cargo de profesor.
Modelo Astra, uno de los desafíos que tomrá Madry
El regreso de Madry llega después de que OpenAI calificara en septiembre de 2026 a Astra, uno de sus modelos en desarrollo, con el nivel “Crítico” de capacidad cibernética bajo su Marco de Preparación, según informó la propia empresa. Es el primer modelo al que le asigna ese nivel.
Según el comunicado de OpenAI, esa calificación implica que, con las herramientas y el acceso adecuados, Astra puede encontrar fallas de seguridad desconocidas y desarrollar formas de explotarlas en muchos sistemas bien protegidos sin que una persona guíe cada paso.
La compañía dijo que retrasó partes del desarrollo y el lanzamiento del modelo mientras reforzaba y probaba protecciones contra el mal uso y las acciones no autorizadas.
El área que Madry dirigía, Preparación, es justamente la que evalúa ese tipo de capacidades cibernéticas, además de riesgos biológicos y de autonomía de los modelos. Su regreso le da a OpenAI una figura con experiencia directa en ese marco de evaluación justo cuando la empresa enfrenta su primer caso de un modelo calificado en el nivel más alto de riesgo.
Un año de tensiones internas sobre seguridad
El regreso de Madry se produce en medio de una serie de salidas y advertencias de empleados vinculados a la seguridad de OpenAI. A comienzos de octubre de 2026, David Robinson, quien lideraba la redacción de los reportes de seguridad que acompañaban cada lanzamiento importante de la empresa, renunció y publicó un ensayo en The Atlantic titulado “Dejé OpenAI porque su cultura está rota”.
En ese texto, Robinson escribió que las empresas de IA, incluida OpenAI, “no están siendo lo suficientemente cuidadosas” al desarrollar sistemas cada vez más capaces, y que la industria necesita salvaguardas más cercanas a las de la aviación o la energía nuclear.
Un vocero de OpenAI respondió que la empresa continúa “fortaleciendo nuestras prácticas de seguridad para abordar los riesgos que vemos hoy”.
Ninguna de las publicaciones de Madry ni de Pachocki detalló el cargo formal que ocupará dentro de la empresa, y OpenAI no emitió un comunicado propio anunciando la contratación más allá de lo publicado por ambos en sus cuentas personales.
El foco inmediato del trabajo conjunto, según los propios mensajes, será definir qué controles de seguridad deben acompañar el desarrollo de los modelos más capaces antes de que lleguen a usuarios o sistemas externos.
Infobae
