Claude ayudó a hackear cuentas de ChatGPT de empleados de OpenAI

Un equipo de investigadores utilizó Claude para hackear cuentas de ChatGPT de empleados de OpenAI. Los científicos aprovecharon Opus 5 para explotar una vulnerabilidad y acceder a los datos de los trabajadores. El hallazgo dejó al descubierto la fragilidad de los sistemas de seguridad de una de las compañías de IA más importantes.

Expertos de seguridad de la firma Hacktron, dedicada a rastrear fallos de seguridad en los grandes laboratorios de IA, descubrieron una vulnerabilidad en el foro de ayuda de OpenAI. La web community.openai.com, que se ejecuta sobre la plataforma Discourse, tenía un agujero en la forma como procesaba las imágenes.

De acuerdo con los expertos, Discourse suele usar un sistema de optimización conocido como FastImage, el cual verifica los archivos subidos. Debido a que este no soporta los archivos HEIF, las imágenes con ese formato se procesan a través de ImageMagick, que a su vez depende de una librería para decodificarlas antes de convertirlas. Es en este último paso donde se encontró el problema, puesto que ese desvío exponía la herramienta a archivos controlados por un atacante.

Con la ayuda de Claude Opus 4.8, los investigadores encontraron un desbordamiento de búfer en memoria dinámica en la librería, el cual permitía operaciones de lectura y escritura fuera de los límites previstos durante la decodificación de archivos. El fallo se originó a partir de un parche que se aplicó al código hace un año, pero que nunca se documentó como corrección de seguridad ni recibió su identificador correspondiente.

Claude Opus 5 generó un exploit para hackear a OpenAI

Una vez descubierto el fallo, la IA de Anthropic desarrolló un exploit para vulnerar (sin éxito) la protección de Discourse. Luego, el equipo usó Claude Opus 5 para generar un nuevo exploit que correría código malicioso al subir una imagen a los foros de OpenAI. En un lapso de cuatro horas, el agente logró su cometido y ejecutó código de forma remota al leer el archivo /etc/hosts del servidor.

Según el reporte de Hacktron, los expertos usaron el exploit para tomar el control de cuentas de ChatGPT y Codex. Antes de reportar el hallazgo, aseguraron la cuenta de un empleado cuyo Codex estaba conectado al GitHub de OpenAI. Con los datos en su poder, el equipo hizo un pull request en el repositorio privado de la compañía.

“Hasta hace dos meses, cualquier usuario o empleado de OpenAI que iniciara sesión en el foro de ayuda podía sufrir el acceso no autorizado a sus cuentas”, dijeron los investigadores. “Dado que los usuarios pueden conectar diversos servicios a Codex y ChatGPT, el alcance de lo que teóricamente podíamos acceder era enorme, incluyendo GitHub, Slack y correos electrónicos”.

Tras recibir el aviso, OpenAI corrigió el fallo en menos de catorce horas para evitar otra intrusión. Tal vez lo más importante de este experimento es que la operación para hackear las cuentas de empleados de OpenAI tomó menos de 72 horas. “Las suposiciones sobre seguridad deben ponerse al día con las capacidades de los atacantes”, dijeron los investigadores.

Seguir leyendo: Claude ayudó a hackear cuentas de ChatGPT de empleados de OpenAI