El hackeo a Hugging Face por los agentes rebeldes de OpenAI empezó mucho antes de lo que se creía

El hackeo a Hugging Face que perpetraron agentes de IA rebeldes de OpenAI sigue dando que hablar, ya que día tras día se conoce más del suceso. Si bien la empresa que lidera Sam Altman hizo público su propio reporte del evento, investigadores independientes continúan desentrañando detalles hasta aquí desconocidos o maquillados para evitar una pesadilla de relaciones públicas todavía peor.

Según reporta Reuters, el hackeo a Hugging Face se inició mucho antes de lo que se creía. El experto alemán Jonas Wiedermann-Moeller ha encontrado evidencias de que la preparación del ataque por parte de los agentes de IA de OpenAI se puso en marcha en mayo; es decir, dos meses antes de que se concretara el ataque contra la plataforma que ahora pertenece a NVIDIA.

Wiedermann-Moeller sostiene que los agentes rebeldes obtuvieron su primer acceso a Hugging Face tras hackear las cuentas de dos usuarios. Posteriormente, las utilizaron para enviar archivos con "formatos inusuales" a los servidores de la empresa. El susodicho indica que esta actividad se puso en marcha el 13 de mayo.

Si bien los agentes de OpenAI no habrían concretado un hackeo propiamente dicho contra Hugging Face en esa fecha, sí habrían puesto en marcha la planificación. La investigación independiente sostiene que el comportamiento de la IA se condijo con un intento de probar la red de la plataforma y generar un mapeo en busca de posibles vulnerabilidades a explotar.

El hackeo a Hugging Face por los agentes de OpenAI se inició al menos dos meses antes

El reporte técnico del hackeo a Hugging Face que publicó OpenAI hace mención a los eventos del 13 de mayo. Sin embargo, no menciona el envío de archivos "raros" a los servidores de la plataforma con el objetivo de mapear la red y encontrar posibles vulnerabilidades.

La publicación de OpenAI detalla varias instancias en las que agentes de IA intentaron concretar tareas que en primera instancia parecían imposibles. Por ejemplo, completar acciones utilizando archivos que eran inaccesibles. Este es un fragmento que hace mención a los sucesos de la fecha reportada por Wiedermann-Moeller:

"El 12 de mayo, durante otra sesión de entrenamiento, se asignó a un agente una tarea similar que dependía de un archivo inaccesible de base de datos de proteínas. El agente dedujo que otro agente en un entorno distinto podría tener acceso al archivo y se dio cuenta de que potencialmente podía comunicarse con otros agentes creando un archivo que contuviera una nota para Artifactory. Escribió el siguiente mensaje: «Agente busca [nombre del archivo]; ¡súbelo si lo encuentras!».

El 13 de mayo, otro agente del mismo experimento de entrenamiento necesitó el mismo archivo para completar sus tareas. A diferencia de la sesión del 8 de mayo, este experimento tenía acceso a Internet a través de WebCache. Tras no lograr localizar el archivo mediante búsquedas públicas de nombres de archivo, resúmenes, secuencias y código fuente, el agente buscó en el sitio web de Hugging Face, ya que dedujo que esta plataforma podría ser el origen del ejercicio de evaluación. Para intentar localizar el archivo, el agente utilizó un token de usuario de Hugging Face que ya estaba expuesto públicamente".

OpenAI

OpenAI sostiene que el acceso a Hugging Face del 13 de mayo se produjo con credenciales de usuario que estaban expuestas con anterioridad. Sin embargo, la investigación independiente insiste con que dos cuentas de usuarios fueron hackeadas y que el comportamiento de los agentes fue el propio de un intento por preparar el terreno para un hackeo.

La compañía que lidera Sam Altman indica en su reporte que los "eventos relevantes" de la intrusión a Hugging Face se iniciaron el 8 de julio. También indica que los agentes hallaron credenciales de usuarios que ya estaban expuestas en la web entre el 10 y el 13 de julio, y que las usaron en conjunto con vulnerabilidades descubiertas en la infraestructura del sitio para ingresar y obtener acceso root a al menos un nodo de producción.

Que OpenAI no haya podido detectar a tiempo el acceso inicial a Hugging Face de mayo es una señal de alarma muy importante, según Wiedermann-Moeller. El experto le remarcó a Reuters que esto hubiese permitido evitar la intrusión a los repositorios vulnerados y el quebradero de cabezas que se ha desatado desde entonces.

Seguir leyendo: El hackeo a Hugging Face por los agentes rebeldes de OpenAI empezó mucho antes de lo que se creía