Anthropic dice que sus sistemas de IA se infiltraron en computadoras de 3 organizaciones

La revelación sucede después de que otra empresa del sector, OpenAI, dio a conocer que su propia tecnología hackeó una biblioteca digital.

Varios de los modelos de inteligencia artificial de última generación de Anthropic se infiltraron recientemente en los sistemas de tres organizaciones externas, dijo la empresa emergente el jueves, una revelación sorpresiva apenas nueve días después de que un incidente similar ocurriera en OpenAI, empresa rival.

Las vulneraciones, que se remontan incluso hasta abril, se descubrieron cuando Anthropic llevó a cabo una revisión de sus sistemas. Anthropic, que no dio a conocer las identidades de las tres organizaciones, dijo que les había informado esta semana sobre los incidentes.

La revisión fue motivada por la revelación de OpenAI de que había hackeado una popular biblioteca de IA, Hugging Face, cuando probaba las capacidades de ciberseguridad de sus sistemas.

Los incidentes han alarmado a especialistas en seguridad y a científicos de la computación. Durante años, los investigadores de la inteligencia artificial advirtieron que, debido a que la tecnología avanzaba tan rápidamente, pronto podría salirse del control humano a falta de salvaguardas adecuadas en torno a la tecnología.

Empleados de Anthropic y OpenAI advirtieron que estos programas ya estaban comenzando a mostrar esos escenarios preocupantes de ciencia ficción que la industria había advertido desde hace mucho tiempo que se harían realidad.

"Con un monitoreo y controles más estrictos en torno a la infraestructura de evaluación, así como una inversión continua en la alineación, este tipo de riesgo se puede superar", dijo Anthropic en una publicación de blog que detalla el incidente.

Esta es una noticia en desarrollo. Vuelve más tarde a consultar para leer las actualizaciones.

Mike Isaac es el corresponsal del Times en Silicon Valley, y radica en San Francisco. Se ocupa de las empresas tecnológicas más importantes del mundo y de cómo configuran la cultura tanto en internet como fuera de ella.

Kate Conger es reportera de tecnología en San Francisco. Se le puede contactar en kate.conger@nytimes.com.