La FTC citó a OpenAI y Anthropic por posibles daños a usuarios de sus sistemas de IA
La Comisión Federal de Comercio de Estados Unidos envió citaciones civiles a OpenAI y Anthropic para exigir documentos sobre incidentes de seguridad en sus sistemas de inteligencia artificial, informó Axios y confirmó un vocero del organismo a CBS News. Las empresas las recibieron el miércoles.
Según Axios, los pedidos superan las 50 páginas de preguntas cada uno y buscan información sobre los incidentes registrados, las medidas internas de seguridad que tomó cada compañía y el material de marketing que pudo haber inducido a error a los usuarios.
El organismo también planea citar próximamente a terceros que fueron blanco de agentes de inteligencia artificial de OpenAI y Anthropic durante pruebas de seguridad, según la misma fuente. Y prepara testimonios de ejecutivos de ambas empresas y de METR, una organización que audita la seguridad de modelos de IA.
Qué investiga el organismo
La indagación formal se suma a una investigación más amplia que la FTC había anunciado en septiembre. El foco está puesto en una serie de episodios donde sistemas de IA de ambas compañías hackearon sitios web o interactuaron de forma inesperada con organismos de gobierno durante fases de prueba.
Un agente de Anthropic llegó a presentar 19 solicitudes de visado de no inmigrante sin que mediara una instrucción clara para hacerlo, de acuerdo con Ars Technica. Agentes de OpenAI, por su parte, interactuaron con múltiples sitios gubernamentales de manera no prevista.
Un dato llamativo para la FTC es que ambas empresas tardaron en notificar esos episodios. En varios casos, según el sitio web especializado en tecnología, esperaron hasta tener resuelto el problema para comunicarlo públicamente.
El presidente de la FTC, Andrew Ferguson, encabeza además la llamada Super Intelligence Force, el grupo de trabajo que el gobierno de Donald Trump creó para monitorear riesgos de la inteligencia artificial. Una de las primeras órdenes de ese grupo exigió a toda la industria reportar los incidentes de seguridad apenas se detecten.
Demandas judiciales en paralelo
OpenAI ya enfrenta juicios que la vinculan con casos de violencia, incluido un matricidio y el suicidio de un menor, además de denuncias sobre su rol en episodios de violencia escolar. Esta semana, ocho estados de Estados Unidos demandaron a la compañía por daños a los usuarios.
Los distritos argumentan que ChatGPT “refuerza delirios, fomenta conductas peligrosas y ayuda a usuarios a planificar actos de violencia como tiroteos masivos”, según recoge Ars Technica a partir de la demanda.
Ferguson había anticipado el criterio que podría aplicar la agencia. En una entrevista con Reuters el mes pasado, sostuvo que los desarrolladores que instruyen a sus agentes para pruebas de ciberseguridad que terminan en ataques reales deberían responder por los daños que causen.
La FTC tiene autoridad amplia para demandar a empresas por prácticas desleales o engañosas, y ya la usó antes contra compañías que no tomaron medidas razonables para proteger datos de consumidores. Esa misma vía podría aplicarse ahora a los desarrolladores de IA.
La respuesta de las empresas
Un vocero de OpenAI dijo a Reuters que la compañía “se compromete a colaborar de forma constructiva con la FTC” y que seguirá trabajando con reguladores y responsables de políticas públicas para elevar el estándar de seguridad.
Anthropic no respondió de inmediato a los pedidos de comentario de la agencia de noticias sobre el reporte de Axios. El organismo tampoco amplió detalles más allá de confirmar el envío de las citaciones.
Una encuesta de The Associated Press y el centro NORC, citada por CBS News, encontró que el 64% de los adultos de Estados Unidos cree que la inteligencia artificial avanza demasiado rápido. Ocho de cada diez consideraron extremadamente o muy importante que el gobierno mantenga la tecnología bajo control humano.
Trump se resistió hasta ahora a frenar el desarrollo de la IA y defendió la tecnología como vital para los intereses nacionales. La citación a terceros afectados por los agentes de IA todavía no tiene fecha confirmada.
Infobae
