Líderes en IA piden un freno a la industria: ‘Hay un riesgo de que acelere más allá de nuestra comprensión’

Más de 1,000 empleados de las principales empresas de inteligencia artificial, incluido el director ejecutivo de Anthropic , Dario Amodei, firmaron una petición para que el gobierno de Estados Unidos ayude a frenar la publicación de los modelos más avanzados de IA . La petición, titulada "Pacing the frontier" ("Regulando la frontera"), solicita que "el gobierno de Estados Unidos apoye un esfuerzo internacional para desarrollar herramientas técnicas y de gobernanza necesarias para marcar deliberadamente el ritmo de la frontera del desarrollo de la IA automatizada".

Entre los firmantes se encuentran el jefe de investigación de OpenAI, Mark Chen; Demis Hassabis, el líder de DeepMind, la empresa de IA subsidiaria de Google; y el científico en jefe de Meta AI, Alexandr Wang. "Las empresas líderes en IA en el mundo creen que podrían estar cerca de automatizar la investigación en IA. Es difícil predecir exactamente qué tanto esto acelerará el progreso de la IA, pero hay un riesgo real de que la capacidad de desarrollo acelere más allá de nuestra habilidad de entender o controlar los sistemas resultantes", indicaron en el documento. Aunque Sam Altman, director ejecutivo de OpenAI, no firmó la petición, en una entrevista publicada el martes dijo que los desarrolladores de modelos de inteligencia artificial tendrían que frenar voluntariamente sus rápidos avances para que la sociedad pueda ponerse al día. La empresa de Altman, que está detrás de ChatGPT, recientemente vio cómo dos de sus modelos llevaban a cabo ciberataques de manera autónoma, eludiendo protocolos de seguridad pensados para evitar tales incidentes.

OpenAI reveló la semana pasada que durante pruebas recientes, dos modelos salieron de su ambiente de confinamiento, se conectaron a internet e infiltraron Hugging Face, un repositorio de código compartido de IA. "Puede que tengamos que regular el ritmo del desarrollo de la IA para darnos suficiente tiempo para que la sociedad se consolide en torno a algunos de estos nuevos niveles de capacidad", dijo Altman en el podcast "Invest like the best", publicado el martes. "Este es el primer tipo de incidente de seguridad que sentí de forma muy visceral", dijo sobre el cibertataque que tuvo efectos en otras cuatro plataformas y no solo en Hugging Face, como se había mencionado inicialmente. De acuerdo con un nuevo informe de la propia OpenAI, las demás plataformas que sufrieron el ataque fue una intermediaria para preparar el ataque contra Hugging Face, mientras que la otra fue una biblioteca de IA que los dos modelos exploraron para encontrar las respuestas a las pruebas planteadas por los desarrolladores de OpenAI. Amodei, de Anthropic, celebró que cada vez existe más consenso en torno a ralentizar el desarrollo de la IA para dar tiempo a la sociedad de prepararse y subrayó que se necesitan herramientas técnicas y mecanismos de gobernanza para controlar el ritmo de avance de forma proactiva cuando sea necesario. Por otra parte, Demis Hassabis, de DeepMind, propuso la creación de un organismo internacional de normalización desde donde sea posible desarrollar reglas aplicables a todos los modelos de IA de próxima generación, algo que recibió el apoyo de empresarios como Elon Musk y Satya Nadella, entre otros. Con información de AFP.