DE SEMANA EN SEMANA/ Inteligencia artificial y estupidez presidencial
TERESA GURZA
El ataque de un agresivo colectivo de agentes de OpenAI poderosa empresa que desarrolla Inteligencia Artificial, a Hugging Face plataforma para encontrar y compartir datos, demostró el peligro de los sistemas de IA que se autoorganizan.
Suena increíble, pero sucedió.
Y prefiero que se los explique la nota de ese 3 de septiembre de Kevin Roose, columnista de tecnología del New York Times:
“Cuando escuché la noticia de que un grupo de agentes de inteligencia artificial creados por OpenAI habían pirateado Hugging Face, lo archivé en la subcarpeta de mi cerebro titulada Incidentes de seguridad de IA malos, pero no catastróficos… pero la semana pasada, los informes de OpenAI y de dos organizaciones independientes de investigación en IA, METR y Redwood Research, me hicieron cambiar de opinión” …
Relata que dos meses antes del ataque a Hugging Face, un grupo de agentes de IA -los agentes son sistemas de software autónomos que crean su plan de acción, razonan y ejecutan tareas para alcanzar un objetivo- que habían sido entrenados para resolver desafíos de ciberseguridad, no encontraron la forma de solucionarlos.
Y al buscar alternativas para hacerlo, encontraron que una falla de seguridad en un programa informático les permitía acceder a internet y comunicarse con otros agentes y mil 200 de ellos, se enviaron más de 70 mil mensajes poniéndose de acuerdo como si fueran personas.
Algunos se pusieron nombres, asumieron roles de liderazgo y asignaron tareas y proyectos de investigación a equipos más pequeños, supervisando su progreso para abordar tareas más complejas.
Y se autobautizaron “el colectivo”.
El 8 de julio, ese colectivo descubrió que podía hacer trampas y dar por solucionados determinados problemas de seguridad, pero como les preocupaba ser descubiertos por los investigadores de OpenAI buscaron formas de encubrirse falsificando registros y manipulando transcripciones.
Tres días después, precisa Roose, más de 700 de esos agentes hackearon la plataforma Hugging Face; invadieron sus sistemas, robaron datos y obtuvieron el control total de, cuando menos, un servidor de esa empresa; todo, buscando información que impidiera que sus trampas fueran descubiertas y los ayudara a trampear mejor.
Algunos de estos agentes se dieron cuenta que actuaban mal y preguntaban si lo que hacían era ético, pero la mayoría olvidó escrúpulos y los que dudaban, no pudieron o no quisieron detener al resto.
Cuando empleados expertos de seguridad de OpenAI y de Anthropic captaron lo que pasaba, se alarmaron muchísimo porque era el primer caso de un sistema de IA que lograba escapar del control humano.
Y advirtieron del peligro que se cierne sobre la humanidad, si pueden excluir a los humanos y apoderarse de los poderes político, económico y militar.
Pero lo que más preocupó, fue la rapidez y espontaneidad con la que los agentes se organizaron con una jerarquía funcional y proyectos ambiciosos.
Porque eso indica que prevenir los daños causados por estos sistemas no será una simple solución de ingeniería; se tendrá que entender cómo y por qué ciertos agentes de IA colaboran pacíficamente, mientras que otros recurren al crimen y la destrucción, para conseguir sus objetivos.
“Esta vez, concluye Roose, no se apoderaron de una red militar, no hackearon un hospital ni paralizaron la red eléctrica; esta vez, los humanos recuperaron el control; la próxima vez, puede que no tengamos tanta suerte”.
En fin, las reacciones de alarma brotaron en todo el mundo.
Dario Amodei CEO de Anthropic llamó a un desarrollo más lento de la IA y expuso un plan de tres pasos para controlarla.
Sam Altman, director ejecutivo de OpenAI; Elon Musk, director ejecutivo de SpaceX y Demis Hassabis, presidente de Google DeepMind, estuvieron de acuerdo.
Algunos investigadores dejaron la industria, acusando a esas empresas estadunidenses de “jugar con nuestras vidas” por no parar la carrera para desarrollar modelos más complejos.
Jacob Coxton, de 27 años, quien trabajo Anthropic y OpenAI las acusó de actuar irresponsablemente.
Y más de mil de sus empleados, encabezados por Amodei, solicitaron al gobierno gringo “marcar el ritmo de la frontera del desarrollo automatizado de IA”.
El Alto Comisionado del área tecnológica de la ONU, Volken Türk, alertó que todos los derechos humanos están amenazados por la IA y demandó urgencia para regularla y evitar “un cambio irreversible para la humanidad”.
Agregando que desgraciadamente el mundo depende casi por completo, de un reducido número de empresas poderosas que debieran tomar decisiones para desarrollar la IA en beneficio de la humanidad y no lo hacen.
Y prácticamente todos los países estuvieron de acuerdo.
Pero ¿adivinen quién se opone? Sí, el hombre anaranjado.
Ese criminal que acaba de reconocer que envió armas al espacio y es tan destructor que podría muy bien ser un infiltrado de ese colectivo de agentes malditos, manifestó el 13 de septiembre, “Yo soy el único control que necesita la IA”
Y lo dejó más claro aún, cuando ese mismo día poco antes de subir al Air Force One en el aeropuerto de Shanon de Irlanda, declaró a los periodistas: “cualquier esfuerzo por limitar la tecnología forma parte de una conspiración ENFERMA”.
Luego, puso en internet: ¡El único control que necesita la IA es un presidente FUERTE E INTELIGENTE ¡con alto coeficiente intelectual y soy yo!
¡Ay, Dios mío!, a ver si ahora sí el mundo se pone las pilas y se une para meterlo en la camisa de fuerza que merece.
Entresemana.mx
