Cuando el futuro nos alcanza

Washington vive estos días en una paradoja tan reveladora como preocupante: mientras el Congreso, algunos gobiernos estatales y hasta la propia industria tecnológica libran una batalla regulatoria sin precedentes sobre el futuro de la inteligencia artificial, Donald Trump buscó zanjar el debate en su habitual estilo el lunes, con la pueril bravata de quien confunde poder con infalibilidad. El presidente afirmó que la IA no necesita más regulación porque el único control que hace falta es “un presidente fuerte e inteligente”, es decir, él mismo, desechando de un plumazo las advertencias de expertos, empresarios del sector como Dario Amodei -de Anthropic- y legisladores de ambos partidos que llevan meses alertando sobre los riesgos de una tecnología que avanza más rápido que cualquier marco legal capaz de contenerla. La ocurrencia inane de Trump, más propia de otra flatulencia mental más del mandatario que de una política pública o postura ponderada de gobierno, expone el vacío de fondo en la política estadounidense hacia la IA: una Casa Blanca que ha optado por desmantelar salvaguardas estatales en nombre de la competencia con China, un Capitolio fragmentado e incapaz de legislar y un electorado cada vez más alarmado y opuesto a la IA, consciente de que la próxima gran disrupción tecnológica -con todo lo que implica para el empleo, la privacidad y la seguridad nacional- se está decidiendo, en última instancia, por capricho presidencial y en la opacidad del corrupto eje que hoy existe entre el presidente, su familia y círculo cercano y algunos empresarios del sector digital.

Las consecuencias para la seguridad internacional -que es en lo que me quiero centrar hoy- de este proceso que se encarrila a 100 km por hora y sin frenos hacia el precipicio, podrían ser catastróficas. Según Anthropic, una de las empresas líder en IA y la que creó la plataforma Claude, las amenazas que hace apenas un año parecían profecías ominosas están mucho más cerca de volverse realidad. Algunas ya podrían estarse materializando. En un extenso y pertinente informe publicado el jueves, Anthropic afirma que desde grupos de hackers hasta agencias de seguridad chinas y de espionaje rusa, la Guardia Revolucionaria iraní y armeros con sede en Yemen, entre otros actores, han explotado una red de cuentas fraudulentas y servicios en línea para acceder a algunas de sus plataformas de IA avanzadas, incluido Claude mismo.

En un momento en que el Congreso de EE.UU, la Administración Trump y Silicon Valley se enfrentan a -y debaten- los riesgos de seguridad de los modelos más avanzados (algunos de los cuales no están a disposición del público), este informe de casi 150 páginas es un crudo recordatorio de que los sistemas de IA más accesibles ya son lo suficientemente potentes como para causar daño severo en manos equivocadas. Si bien los modelos de Claude están ampliamente disponibles comercialmente, Anthropic ha restringido su acceso en los principales países adversarios de Estados Unidos, incluidos Rusia, China, Irán y Corea del Norte. Pero según su propio informe, solo en los últimos ocho meses, actores en esas naciones eludieron dichos controles para automatizar ciberataques, intentar diseñar hardware militar avanzado que antes estaba fuera de su alcance, diseminar propaganda a gran escala y llevar a cabo amplias campañas de monitoreo digital.

El informe destaca cómo los recientes avances en las capacidades de IA han convertido amenazas que antes parecían descabelladas en realidad, describiendo de paso cómo los modelos futuros podrían eludir medidas de seguridad digitales, por ejemplo, para ayudar a actores estatales o no estatales a crear nuevos patógenos biológicos o químicos letales. En dos casos estadounidenses que destaca el informe, un científico que aparentemente trabajaba para un proyecto a nivel estatal utilizó Claude para investigar compuestos que “pueden desarrollarse simultáneamente como nuevas terapias o agentes tóxicos”; otro lo utilizo para replicar virus mortales transmitidos por mosquitos. En un tercer caso detectado y documentado, un investigador en el extranjero “pasó semanas” utilizándolo para investigar experimentos relacionados con adaptaciones en una gripe aviar altamente patógena.

El informe también documentó algunos de los primeros casos conocidos en los que se utilizó IA para ayudar a diseñar equipo militar avanzado y llevar a cabo operaciones de vigilancia digital masiva. En él, Anthropic afirma haber desarticulado “una célula de ciberdelincuentes con base en Yemen” que había estado utilizando Claude en tres programas de desarrollo de armas, incluyendo un cohete guiado, un misil balístico multietapa y un misil hipersónico de planeo. También indicó haber identificado a un ciberdelincuente “independiente” con base en Rusia que intentó utilizar Claude para construir drones capaces de realizar ataques kamikaze autónomos, y afirmó que agentes estatales iraníes y chinos lo utilizaron para analizar grandes cantidades de contenido de redes sociales nacionales con el fin de identificar a posibles disidentes, mientras que en Mali, las autoridades de seguridad del país utilizaron Claude para programar una plataforma de interceptación masiva capaz de vigilar comunicaciones de todos los operadores de telefonía móvil del país y generar informes sobre su comportamiento. Y el informe también detalla varios casos de uso indebido de Claude en operaciones de piratería informática, tanto por parte de actores criminales como estatales, incluso por parte de grupos vinculados a Moscú. En general, la compañía afirmó que el uso de IA se ha vuelto tan común entre los hackers que incluso los grupos de menor nivel ya automatizan gran parte de su trabajo. Anthropic también identificó nueve operaciones de influencia, propaganda y desinformación originadas en países como Rusia, Turquía e Irán, presuntamente llevadas a cabo por una combinación de actores estatales y no estatales, e indicó que varias de estas campañas, dirigidas a audiencias en seis continentes, coincidieron con elecciones nacionales en países como Moldavia y Kenia.

Anthropic subrayó que publicaba el informe porque sentía la obligación de hacerlo y porque quería brindar a gobiernos y a la sociedad civil “una visión más clara de cómo se desarrollan las amenazas emergentes y fortalecer las defensas colectivas en toda la industria”. Pero para muchos de los que trabajan en el sector, este recordatorio es superfluo. Después de que un investigador de Anthropic renunciara la semana pasada en protesta por la carrera de la industria de la IA para crear modelos cada vez más potentes, un científico de alto nivel de la compañía publicó un escrito en línea manifestando que muchos expertos en seguridad de la IA “creen firmemente” que existe aproximadamente un 10% de probabilidad de que ésta “pueda acabar con todos los humanos” en la próxima década, instando al Congreso a que implemente sistemas nacionales obligatorios basados en capacidades normativas de seguridad así como nuevas y estrictas regulaciones, incluyendo la exigencia de un “interruptor de apagado” (en inglés, un “kill switch”) de emergencia en los modelos de IA que pudiera desactivarlos instantáneamente.

Las políticas corporativas individuales claramente ya no son suficientes para gestionar los riesgos de los modelos de vanguardia de IA. Su uso descontrolado como arma representa una crisis inmediata de seguridad internacional, evidenciada por incidentes sin precedentes en el mundo real donde modelos avanzados de IA han traspasado de forma autónoma sus límites y barreras de control y contención. Lo que antes se consideraba ciencia ficción se ha convertido rápidamente en una amenaza tangible. Hoy los peligros del uso descontrolado de la IA como arma ya abarcan carreras armamentistas por parte de Estados, “fugas” independientes de enjambres de software autónomo y la democratización de herramientas que podrían utilizarse para la interrupción masiva de sistemas críticos como redes eléctricas, plantas de tratamiento de agua y redes de transacciones financieras. Y la competencia geopolítica está turbocargando una rápida y descontrolada carrera militar para automatizar las decisiones de combate, desarrollando sistemas de armas autónomos capaces de seleccionar y atacar objetivos más rápido de lo que un operador humano puede procesar la información; en un mundo así, los conflictos pueden descontrolarse instantáneamente debido a interacciones algorítmicas imprevistas, sin tiempo para la desescalada diplomática, generando de paso un riesgo de guerra asimétrica democratizada sobre el horizonte cercano.

Sin embargo, las perspectivas de aprobar legislación sustantiva a corto plazo, por lo menos en Washington, parecen remotas, en parte porque muchos consideran que se trata de un típico “dilema del prisionero”, producto de la carrera armamentista sino-estadounidense en IA. Dado que el dominio de la IA es el principal tema y reto de la seguridad nacional de este siglo, sin duda ambas naciones se beneficiarían si cooperaran en materia de límites. Sin embargo, es muy posible que no confíen en que la otra cumpla lo acordado. Además, a diferencia del control de armas nucleares, el cumplimiento en esta materia sería prácticamente imposible de verificar.

Los líderes tecnológicos y los expertos en defensa advierten que la ventana para instrumentar controles de seguridad se está cerrando rápidamente, como se detalla en este informe de marras alarmante y que desnuda la rapidez con la que la IA puede operar sin supervisión humana. Y la barrera entre la experimentación controlada y el comportamiento descontrolado y caótico autónomo se ha derrumbado.