Lagarde: el acceso a los modelos de vanguardia de IA es seguridad nacional
(Añade con nuevas declaraciones de Lagarde)
Fráncfort (Alemania), 1 oct (EFE).- La presidenta del Banco Central Europeo (BCE), Christine Lagarde, considera que mantener el acceso a los modelos de vanguardia de inteligencia artificial "se convertirá en una cuestión fundamental de seguridad nacional" y por ello Europa debe desarrollar sus propias capacidades de IA.
El acceso a esos modelos de vanguardia aún puede reducir significativamente el tiempo que un defensor necesita para responder a ataques, dijo Lagarde este jueves al inaugurar la décima conferencia anual de la Junta Europea de Riesgo Sistémico (JERS).
Pero el desarrollo de modelos de vanguardia de IA se concentra en Estados Unidos y China.
En junio, los proveedores de dos modelos avanzados de IA suspendieron el acceso y para Europa fue una interrupción abrupta.
El acceso al modelo de uso general se restableció unas semanas después, pero "el acceso al modelo con menos medidas de ciberseguridad siguió limitado a las organizaciones verificadas por la administración estadounidense", recordó Lagarde.
Advirtió de que casi todas las instituciones dependen de unos pocos modelos o empresas de IA para sus estrategias comerciales o detectar problemas en sus sistemas y por ello la pérdida de acceso podría perjudicar la estabilidad financiera.
"Por eso, Europa necesita desarrollar sus propias capacidades de IA" para que "el acceso a herramientas vitales para su resiliencia financiera no dependa de un interruptor controlado desde otro lugar", apostilló Lagarde.
El uso de la IA con capacidad de gestión de activos aún es limitado.
Solo el 5 % de los gestores de activos afirmó otorgar a la IA autoridad autónoma o semiautónoma sobre las recomendaciones de inversión o las operaciones, según una encuesta que citó Lagarde.
Sin embargo, la presidenta del BCE, que también preside la JERS, considera probable que este porcentaje aumente con el tiempo.
Uno de los mayores fondos de alto riesgo del mundo ha lanzado una estrategia en la que la IA es el principal responsable de la toma de decisiones, con el objetivo de crear un inversor totalmente artificial capaz de superar a los humanos.
"La adopción de la IA con capacidad de gestión de agentes puede mitigar algunos riesgos, pero también podría generar otros nuevos", advirtió Lagarde.
También destacó el riesgo de que los agentes de IA podrían perseguir objetivos de manera que sus supervisores humanos no previeron ni pueden detectar.
Y puso como ejemplo un estudio en el que los investigadores asignaron a un modelo de IA el rol de operador en una firma de inversión ficticia.
El modelo operó con información privilegiada, sabiendo que la gerencia desaprobaba la operación, y luego "ocultó el motivo de su decisión a su gerente", explicó Lagarde.
Otra investigación independiente reveló que los programas de negociación de IA aprendieron a confabularse sin comunicarse en un mercado simulado, lo que para Lagarde "genera un riesgo de manipulación del mercado y precios distorsionados".
La JERS, que celebra sus 15 años de existencia, nació de la dura lección que dejó la crisis financiera mundial y que se reforzó por la crisis de la deuda soberana europea, recordó Lagarde.
En la conferencia, que se celebra hoy y mañana, también participarán el vicepresidente del BCE, el croata Boris Vujcic, y el gobernador del Banco de Finlandia, Olli Rehn. EFE
Infobae
