La directora del grupo Citi pide controles para los agentes de inteligencia artificial

Miami (EE.UU.), 28 sep (EFE).- La directora general del grupo financiero estadounidense Citi, Jane Fraser, pidió este lunes que no haya "agentes de inteligencia artificial" (IA) que hagan operaciones "sin control", mientras que el Fondo Monetario Internacional (FMI) solicitó "tomar en serio" los posibles riesgos de la tecnología.

El sistema financiero y el comercio deben prepararse para un futuro en el que las soluciones de IA hagan transacciones en nombre de seres humanos, argumentó Fraser en la conferencia Sibos en Miami Beach, organizada por la plataforma de pagos Swift y considerada el mayor encuentro global de servicios financieros.

"Así que hay un montón de trabajo ocurriendo en este momento en materia de autenticación que permitirá a los agentes actuar en nuestro nombre. Hasta entonces, estoy segurísima de que no voy a tener agentes corriendo descontrolados sin los controles apropiados", expresó la directora del Citi.

El evento de cuatro días, al que asisten financieros, banqueros y figuras como la tenista Serena Williams, ocurre mientras crece el debate sobre los riesgos de la IA en Estados Unidos, donde el presidente estadounidense, Donald Trump, rechazó este domingo las preocupaciones sobre la tecnología y mayores regulaciones.

"No me preocupa", declaró Trump en una entrevista con Fox News en la que también adelantó que cenaría el domingo con Dario Amodei, el fundador de Anthropic. "Vamos a hablar (de IA). Yo abogo por ir y ganar. Estamos un año, quizás un año y medio, por delante de China", indicó.

Sin referirse a estas declaraciones, Dan Katz, primer subdirector gerente del FMI, reconoció ahora que existe un "debate amplio sobre si los sistemas de IA, cada vez más potentes, podrían plantear riesgos tan graves para la sociedad en su conjunto que se necesiten nuevas regulaciones para frenar el ritmo de desarrollo".

"Vale la pena tomarse estas preocupaciones en serio", aseveró.

Katz enunció que "los riesgos cibernéticos están, por supuesto, en el primer lugar de la lista", al considerar que "la IA está rediseñando el riesgo cibernético al acelerar la velocidad, la frecuencia y el alcance de la detección de vulnerabilidades y su posible explotación".

En ese sentido, resaltó como un "desafío" para los funcionarios "respaldar esta innovación sin comprometer la estabilidad" del sistema financiero y "permitir que ocurra esta transformación mientras protegen contra los riesgos".

En ello coincidió la directora del Citi, quien pidió un marco regulatorio que permita que la tecnología se despliegue de una manera "segura", pero "rápida".

"No confío en mi esposo para las compras en el supermercado, así que no puedo esperar a tener un agente que vaya y las haga por mí. Uno que no solo arme la lista, sino que realmente vaya y lo haga por mí. Ese va a ser un gran cambio que esperamos, al ver que la IA ha estado dando mucha mejor información a los consumidores", dijo.

El debate sobre el peligro de la inteligencia artificial se da luego de que un investigador de Anthropic anunciara su dimisión debido a la preocupación de que la empresa y sus competidores no estuvieran desarrollando modelos de IA de manera responsable.

El investigador, Jacob Coxon, quien también trabajó para OpenAI, competidora de Anthropic, afirmó que dichas compañías estaban más centradas en superarse mutuamente que en la seguridad de sus productos.

"Quienes desarrollan la IA creen sinceramente que esta podría acabar con todos nosotros antes de que termine la década. No se trata de una maniobra publicitaria. De hecho, muchos ejecutivos e investigadores de alto nivel suelen matizar sus declaraciones ante la prensa para parecer sensatos, pero he escuchado a esas mismas personas expresar temor", escribió Coxon en su cuenta de X a inicios de septiembre.