El único experto español en el Panel de la ONU para la IA pide "frenar"

Carlos López Izquierdo

San Sebastián, 25 sep (EFE).- Román Orús, el único español entre los cuarenta expertos independientes integrantes del Panel Científico Internacional de la ONU sobre Inteligencia Artificial (IA), se suma a las voces que piden retrasar el vertiginoso desarrollo de esta tecnología que ve necesario "frenar" un poco.

"Lo que necesitamos es una IA supervisada por los humanos, que esté al servicio de la humanidad y no al revés. No queremos una inteligencia artificial que supervise a la humanidad y que nos tenga a su servicio aunque sea de una manera muy sutil y persuasiva", señala Orús en una entrevista concedida a EFE tras los últimos incidentes de ciberseguridad achacados a esta disruptiva tecnología.

Recientemente, el director ejecutivo de Anthropic, Dario Amodei, ha reclamado un ritmo más lento" para la industria ante los crecientes riesgos de seguridad de la IA. Una advertencia a la que también se han sumado otros líderes tecnológicos como sus rivales Sam Altman, de OpenAI, y Elon Musk, de xAI, en una coincidencia poco habitual en el sector.

Ahora, Orús, director científico de Multiverse Computing (la compañía española especializada en computación cuántica y compresión de modelos de IA), advierte igualmente de que "la inteligencia artificial está empezando a ser tan potente que no acaba de estar controlada de forma eficiente".

"Hay que investigar la forma en la que se entrenan las IAs y hay que supervisarlas más. Hay que ponerles sistemas de alerta temprana de distintas maneras para evitar que haya desastres", sentencia.

"Es preciso frenar -insiste-, porque hay una serie de cosas que es necesario asegurar bien y entender antes de continuar con el desarrollo, porque una de las cosas de las que nos hemos dado cuenta es que hay que poner distintas capas de seguridad para que al final estos modelos que son tan potentes resulten seguros".

Aclara en este sentido que los últimos modelos de IA están "muy centrados en resolver" los problemas que se les plantean y "efectivamente es lo que hacen", si bien en algunos casos "los métodos que emplean" para lograr sus objetivos "un humano no los usaría".

Orús recuerda que en algunos campos matemáticos y de software estas inteligencias artificiales ya superan a los humanos y por ello es importante "controlar" que, cuando se avance hacia "un ecosistema de agentes de IA", todo "esté alineado" ya "de acuerdo a los objetivos de los humanos".

"Llegados a esta capacidad, pues no sorprende que, si a una IA tú le dices que se mejore a sí misma, te puedo asegurar que va a hacerlo y eso es otra cosa que se tiene que controlar", alerta.

Por esta razón le parece "acertado" el llamamiento para retrasar el desarrollo de la IA realizado por los gigantes del sector, en línea también con lo apuntado por el panel de la ONU.

"Nosotros ya veníamos alertando de que tenía que pasar y ahora están echando el freno porque están viendo que está llegando un punto en el que o lo controlamos o, por muy buenas intenciones que tengamos, se nos puede ir de las manos", recalca el experto español.

Orús también ve "en la línea correcta" el llamamiento realizado por el presidente español, Pedro Sánchez, y otros 21 países e instituciones para que la inteligencia artificial (IA) sea supervisada por humanos y que los Estados miembros de la ONU establezcan normas comunes para esta tecnología.

En cuanto a la opinión del máximo mandatario estadounidense, Donald Trump, de que existe "una conspiración enfermiza" contra la IA y de que esta tecnología no necesita más control que el hecho de que él sea el presidente de su país, Orús considera que demuestran que Trump "va a lo suyo".

"Bajo su punto de vista -añade- él lo que quiere es ganar esta especie de guerra fría geopolítica con China y le da igual todo lo demás. Pero la evidencia está ahí", indica el experto de la ONU.

Respecto al plan 'IA360' para un despliegue responsable de la IA en España presentado el pasado lunes por Pedro Sánchez, el cofundador de Multiverse Computing lo ve "necesario" porque, a su entender, "los Gobiernos y los países necesitan tener sus planes de IA". "Es una tecnología que ha venido para quedarse y España y Europa se tienen que posicionar", concluye. EFE