Expertos ante una posible pérdida de control de la IA: "No debemos caer ni en el alarmismo ni en la indiferencia"

Las advertencias de las principales empresas desarrolladoras sobre los peligros potenciales de la inteligencia artificial (IA) han tenido gran repercusión y han provocado cierta preocupación. En este escenario, varios expertos creen que hay que abordar la cuestión pero "no caer ni en el alarmismo ni en la indiferencia".

Así lo defiende la cofundadora y co-consejera delegada de la escuela online europea de formación en inteligencia artificial, Founderz, Anna Cejudo, mientras que el profesor de IA en la Universidad Pontificia Comillas Jaime Pizarroso considera "especialmente importante" separar lo que se sabe de lo que se está proyectando.

El profesor sostiene que los sistemas actuales "no tienen las capacidades necesarias para provocar un escenario de pérdida de control de ese tipo" y añade que para que ocurriera "sería necesario combinar capacidades de planificación a muy largo plazo, autonomía sostenida, capacidad de evitar mecanismos de supervisión, acceso a recursos y capacidad para impedir que los seres humanos recuperasen el control".

"Hoy no tenemos sistemas que puedan hacer todo eso de manera robusta en entornos reales", asegura Pizarroso. No obstante, tampoco diría que "investigar ese riesgo sea ciencia ficción" porque se están observando mejoras "muy rápidas en algunas de las capacidades que serían necesarias para esos escenarios".

En este sentido, el experto apunta a "agentes cada vez más autónomos, planificación, uso de ordenadores o comportamientos experimentales en los que los modelos encuentran formas de explotar las evaluaciones a las que se les somete". "Eso no demuestra que vayamos hacia una pérdida de control, pero sí justifica estudiar el problema", apostilla.

LOS RIESGOS "DEMOSTRABLES" DE LA IA

En la misma línea, Anna Cejudo cree importante diferenciar los riesgos actuales de los riesgos potenciales a largo plazo. "Hoy no estamos ante sistemas capaces de actuar de forma autónoma hasta el punto de escapar al control humano", indica la experta, que agrega que "los riesgos más relevantes y demostrables siguen estando relacionados con errores, desinformación, sesgos, privacidad o usos maliciosos de la tecnología".

Dicho esto, explica que "sí existe un debate legítimo dentro de la comunidad científica sobre cómo garantizar que futuros sistemas más avanzados continúen siendo seguros y alineados con los intereses humanos". "Es una cuestión que merece atención, investigación y preparación. Por eso no creo que debamos abordar este debate desde el alarmismo ni desde la indiferencia. El hecho de que un riesgo sea incierto no significa que no debamos prepararnos para él", advierte.

Algunas compañías tecnológicas han retrasado lanzamientos o reforzado sus protocolos de seguridad, algo que, para Jaime Pizarroso, "forma parte en buena medida de la maduración normal de una tecnología que evoluciona muy rápido".

El profesor indica que al desplegar sistemas a gran escala "aparecen problemas que antes no eran evidentes". "Pero también existe presión competitiva por lanzar productos rápidamente, por lo que no deberíamos depender únicamente de la autorregulación de las empresas", avisa.

Además, cree que no hay que creerse "todas las declaraciones que hacen las empresas". "¿De verdad lo han retrasado porque creen que es peligroso o porque el nuevo modelo no está suficiente maduro para justificar el cambio por el anterior?", plantea.

Jaime Pizarroso añade a esta cuestión otras incógnitas: "¿Quieren una regulación porque se preocupan por los peligros de la tecnología o porque solo los laboratorios grandes se podrán permitir una investigación de sus modelos que no interrumpa los flujos de trabajo que nuevos competidores pequeños no podrán sostener?".

Anna Cejudo también opina que los retrasos en los lanzamientos "forman parte de la maduración normal de una tecnología que está avanzando a gran velocidad" y que a medida que las empresas desarrollan sistemas más potentes, "también comprenden mejor sus limitaciones y los posibles riesgos asociados a su uso".

AVANZAR DENTRO DE LÍMITES SEGUROS

Desde su punto de vista, incorporar procesos de evaluación, reforzar la seguridad o incluso retrasar determinados lanzamientos "no debería interpretarse como una señal de alarma extraordinaria, sino como una muestra de responsabilidad".

"La inteligencia artificial tiene un enorme potencial, pero precisamente por eso es importante asegurarse de que avanza dentro de unos límites seguros y con mecanismos de supervisión adecuados. La madurez de esta tecnología no dependerá solo de lo rápido que avance, sino también de nuestra capacidad para desarrollarla de forma responsable", considera.

En cuanto a si las normas y la supervisión actuales son suficientes para proteger a ciudadanos, trabajadores y menores, Pizarroso explica que Europa ha dado "un paso importante" con el reglamento AI Act y España cuenta además con la Agencia Española de Supervisión de Inteligencia Artificial.

"Pero aprobar una regulación y conseguir que funcione son dos cosas diferentes. Ahora el reto principal es disponer de capacidad técnica para supervisarla y hacerla cumplir", declara el profesor, que apuesta por auditorías externas e independientes para los sistemas que "puedan tener un impacto significativo sobre las personas, acompañadas de capacidad real de inspección por parte de los reguladores".

Pizarroso también considera fundamental la formación. "Necesitamos alfabetización en IA tanto entre los ciudadanos como entre quienes toman decisiones sobre su implantación. No podemos pretender regular adecuadamente una tecnología que administraciones, empresas y ciudadanos no comprenden suficientemente", afirma.

De la misma manera lo expresa Anna Cejudo, que cree que las normas y la regulación son "un paso imprescindible, pero no son suficientes por sí solas". "La tecnología evoluciona mucho más rápido que cualquier marco normativo, por lo que siempre necesitaremos combinar regulación, supervisión y formación", destaca.

En su caso, la experta en IA señala como "una prioridad" la alfabetización en inteligencia artificial. "Necesitamos que ciudadanos, trabajadores, directivos y responsables públicos comprendan qué puede hacer la IA, cuáles son sus límites y qué responsabilidades implica su uso", asegura.

"La transparencia, el etiquetado de contenidos sintéticos o las auditorías externas son herramientas muy valiosas, pero todas dependen de algo fundamental: que haya personas capaces de interpretar esa información y utilizarla correctamente. La regulación establece las reglas; la formación permite aplicarlas con criterio", argumenta Cejudo.