La UE alerta de la poca transparencia y regulación en la identificación biométrica con IA

Antonio Sánchez Solís

Viena, 30 sep (EFE).- La contribución que la identificación biométrica mediante Inteligencia Artificial (IA) hace a la lucha contra el crimen puede quedar empañada si su aplicación viola derechos fundamentales o discrimina a minorías, alerta este miércoles la UE en un informe que destaca las lagunas legales y la falta de transparencia.

"Las identificaciones inexactas o sesgadas pueden tener graves consecuencias para las personas, y la posibilidad de ser identificado puede disuadir a la gente de participar en manifestaciones, de asistir a reuniones públicas o de ejercer sus derechos en público de cualquier otra manera", advierte en el reporte la directora de la Agencia de Derechos Fundamentales (FRA) de la UE, Sirpa Rautio.

El análisis de la FRA se centra en cómo y qué técnicas de identificación, tanto facial como de voz, se emplean en siete países comunitarios: Alemania, Francia, Grecia, Hungría, Irlanda, Italia y Países Bajos.

La FRA mantiene que esa tecnología, que puede usarse para identificar a distancia a personas, es una herramienta útil, por ejemplo, en la lucha contra el crimen o en la localización de desaparecidos.

En palabras de Rautio, el mensaje central de este informe es que "la seguridad pública y los derechos fundamentales no son objetivos contrapuestos".

Pero hay riesgos y lagunas que es necesario abordar al aplicar esas tecnologías.

Una de las principales conclusiones del informe es la necesidad de un marco legal claro para usar esas tecnologías, explica a EFE David Reichel, jefe del departamento de Datos y Digital en la FRA, y uno de los autores del informe.

Según Reichel, los expertos consultados consideran que las "leyes en los Estados miembros no están lo suficientemente establecidas para regular su uso".

Algunos Estados miembros aún no han establecido los marcos normativos y las autoridades de supervisión necesarios y que, si bien existen garantías legales, su aplicación es desigual en los distintos países, resultando en diferentes niveles de protección de los derechos fundamentales.

El Reglamento Europeo sobre IA prohíbe, en general, la identificación biométrica remota y en tiempo real en lugares públicos con fines policiales.

Y ahí es donde la FRA ha encontrado otro problema, la falta de transparencia sobre qué técnicas se están usando y cómo, señala Reichel, que vuelve a reconocer que a veces hay motivos para ese secretismo, por ejemplo en determinadas operaciones policiales.

Con todo, el experto de la FRA señala que justo la transparencia en el uso de esta tecnología también aumentaría la confianza de la gente, algo que, de momento, no se percibe como muy generalizado.

Así, las encuestas realizadas por la FRA entre los ciudadanos revelan una preocupación porque las leyes actuales "no limitan lo suficiente el uso de los sistemas de identificación biométrica remota".

Un 37 % de los encuestados mostró su temor a que los datos recabados pudieran usarse para propósitos no autorizados, y otro 29 % opinó que saber que esas técnicas se están usando los podría decidir a no participar en una manifestación, en lo que la FRA denomina un "efecto disuasorio sobre las libertades democráticas".

Aunque la encuesta ha sido limitada en el número de personas, unas 1.000 que acudían a eventos o circulaban por espacios públicos, Reichel señala que esos datos dan una buena imagen de cómo la gente se siente respecto al uso de esas tecnologías.

Para realizar el informe, la FRA ha hablado con autoridades policiales, proveedores de tecnología, autoridades nacionales de protección de datos y oficinas del Defensor del Pueblo, entre otras instancias.

El cruce de datos entre la información recabada y las bases de datos o listas de vigilancia puede vulnerar el derecho a la privacidad, según la Agencia.

Además, existe el riesgo de que si los sistemas de algoritmos no están bien diseñados o ejecutados, pueden provocar sesgos, discriminación y coincidencias biométricas inexactas, especialmente cuando se utilizan para identificar a mujeres, minorías étnicas, niños y personas mayores.

"Estos errores pueden derivar en controles policiales injustificados y acusaciones falsas", advierte la FRA.

Por todo ello, la Agencia pide que los países de la UE apliquen salvaguardas específicas y estrictas en sus leyes que establezcan claramente cuándo y cómo la policía puede utilizar estas tecnologías.

Además, las leyes de cada país deben tener en cuenta la normativa europea que limita la identificación biométrica remota a tareas específicas como la búsqueda de víctimas o personas desaparecidas, la prevención de una amenaza para la vida o la respuesta a un ataque terrorista.

E, insiste la FRA, esta tecnología no puede emplearse para, por ejemplo, identificar a personas que participan en manifestaciones pacíficas o reuniones públicas.