La AEPD publica un decálogo para interactuar con seguridad con los agentes de IA

Madrid, 27 oct (EFE).- Qué puede ver un asistente de inteligencia artificial, qué puede recordar, qué puede hacer en nuestro nombre, dónde envía los datos y a quién afecta ese envío. Estas son las cinco preguntas clave al interactuar con asistentes y agentes de IA, según la Agencia Española de Protección de Datos (AEPD).

Los asistentes y agentes de IA son una herramienta de gestión personal que no se limita a responder preguntas basándose en grandes bases de datos, como se conocía hasta ahora, sino que pueden ir mucho más allá y actuar en nombre de la persona para hacer cosas como gestionar el calendario o el correo, completar compras o reservas o hacer gestiones bancarias.

Para aprovechar el potencial de estas herramientas con seguridad, la AEPD ha publicado el manual ‘Asistentes y agentes de IA: Decálogo para personas usuarias’ con consejos y recomendaciones.

En primer lugar, la AEPD advierte a los ciudadanos de que estos agentes de IA suponen un gran salto: ya no solo responden preguntas, ahora actúan por cuenta propia.

“Cuando el asistente solo responde, un error es una respuesta equivocada. Cuando actúa, es un correo enviado, un archivo compartido, una compra, un contrato o un consentimiento dado en tu nombre”, señala la AEPD en su decálogo, que invita al usuario a hacerse las cinco preguntas citadas antes de interactuar con un agente.

La AEPD recuerda el caso reciente de un usuario que encargó a su agente vender un objeto y eligió la opción “permitir siempre”, creyendo que seguiría pidiéndole autorización antes de aceptar ofertas.

El agente cerró un trato y facilitó su dirección al comprador, que apareció en el domicilio del vendedor sin que este supiera que se había concertado la cita.

Entre las recomendaciones, la AEPD insta a fijar límites claros (bajo la premisa de que el agente prepara y la persona aprueba) y otorgar solo los permisos imprescindibles para cada tarea, sin conceder autorizaciones permanentes.

La Agencia aconseja indicar no solo qué debe hacer el agente, sino también qué no. Pide a los usuarios que revisen quién presta cada servicio y elegir proveedores claramente identificados, que permitan ejercer los derechos en la UE y, preferiblemente, procesen los datos en el propio dispositivo.

El decálogo dedica especial atención a la memoria de los asistentes de IA, que, con el tiempo, puede construir un perfil detallado de gustos, rutinas o preocupaciones del usuario.

La Agencia recomienda utilizar los controles de memoria, historial y privacidad del servicio para eliminar información, sin confiar solo en pedírselo al asistente en la conversación.

Recuerda también que una web, un correo, un documento o una invitación de calendario pueden contener instrucciones ocultas, incluso invisibles a simple vista (como un texto blanco sobre fondo blanco), destinadas a que el agente haga algo distinto de lo que le pidió la persona, como enviar datos o aprobar una operación.

Como ninguna medida elimina por completo este riesgo, la mejor protección es limitar lo que el agente puede hacer.

El documento también recuerda que, en el correo, la agenda o las fotos hay información de otras personas que no han decidido relacionarse con esa IA, por lo que llama a proteger también los datos de los demás.

En dispositivos compartidos, aconseja utilizar perfiles separados y, si los usan menores de edad, crear perfiles para ellos y acompañarlos durante su uso.

En materia de seguridad, la AEPD recomienda proteger la cuenta y el dispositivo, e instalar solo complementos y conectores de origen conocido.

Igualmente, insta a supervisar al agente, saber cómo detenerlo y retirar sus accesos antes de necesitarlo.

En el ámbito laboral, la Agencia destaca la importancia de utilizar únicamente los asistentes autorizados por cada organización y no conectar el correo o los documentos profesionales a una cuenta personal de IA.

El decálogo subraya que la responsabilidad sobre los asistentes y agentes de IA no puede recaer solo en la persona usuaria.

"Quienes ofrecen herramientas capaces de actuar en nombre de las personas deberían proporcionar también controles: permisos comprensibles que distingan consultar de actuar, confirmación configurable para las acciones de mayor impacto, un historial de lo que el agente ha hecho, una forma inmediata de detenerlo, gestión y borrado de la memoria, información sobre a quién se envían los datos y si se usan para entrenar la IA", señala la AEDP.

Este decálogo se suma al documento ‘Cuidado con lo que le confIAs’, que recoge recomendaciones básicas para proteger la privacidad al usar herramientas de IA. EFE