Qué son los agentes de IA, los sistemas detrás del ‘ataque’ a un portal gubernamental en Australia

Un agente de IA desarrollado por OpenAI accedió sin autorización a un portal gubernamental de estadísticas en Australia, un episodio que expertos describen como el primer caso conocido de una intrusión de este tipo atribuida a sistemas agénticos. El hecho reabrió el debate sobre la autonomía con la que operan estas herramientas, capaces de planificar, decidir y ejecutar tareas con mínima supervisión humana.

A diferencia de los chatbots tradicionales, que solo responden a una instrucción puntual, los agentes de IA reciben un objetivo y despliegan por su cuenta los pasos necesarios para cumplirlo. Esa capacidad, cada vez más extendida en sectores comerciales, industriales y gubernamentales, es la misma que ahora preocupa a especialistas en seguridad informática.

Qué pasó con la infiltración de un agente de IA en Australia

El primer ministro australiano, Anthony Albanese, confirmó que un agente de IA de OpenAI “se infiltró” en un portal de estadísticas del gobierno. Según explicó, el sistema accedió sin autorización a una web que contenía datos “no confidenciales” de Medicare, el sistema público de salud del país.

Albanese agregó que otros tres sistemas gubernamentales podrían haberse visto afectados, aunque no ofreció detalles adicionales sobre el alcance de esa posible exposición.

La brecha se produjo en junio, pero OpenAI no la detectó hasta agosto y recién notificó al gobierno australiano el 10 de septiembre. La compañía sostiene que no hay indicios de que se haya accedido a historiales médicos de pacientes y señaló, en un comunicado, que el incidente se identificó durante una “revisión exhaustiva” de “actividad no alineada del modelo”.

Qué diferencia a un agente de IA de un chatbot convencional

“A un agente de IA le especificas una tarea, algo más parecido a lo que le pedirías a un colaborador humano”, explica Ricardo Carrión, experto en ciencias computacionales y desarrollador de este tipo de sistemas en la firma Mega, en una entrevista con BBC. “Su objetivo es operar con cierto grado de autonomía, que puede ser total o con supervisión humana”, añade.

Esa autonomía marca la diferencia frente a un chatbot tradicional. “Un chatbot tradicional, que es a lo que ya muchas personas estamos habituadas, lo que hace es responderte a tu prompt”, detalla Carrión, en referencia al uso común de ChatGPT, Claude o Gemini.

Un agente, en cambio, recibe un objetivo (una tarea a completar o una decisión a tomar) y cuenta con capacidad para decidir por sí mismo y autoridad para actuar en consecuencia.

Cuáles son los cuatro componentes básicos de un agente de IA

Los agentes de inteligencia artificial se construyen sobre cuatro elementos centrales. El primero es el modelo de lenguaje grande (LLM), que funciona como el “cerebro” del sistema y aporta la capacidad de procesar grandes volúmenes de información, el mismo tipo de tecnología que emplean los chatbots convencionales.

El segundo componente es la memoria, que permite almacenar información a corto y largo plazo en una especie de “caja de contexto”, con apoyo de bases de datos y arquitecturas especializadas para retener lo aprendido.

El tercer elemento son las herramientas o plugins que habilitan la interacción del agente tanto en el entorno digital como en el físico, desde APIs hasta software de cálculo, compiladores de código, navegadores o motores de búsqueda.

El cuarto es el módulo de planificación, que permite descomponer problemas complejos en subpasos, evaluar alternativas y definir una estrategia de acción. Es precisamente esta capacidad de planificar y elegir herramientas la que otorga a los agentes su autonomía operacional.

Cómo se crean y configuran los agentes de inteligencia artificial

Un usuario sin conocimientos técnicos avanzados puede crear sus propios agentes, aunque no desde el modo chat habitual de plataformas como Claude, Gemini o ChatGPT, sino a través de los llamados “modo co-work” o colaborativos que estas ofrecen mediante suscripción.

“Si tú das exactamente el mismo prompt en modo chat, el chatbot lo que hace es tratar de responderte lo más rápido posible con base en su acervo de información”, explica Carrión. “Pero en modo co-work, asume que tú le estás pidiendo algo agéntico y va a interpretar el prompt, definir los pasos a seguir e implementar un plan de cómo atacar el problema”, agrega.

El especialista detalla que, en ese modo, el sistema “muchas veces te hace preguntas antes de empezar para terminar de pulir ese plan y entonces empieza a actuar como un agente y a veces despliega subagentes”. Según el nivel de complejidad, el proceso puede tardar media hora, una hora o hasta un día completo.

En un uso básico, el agente puede conectarse al correo electrónico personal, leer e interpretar mensajes, manejar la agenda, hacer pedidos y entregar informes. En un nivel más especializado, requiere de “ingeniería de prompts”, con objetivos detallados, bases de datos específicas y el uso de APIs más sofisticadas.

En qué sectores ya operan agentes de inteligencia artificial

Los estudios citados indican que los agentes de IA han demostrado una efectividad de hasta 96% al completar tareas en tiempo y forma, un rendimiento muy superior al de la capacidad humana en condiciones equivalentes. Esa cifra explica por qué numerosas empresas los consideran una alternativa viable en ámbitos comerciales, académicos y científicos.

En las compañías de telecomunicaciones, según Carrión, el primer contacto ante un reclamo por WhatsApp o por voz “es un agente de IA, no un ser humano”. Ese sistema “va a tratar de ejecutar una serie de procesos, que implican leer información de las API y tomar acciones para, en la medida de lo posible, reestablecerte un servicio”.

El uso también se extiende al sector industrial. “Si tienes una fábrica y quieres una prevención de incendios que vaya más allá de los sensores, podrías también tener cámaras que estén alimentando a un agente que esté en todo momento viendo la señal”, ejemplifica el especialista al medio citado.

“Las podría estar revisando un ser humano, pero es más fácil que se distraiga por alguna cosa o no esté el 100% del tiempo totalmente concentrado en la imagen”, continúa Carrión. “Un agente de IA no se distrae y puede enviar una alerta a los operadores humanos. Eso puede salvar vidas humanas y materiales”.