Ha llegado la era del agente de IA de acceso total Mas Cipolleti
Durante años, el costo de usar servicios “gratuitos” Google, Facebook, microsofty otras grandes empresas tecnológicas están entregando sus datos. Subir su vida a la nube y utilizar tecnología gratuita brinda ventajas, pero pone la información personal en manos de corporaciones gigantes que a menudo buscan monetizarla. Ahora, el próxima ola de IA generativa Es probable que los sistemas quieran tener más acceso a sus datos que nunca.
En los últimos dos años, herramientas de IA generativa como Abierto AIde Chat GPT y google Mellizos– han ido más allá de los chatbots relativamente simples de solo texto que las empresas lanzaron inicialmente. En cambio, la Gran IA está construyendo e impulsando cada vez más la adopción de agentes y “asistentes” que prometen que pueden tomar acciones y completar tareas en su nombre. ¿El problema? Para aprovecharlos al máximo, deberá darles acceso a sus sistemas y datos. Si bien gran parte de la controversia inicial sobre los grandes modelos lingüísticos (LLM) fue la copia descarada de datos protegidos por derechos de autor en línea, es probable que el acceso de los agentes de IA a sus datos personales cause una nueva serie de problemas.
“Los agentes de IA, para tener su funcionalidad completa y poder acceder a las aplicaciones, a menudo necesitan acceder al sistema operativo o al nivel del sistema operativo del dispositivo en el que los están ejecutando”, dice Harry Farmer, investigador principal del Instituto Ada Lovelace, cuyo trabajo ha incluido el estudio de impacto de los asistentes de IA y descubrió que pueden causar una “profunda amenaza” a la ciberseguridad y la privacidad. Para la personalización de chatbots o asistentes, dice Farmer, puede haber compensaciones en materia de datos. “Para que todas estas cosas funcionen, se necesita mucha información sobre uno”, dice.
Si bien no existe una definición estricta de lo que realmente es un agente de IA, a menudo es mejor pensar en él como un sistema de IA generativa o un LLM que se ha proporcionado. cierto nivel de autonomía. En este momento, agentes o asistentes, incluidos Navegadores web impulsados por IApuede tomar el control de su dispositivo y navegar por la web, reservar vuelos, realizar búsquedas o agregar artículos para carritos de compras. Algunos pueden completar tareas que incluyen decenas de pasos individuales.
Aunque los agentes de IA actuales son problemáticos y muchas veces no puedo terminar las tareas estaban decididos a hacerLas empresas de tecnología están apostando a que los sistemas serán fundamentalmente cambiar empleos para millones de personas a medida que se vuelven más capaces. Una parte clave de su utilidad probablemente provenga del acceso a los datos. Entonces, si desea un sistema que proporcione su calendario y tareas, necesitará acceso a su calendario, mensajes, correos electrónicos y más.
Algunos productos y capacidades de IA más avanzados brindan una idea de cuánto acceso podrían recibir los agentes y sistemas. Ciertos agentes que se están desarrollando para empresas pueden leer códigocorreos electrónicos, bases de datosMensajes de Slack, archivos almacenados en Google Drive y más. La controvertida retirada de Microsoft El producto toma capturas de pantalla de tu escritorio cada pocos segundos, para que puedas buscar todo lo que has hecho en tu dispositivo. Tinder ha creado una función de inteligencia artificial que puede buscar entre fotos en su teléfono “para comprender mejor” los “intereses y la personalidad” de los usuarios.
Carissa Véliz, autora y profesora asociada de la Universidad de Oxford, dice que la mayoría de las veces los consumidores no tienen una forma real de comprobar si las empresas de tecnología o de inteligencia artificial están tratando sus datos de la manera que afirman. “Estas empresas son muy promiscuas con los datos”, afirma Véliz. “Demostraron una falta de respeto a la privacidad”.
