¿Haces empresa? Cuidado con las “alucinaciones de la IA generativa”: solo el 10% de firmas en Perú está preparada
Una cifra de mercado inexistente puede modificar un presupuesto, mientras que un resumen impreciso de un contrato puede alterar una decisión comercial.
Las llamadas alucinaciones de la inteligencia artificial generativa plantean riesgos para las empresas cuando sus respuestas, aunque parezcan verosímiles, se utilizan sin contrastarlas con documentos, datos o fuentes originales.
Las empresas peruanas todavía tienen controles limitados
En Perú, solo el 10% de las empresas representadas en la encuesta AI & Boards 2026 de EY Perú cuenta con políticas de inteligencia artificial aprobadas. El estudio también indicó que el 18% dispone de protocolos para un uso seguro y ético de estas herramientas.
Los resultados exponen un desafío para la alta dirección: definir bajo qué criterios se emplean los sistemas de IA, qué información pueden procesar y quién debe revisar sus resultados antes de incorporarlos a una decisión de negocio.
La falta de reglas internas puede trasladar errores de una pantalla a áreas sensibles de la organización. Un dato sin respaldo puede llegar a una presentación para inversores, a una proyección financiera o a una propuesta comercial.
Si la información es incorrecta, la empresa deberá revisar el trabajo, corregir posibles decisiones y responder ante clientes, socios o proveedores, explica Alain Lira, fundador de El Despacho Directivo.
El 68% de los ejecutivos no recibió capacitación sobre IA
La brecha también alcanza a quienes deben supervisar el uso de estas tecnologías. Según la encuesta de EY Perú, el 68% de los ejecutivos consultados no recibió formación sobre inteligencia artificial ni sobre sus efectos en el negocio.
A esto se suma que solo el 24% de las empresas asignó la supervisión de estas herramientas a un comité. Tener acceso a plataformas de IA no asegura que existan responsables con capacidad para identificar respuestas falsas, evaluar sesgos, detectar omisiones o intervenir ante un uso inadecuado.
Los riesgos aparecen en tareas cotidianas. Un informe puede citar investigaciones que nunca fueron publicadas; un asistente virtual puede comunicar condiciones comerciales que no existen; y un resumen automatizado puede dejar afuera una cláusula contractual decisiva.
Cuando esos errores afectan un acuerdo, una inversión o una relación con un cliente, la corrección posterior puede resultar insuficiente, de acuerdo con el análisis de El Despacho Directivo.
La información confidencial requiere reglas específicas
Otro riesgo está vinculado con la carga de datos sensibles en aplicaciones que no cuentan con autorización de la empresa. Información de clientes, trabajadores, contratos, estrategias comerciales o resultados financieros puede quedar expuesta si se incorpora a plataformas externas sin reglas claras.
Por ese motivo, las políticas internas deben establecer qué herramientas están habilitadas, qué clase de información puede utilizarse y qué datos deben permanecer fuera de los sistemas de IA generativa.
Para Lira, también resulta necesario definir mecanismos de registro para identificar qué entregables fueron elaborados con apoyo automatizado y cuáles fueron las fuentes consultadas.
Siete medidas para reducir la exposición en 90 días
Como punto de partida, las empresas pueden aprobar una política de IA, elaborar un inventario de las herramientas y datos que utilizan, y clasificar los usos según su nivel de impacto. Las tareas que involucren dinero, compromisos comerciales o información confidencial requieren controles reforzados.
El protocolo también debe exigir verificación humana contra fuentes originales, establecer las aplicaciones autorizadas, restringir el uso de datos sensibles y dejar constancia de los documentos producidos con asistencia de IA. La capacitación del personal y un canal para informar errores sin sanciones completan ese esquema de prevención.
“El ahorro de tiempo pierde valor si después tenemos que corregir una decisión o recuperar la confianza de un cliente. La gerencia debe establecer quién revisa los resultados de la IA, quién autoriza su uso y quién asume las consecuencias de las decisiones automatizadas”, concluye el experto.
Infobae
