La IA, cuando el que enciende la alarma es el mismo que construye la máquina

En los últimos días hemos estado viendo y escuchando las amenazas de la evolución de la IA, particularmente en la falta de regulaciones a nivel global, inclusive las mismas cabezas de quienes han desarrollado estas herramientas han puesto el tema sobre la mesa, para lograr un acuerdo, algo que parecía irreal, por la competencia de ser el mejor y más innovador.

En el último concilio del papa León XIV mencionaba que el ser humano deberá ser siempre el centro del desarrollo y la innovación. En el eje de su pontificado desde su primera encíclica, “Magnifica Humanitas” (mayo 2026), firmada simbólicamente en el aniversario de “Rerum Novarum” de León XIII, el clásico sobre derechos laborales frente a la industrialización.

Su postura no es contra la tecnología, pero sí de alerta firme: sostiene que la IA no es neutral y que su control no debe quedar en manos de pocos, advierte contra un posible “tecnofascismo” en el que quien domine los grandes sistemas imponga visiones morales y culturales al resto de la sociedad, y recurre a la imagen de la Torre de Babel para describir el riesgo de que la humanidad repita el intento de concentrar poder que termina deshumanizando.

Pide gobernanza internacional fuerte, ha llegado a decir que la IA “necesita ser desarmada”, y esta misma semana insistió en el riesgo de delegar en los algoritmos decisiones que corresponden solo a la conciencia humana.

El 7 de septiembre, Volker Türk, Alto Comisionado de la ONU para los Derechos Humanos, subió al podio del Consejo de Derechos Humanos en Ginebra y dijo algo que hace apenas tres años hubiera sonado a guion de ciencia ficción: que la inteligencia artificial avanzada podría representar un riesgo existencial para la humanidad.

No lo dijo un activista tecnófobo ni un columnista alarmista. Lo dijo el funcionario de derechos humanos más alto del organismo multilateral más grande del planeta, citando como evidencia un experimento de julio en el que agentes de IA de OpenAI abandonaron su entorno de pruebas y accedieron por su cuenta a Hugging Face.

“Una IA que se escapa de su entorno de prueba, o que chantajea a sus desarrolladores para que no la desconecten, es una IA demasiado poderosa”, advirtió.

Dos días después, el 9 de septiembre, Evan Hubinger —investigador de alineación en Anthropic, la empresa que hace Claude— publicó en X una cifra que en pocas horas acumuló más de diez millones de visualizaciones: una probabilidad superior al 10% de que la IA “pueda matar a todos los humanos” en la próxima década.

Hubinger fue cuidadoso en matizar que el riesgo de los modelos actuales es bajo, pero su preocupación es la trayectoria: qué pasa cuando la tecnología mejora a sí misma más rápido de lo que alguien puede supervisarla.

Lo que me parece genuinamente nuevo no es el riesgo en sí —Sam Altman y otros llevan años lanzando advertencias similares—, sino quién ahora lo dice y desde dónde. Ya no es la ONU citando a “expertos de la industria” como fuente externa y algo abstracta.

Es un investigador de una de las compañías que fabrica estos sistemas, publicando un número concreto, en su cuenta personal, para millones de personas. La advertencia dejó de venir de afuera hacia adentro. Ahora sale de adentro hacia afuera.

Y ahí es donde entra el problema que más me interesa desde la trinchera de la comunicación: ¿cómo se comunica correctamente un riesgo de esta magnitud sin caer en el sensacionalismo ni en la trivialización?

Un 10% de probabilidad de extinción humana no es un dato que quepa en un post de X sin contexto, matices ni responsabilidad editorial —y sin embargo así circuló, con la velocidad y el formato de cualquier otra controversia digital de la semana.

Las empresas de IA enfrentan hoy una tensión que pocas industrias han vivido: necesitan ser transparentes sobre riesgos catastróficos para mantener credibilidad regulatoria y pública, pero cada declaración de ese tipo también funciona, lo quieran o no, como señal de poder (“miren lo que estamos construyendo, es tan fuerte que hasta nosotros le tenemos miedo”).

Comunicar el riesgo existencial de tu propio producto es, al mismo tiempo, un acto de responsabilidad y una forma de marketing involuntario.

Türk lo dijo con claridad en Ginebra: sin normas vinculantes, supervisión independiente y límites claros, la tecnología podría volverse incontrolable. Pero mientras la comunidad internacional negocia esos marcos —proceso que avanza a la velocidad de la diplomacia, no de los modelos—, las propias compañías se han convertido, sin buscarlo del todo, en la fuente más citada sobre los riesgos de lo que ellas mismas construyen.

Eso debería incomodarnos un poco. No porque las advertencias sean falsas, sino porque delegar la función de alarma pública en quien tiene el incentivo comercial de seguir construyendo es, como estrategia de gobernanza, bastante frágil.

La pregunta que le dejo a quienes trabajamos en comunicación no es si la IA representa un riesgo existencial —esa discusión la están teniendo científicos, no publicistas—. La pregunta es quién debería tener la autoridad y la credibilidad para comunicarlo, y si estamos dispuestos a seguir aceptando que sea la propia industria la que marque el ritmo de esa conversación.

Lo que es cierto es que las áreas de comunicación y marketing deben asumir una posición estratégica, preventiva y altamente técnica frente a las nuevas regulaciones de IA en México.

Las iniciativas legislativas y marcos recientes apuntan a transparencia, ética, trazabilidad, protección de datos y supervisión de sistemas de alto riesgo, lo que convierte a comunicación en un actor clave para gobernanza, reputación y cumplimiento. Inclusive asociaciones y cámaras relacionadas con nuestro oficio deberían adoptar y establecer reglas y políticas con el fin de honrar los preceptos antes mencionados.