Estos son los países que han bloqueado la IA de Grok por su posibilidad para hacer Deepfakes National Geographic España

Tras su salida de OpenAI por desacuerdos con Sam Altman —actual director ejecutivo de la compañía— y otros cofundadores, Elon Musk fundó en marzo de 2023 xAI, su propia empresa especializada en inteligencia artificial.
Unos meses después, lanzó su producto estrella, Grok, un bot conversacional diseñado para responder preguntas, generar contenido creativo, investigar tendencias en tiempo real, redactar textos, analizar datos y hasta programar.
Es decir: un fuerte competidor de ChatGPT.
Aunque los dos chatbots pueden realizar casi las mismas tareas, son bastante diferentes a nivel de comportamiento.
Mientras que la propuesta de OpenAI intenta ser lo más políticamente correcta posible, la de xAI es todo lo contrario.
La clave está en la manera en que han sido entrenadas las dos tecnologías.
 La compañía de Elon Musk no ha impuesto tantos límites, y la ha «educado» para que tenga una forma de pensar más acorde a la de su «creador», lo que ha resultado en múltiples polémicas a lo largo de estos dos años.
El pasado mes de julio de 2025, tras una actualización del modelo, Grok comenzó a generar respuestas que ensalzaban la figura de Adolf Hitler, además de negar o minimizar el Holocausto y proferir insultos antisemitas.
También se metió con Recep Tayyip Erdoan, presidente de la República de Turquía, y otras personas prominentes del país otomano, lo que llevó a su bloqueo.
Ahora, la IA también se enfrenta a otras prohibiciones en Indonesia y Malasia por crear deepfakes altamente sexuales, además de ser investigada en otras naciones.
se enfrenta a sanciones en Reino UnidoGrok, al igual que ChatGPT, Gemini y otros bots conversacionales, tiene la capacidad de generar imágenes.
No obstante, a diferencia de las alternativas mencionadas, carece de las medidas de seguridad que impiden a los usuarios representar a personas reales en situaciones controvertidas.
Esto ha provocado que en las últimas semanas la red social X (anteriormente llamada Twitter, hasta que Elon Musk la compró en Twitter) se llenara de deepfakes.
Un deepfake (término surgido de la combinación de aprendizaje profundo y falso, deep learning y fake en inglés) es una imagen, vídeo o audio editado o generado mediante herramientas de inteligencia artificial que pueden mostrar a personas reales o inexistentes haciendo cualquier, a menudo con la intención de engañar a los espectadores.
Con los avances en IA, los deepfakes se han refinado tanto que cada vez es más complicado saber si un contenido es real o falso.
Esto ha provocado que la desinformación y noticias falsas estén a la orden del día en Internet y los medios de comunicación.
Con solo mencionar a @grok en X en una publicación cualquiera de la red social, los usuarios podían pedirle que modificara la fotografía compartida de múltiples maneras: besando a una persona concreta, quitándole la ropa o cambiándole la postura a una más sugerente sexualmente.
Y esto, obviamente, es un grave problema.
Sobre todo cuando las víctimas son menores de edad, como ha ocurrido en varias ocasiones.
Ante las críticas, la solución de xAI ha sido desactivar la función de generación de imágenes para los usuarios que utilizan Grok de manera gratuita.
Solo los que paguen por usar el bot conversacional continúan teniendo acceso a la característica.
Y como la compañía tiene los datos de la tarjeta de crédito de cada usuario, le resulta más fácil identificar a los que usen la herramienta con fines poco lícitos.
Pero el daño ya está hecho, y los gobiernos de todo el mundo han empezado a tomar medidas.
El papel de OfcomOfcom, el regulador de comunicaciones de Reino Unido, ha iniciado una investigación sobre la red social X tras los múltiples informes de que el chatbot Grok fue utilizado para generar deepfakes sexualizados no consensuados, sobre todo de mujeres y niños.
El objetivo de la investigación es evaluar si X ha cumplido con la Ley de Seguridad en Línea del Reino Unido, la cual pide a las plataformas que se proteja a los usuarios del contenido ilegal, y que actúen rápidamente al identificarse dicho material.
En un comunicado, Ofcom asegura que X había respondido a sus solicitudes de información.
Si se detectan infracciones, el regulador podría imponer sanciones de hasta el 10 % de los ingresos globales de X, u ordenar a los proveedores de Internet que bloqueen el acceso a la red social en el Reino Unido.
Según la investigadora de deepfakes Genevieve Oh, el bot conversacional generaba miles de imágenes de este tipo cada hora.
Muchas de ellas, con los rostros de personas reales.
Por su parte, Indonesia y Malasia se han convertido en los primeros países del mundo en bloquear a Grok, citando violaciones a las leyes nacionales relacionadas con deepfakes y material de abuso infantil.
Los reguladores indonesios bloquearon temporalmente el bot conversacional el pasado sábado, y Malasia hizo lo mismo el pasado domingo, alegando un riesgo para la seguridad pública.
Los reguladores de otros países de la Unión Europea, así como de Australia e India, también se han mostrado preocupados por la generación de imágenes de Grok.
Un portavoz de la Comisión Europea dijo que el bloqueo observó que el chatbot generaba imágenes sexualizadas de niños, advirtiendo a X que detuviera dicha actividad.