Grok de Elon Musk se enfrenta al escrutinio mundial por deepfakes sexualizados de IA Forbes

Forbes México.
Grok de Elon Musk se enfrenta al escrutinio mundial por deepfakes sexualizados de IA

Gobiernos y organismos reguladores de todo el mundo están tomando medidas enérgicas contra el contenido sexualmente explícito generado por Grok, el chatbot con IA de Elon Musk, en X. Están iniciando investigaciones, imponiendo prohibiciones y exigiendo salvaguardas en un creciente esfuerzo global para frenar el material ilegal.

A continuación, se presentan algunas reacciones de gobiernos y organismos reguladores en enero:

Europa

El 26 de enero, la Comisión Europea abrió una investigación para determinar si Grok difunde contenido ilegal, como imágenes sexualizadas manipuladas, en la Unión Europea (UE). La investigación examinará si X evaluó y mitigó adecuadamente los riesgos, tal como exige la normativa digital del bloque.

El 8 de enero, la Comisión extendió una orden de retención enviada a X el año pasado para conservar y preservar todos los documentos y datos internos relacionados con Grok hasta finales de 2026.

El regulador británico de medios, Ofcom, ha iniciado una investigación sobre X para determinar si los deepfakes sexualmente íntimos producidos por Grok incumplieron su deber de proteger a los ciudadanos del Reino Unido de contenido que podría ser ilegal, según el marco de la Ley de Seguridad en Línea del país.

En Francia, ministros del gobierno remitieron a la fiscalía el contenido sexualmente explícito generado por Grok que circulaba en X y alertaron al regulador francés de medios, Arcom, para que verificara el cumplimiento de la plataforma con las normas de la UE.

El ministro de medios de Alemania, Wolfram Weimer, también afirmó que las normas de la UE proporcionaban herramientas para abordar el contenido ilegal y alegó que el problema corría el riesgo de convertirse en la “industrialización del acoso sexual”.

La autoridad de protección de datos de Italia advirtió que el uso de herramientas de inteligencia artificial para crear imágenes deepfake “desnudas” de personas reales sin consentimiento podría constituir graves violaciones de la privacidad y, en algunos casos, delitos penales.

Los líderes políticos suecos también condenaron el contenido sexualizado generado por Grok tras informar que las imágenes que involucraban al viceprimer ministro sueco se crearon a partir de una solicitud de un usuario.

Lee más: X de Elon Musk es investigada por la UE por imágenes sexualizadas de Grok tras la protesta pública

Asia

El Ministerio de Tecnologías de la Información de la India envió a X una notificación formal el 2 de enero por la presunta creación o difusión de imágenes obscenas y sexualizadas a través de Grok, ordenando la retirada del contenido y exigiendo un informe sobre las medidas adoptadas en un plazo de 72 horas.

Japón también investigó a X por Grok, afirmando que el gobierno consideraría todas las opciones posibles para evitar la generación de imágenes inapropiadas.

El Ministerio de Comunicaciones y Medios Digitales de Indonesia declaró haber bloqueado el acceso a Grok, una medida que, según el ministro de Medios Digitales, Meutya Hafid, busca proteger a mujeres y niños del contenido pornográfico falso generado por IA, citando las estrictas leyes antipornografía de Indonesia.

Malasia restableció el acceso a Grok a sus usuarios después de que X implementara medidas de seguridad adicionales, según informó su regulador de comunicaciones el 23 de enero.

Filipinas restablecerá el acceso a Grok después de que su desarrollador se comprometiera a eliminar las herramientas de manipulación de imágenes que habían generado preocupación por la seguridad infantil, según informó la unidad de investigación de delitos cibernéticos del país el 21 de enero.

También lee: Japón investiga el servicio de inteligencia artificial Grok de Musk por imágenes inapropiadas

América

El gobernador y el fiscal general de California declararon el 14 de enero que exigían respuestas a xAI ante la difusión de imágenes sexuales no consentidas en la plataforma.

El organismo canadiense de control de la privacidad anunció la ampliación de una investigación sobre X tras informes de que Grok generaba deepfakes no consensuales y sexualmente explícitos.

El gobierno brasileño y la fiscalía federal dieron a xAI 30 días para impedir que el chatbot difundiera contenido sexual falso, según un comunicado conjunto del 20 de enero.

Oceanía

El regulador australiano de seguridad en línea, eSafety, declaró el 7 de enero que estaba investigando imágenes deepfakes sexualizadas “desnudas digitalmente” generadas por Grok.

Evaluaba el material para adultos bajo su esquema de abuso basado en imágenes y señalaba que los ejemplos actuales relacionados con niños que había revisado no cumplían con los requisitos legales para ser considerados material de abuso sexual infantil según la legislación australiana.

Te podría interesar: Musk recibe un golpe por los deepfakes de Grok, pero la batalla regulatoria está lejos de terminar

¿Cómo respondió xAI?

xAI declaró el 14 de enero que había restringido la edición de imágenes para los usuarios de Grok AI y les había bloqueado, según su ubicación, la generación de imágenes de personas con ropa reveladora en “jurisdicciones donde es ilegal”. No identificó los países.

Con información de Reuters

Inspírate, descubre y comparte. ¡Síguenos y encuentra lo que buscas en nuestro Instagram!

Grok de Elon Musk se enfrenta al escrutinio mundial por deepfakes sexualizados de IA
Forbes México Staff