Grok de Elon Musk enfrenta escrutinio global por fotos sexualizadas generadas por IA Forbes
13:32
Forbes México.
Grok de Elon Musk enfrenta escrutinio global por fotos sexualizadas generadas por IA
Los gobiernos y reguladores de Europa a Asia han condenado y algunos han abierto investigaciones sobre el contenido sexual explícito generado por el chatbot de IA Grok de Elon Musk en X, lo que está ejerciendo presión sobre la plataforma para que demuestre qué está haciendo para prevenir y eliminar contenido ilegal.
Grok anunció el jueves que restringirá la generación y edición de imágenes a sus suscriptores de pago, después de haber dicho el 2 de enero que estaba corrigiendo fallos en las salvaguardas tras casos aislados en los que generó contenido sexualizado, incluidas representaciones de menores con ropa mínima.
Musk afirmó en X que cualquier persona que utilice Grok para crear contenido ilegal enfrentará las mismas consecuencias que si subiera contenido ilegal.
Reacciones de gobiernos y reguladores de todo el mundo
Europa
La Comisión Europea amplió el jueves una orden de retención enviada a X el año pasado para que retuviera y preservara todos los documentos y datos internos relacionados con Grok hasta finales de 2026, debido a la preocupación por las imágenes sexualizadas “desnudas” generadas por Grok.
El regulador de comunicaciones de Gran Bretaña, Ofcom, dijo el lunes que había hecho un “contacto urgente” con X y xAI y evaluaría rápidamente si el servicio cumplía con sus obligaciones legales para proteger a los usuarios bajo la Ley de Seguridad en Línea del Reino Unido.
En Francia, los ministros del gobierno dijeron el 2 de enero que habían remitido el contenido explícito generado por Grok que circulaba en X a los fiscales y también alertaron al regulador de medios francés Arcom para verificar el cumplimiento de la plataforma con la Ley de Servicios Digitales de la Unión Europea.
El ministro de medios de Alemania, Wolfram Weimer, instó el martes a la Comisión Europea a tomar medidas legales, diciendo que las normas de la UE proporcionaban herramientas para abordar el contenido ilegal y alegando que el problema podría convertirse en la “industrialización del acoso sexual”.
Más contexto: Bot de IA de Musk, Grok, limita la generación de imágenes en X a usuarios de pago tras reacción negativa
La autoridad de protección de datos de Italia advirtió el jueves que usar herramientas de IA para crear imágenes de deepfake “desnudas” de personas reales sin su consentimiento podría ser una violación grave de la privacidad y, en algunos casos, delitos penales.
Los líderes políticos de Suecia condenaron el jueves el contenido sexualizado “desnudante” generado por Grok, después de que se informara que se produjeron imágenes que involucraban al viceprimer ministro de Suecia a partir de una solicitud de usuario.
Asia
El Ministerio de TI de la India envió el 2 de enero un aviso formal a X sobre la supuesta creación o compartición de imágenes sexualizadas obscenas habilitadas por Grok, exigiendo que se retirara el contenido y que se informara sobre las acciones que se estaban tomando dentro de las 72 horas.
El regulador de comunicaciones de Malasia, MCMC, dijo el 3 de enero que convocaría a X e iniciaría una investigación sobre el presunto mal uso de Grok para generar contenido obsceno o sexualizado de “desnudez”, advirtiendo que podría implicar delitos según la Sección 233 de la Ley de Comunicaciones y Multimedia de Malasia de 1998.
Oceanía
El regulador de seguridad en línea de Australia, eSafety, dijo el miércoles que estaba investigando las imágenes sexualizadas de deepfake “digitalmente desnudas” generadas por Grok, evaluando material para adultos bajo su esquema de abuso basado en imágenes y señalando que los ejemplos actuales relacionados con niños que había revisado no cumplían con el umbral legal para material de abuso sexual infantil según la ley australiana.
Con información de Reuters.
Sigue la información de la tecnología en nuestra sección especializada
Grok de Elon Musk enfrenta escrutinio global por fotos sexualizadas generadas por IA
Forbes México Staff
