Después de semanas, por fin X prohíbe la generación de imágenes sexuales Expansión
La presión de reguladores a nivel global y opiniones negativas de usuarios tuvieron efecto sobre Grok, el chatbot de Inteligencia Artificial de Elon Musk, que el miércoles por la noche bloqueó la creación de imágenes sexualizadas de personas reales en la red social X, incluso para aquellos que pagan una suscripción premium. Hace unos días, los responsables de la plataforma señalaron que los usuarios de la plataforma que pagaran por una suscripción premium tenían la facultad de seguir creando este tipo de imágenes, pero la función ya fue eliminada para todos. “Implementamos medidas tecnológicas para evitar que la cuenta de Grok permita la edición de imágenes de personas con ropa reveladora, como bikinis”, escribió xAI en una publicación compartida a través de la cuenta de X Safety.
El caso de la proliferación de imágenes sexuales no consensuadas generadas por Grok movilizó a gobiernos de todo el mundo, como India, Malasia, Indonesia, Irlanda, Francia, Australia y, más recientemente, Reino Unido y California, los cuales anunciaron investigaciones e incluso plantearon la prohibición de la plataforma. Liz Kendall, secretaria de tecnología británica, dijo hace un par de días que a partir de la próxima semana el gobierno aplicará con mayor firmeza una ley que prohíbe la creación de imágenes íntimas no consensuadas, además de que se redactará una nueva legislación para prohibir que las empresas proporcionen herramientas para crear dicho tipo de imágenes. Kendall señaló que el regulador británico de medios de comunicación, Ofcom, inició una investigación para determinar si X violó la ley de seguridad en línea, cuyo objetivo es detener la propagación de contenido ilegal “prioritario”. En caso de encontrar evidencia de infracciones a la ley, la empresa podría enfrentar multas de hasta 24 millones de dólares o el 10% de sus ingresos a nivel mundial. Por otra parte, el fiscal general de California, Rob Bonta, señaló que su oficina también está investigando a xAI, cuya sede está en Silicon Valley, por su presunta “producción a gran escala de imágenes íntimas no consensuadas y deepfakes”. De hecho, el propio gobernador de California, Gavin Newsom, lanzó una crítica hacia la posibilidad de generar este tipo de imágenes aun cuando el político ha sido un defensor de Musk y de sus empresas. “La decisión de xAI de crear y albergar un caldo de cultivo para que los depredadores difundan deepfakes de IA sexualmente explícitos no consensuados, incluidas imágenes que desnudan digitalmente a niños, es vil”, dijo el miércoles por la mañana. Antes de tomar la decisión, Musk incitó a sus seguidores en X a “romper la moderación de imágenes de Grok” a través de la opción NSFW activada, que permite la desnudez del torso de adultos no reales.
]]>
