Reino Unido avanza con la investigación sobre los deepfakes de Grok pese a la marcha atrás de Musk

Forbes México.
Reino Unido avanza con la investigación sobre los deepfakes de Grok pese a la marcha atrás de Musk

Reino Unido celebró el cambio de postura de xAI para impedir que su chatbot de inteligencia artificial Grok realice deepfakes sexualmente explícitos sin consentimiento, pero afirmó que la investigación sobre cómo la empresa de Elon Musk permitió que esto sucediera continuará.

xAI, la empresa de inteligencia artificial de Musk, impuso el miércoles por la noche restricciones a todos los usuarios de Grok, limitando la edición de imágenes tras la preocupación global de los reguladores.

“Este es un avance positivo”, declaró el jueves el regulador británico de medios, Ofcom.

“Sin embargo, nuestra investigación formal continúa. Trabajamos incansablemente para avanzar y obtener respuestas sobre qué falló y qué se está haciendo para solucionarlo”.

Reino Unido se encuentra entre una creciente lista de países que toman medidas enérgicas contra el contenido explícito generado por Grok, imponiendo prohibiciones y exigiendo salvaguardas en un esfuerzo global por frenar el material ilegal.

El gobierno celebra el éxito de la ley de seguridad en línea

xAI, propiedad del multimillonario Musk, afirmó haber implementado soluciones técnicas para impedir que la cuenta de Grok en su plataforma X edite imágenes de personas reales con ropa reveladora, como bikinis. Anteriormente, la función estaba limitada a los usuarios de pago, pero el cambio no apaciguó las críticas.

La secretaria de Tecnología británica, Liz Kendall, afirmó que el cambio de sentido era una victoria en la lucha del gobierno por controlar el poder de las grandes tecnológicas.

“Nuestra Ley de Seguridad en Línea siempre ha tenido como objetivo mantener a las personas seguras en las redes sociales, especialmente a los niños, y nos ha dado las herramientas para exigir cuentas a X en los últimos días”, declaró.

Kendall, quien declaró a principios de esta semana que la investigación de Ofcom sobre X no debe durar meses y meses, añadió el jueves que no descansaría hasta que todas las plataformas de redes sociales ofrecieran un servicio seguro y apropiado para la edad de los usuarios.

Por otra parte, Ofcom declaró este jueves que Snapchat había “mejorado sustancialmente” su evaluación de riesgos de contenido ilegal, lo que ayuda a proteger a la población británica.

Continúa leyendo: Grok tiene prohibido generar imágenes sexualizadas de personas, dice X

California exige respuestas ante el aumento de críticas por deepfakes de Grok

xAI afirmó que había bloqueado a los usuarios, basándose en su ubicación, para que no generaran imágenes de personas con ropa reveladora en “jurisdicciones donde es ilegal”. No identificó dichas jurisdicciones.

California se sumó a las críticas el miércoles, cuando su gobernador y fiscal general exigieron respuestas a xAI después de que Musk afirmara no tener conocimiento de ninguna “imagen de menores de edad desnuda” generada por Grok.

Al principio, Musk restó importancia públicamente a la controversia, publicando emojis humorísticos en respuesta a los comentarios de los usuarios sobre la afluencia de fotos sexualizadas.

Más recientemente, X declaró que se toma muy en serio las denuncias de material de abuso sexual infantil y las controla rigurosamente.

La compañía se enfrenta al escrutinio regulatorio en todo el mundo, desde Francia hasta la India.

Este jueves, Filipinas anunció que tomaría medidas para bloquear a Grok ante la preocupación por su capacidad para generar imágenes sexualizadas, incluyendo contenido que podría suponer riesgos para la seguridad infantil.

Con información de Reuters

¿Te gustan las fotos y las noticias?, síguenos en nuestro Instagram

Reino Unido avanza con la investigación sobre los deepfakes de Grok pese a la marcha atrás de Musk
Forbes México Staff