Grok tiene prohibido generar imágenes sexualizadas de personas, dice X Forbes
08:47
Forbes México.
Grok tiene prohibido generar imágenes sexualizadas de personas, dice X
X, de Elon Musk, anunció el miércoles que restringiría la herramienta de generación de imágenes de su chatbot de IA Grok para crear imágenes de personas reales con ropa reveladora, varias semanas después de que fuera criticada por crear imágenes sexualizadas de niños y desnudos no consentidos.
Datos clave
En una publicación en la cuenta oficial de Safety de X, la plataforma afirmó que ha “implementado medidas tecnológicas para evitar que la cuenta de Grok permita editar imágenes de personas reales con ropa reveladora como bikinis.”
La compañía dijo que esta restricción se aplicará a todos los usuarios de Grok, incluidos los suscriptores de pago.
La compañía también afirmó que restringía la “creación de imágenes y la capacidad de editar imágenes” a través de la cuenta de Grok solo a suscriptores de pago.
Sin embargo, la posibilidad de generar imágenes seguía siendo accesible para los usuarios gratuitos en la web de Grok en el momento de su publicación.
La empresa también añadió que estaba bloqueando geográficamente a todos los usuarios para que no generaran “imágenes de personas reales en bikini, ropa interior y ropa similar a través de la cuenta de Grok y en Grok en X en las jurisdicciones donde es ilegal.”
El comunicado no especificó qué países se verían afectados por el geobloqueo.
Te puede interesar: OpenAI anuncia acuerdo con fabricante de chips valorado en 10,000 mdd
¿Dejó Grok de generar y editar imágenes sexualizadas?
Una búsqueda en la línea temporal reciente de Grok mostró al menos un caso en el que accedió a una solicitud de un usuario para alterar una imagen del primer ministro británico Keir Starmer, reemplazando su traje por un bikini. The Verge también informó que seguía siendo “extremadamente fácil desnudar a las mujeres y editarlas en poses sexualizadas usando las aplicaciones móviles o sitios web de X y Grok.” Una periodista del medio con sede en el Reino Unido señaló que no le bloquearon el uso de la aplicación ni la creación de “deepfakes sexualizados de sí misma”.
¿Qué dijo Elon Musk?
Más temprano el miércoles, el propietario de X, Elon Musk, pareció cuestionar la veracidad de los informes que sugerían que X estaba generando Material de Abuso Sexual Infantil (CSAM) y escribió que “no tenía conocimiento de ninguna imagen desnuda de menores generados por Grok. Literalmente cero.” Añadió: “Obviamente, Grok no genera imágenes espontáneamente, lo hace solo según las peticiones de los usuarios. Cuando se le pide que genere imágenes, se niega a producir cualquier cosa ilegal, ya que el principio de funcionamiento de Grok es obedecer las leyes de cualquier país o estado.” El multimillonario luego pareció culpar del problema a los usuarios de la plataforma, diciendo: “Puede haber ocasiones en las que el hackeo adversarial de los prompts de Grok provoque algo inesperado. Si eso ocurre, arreglamos el error inmediatamente.”
Cita crucial
El miércoles, el primer ministro británico dijo que X está trabajando para cumplir con la ley británica bloqueando la generación de imágenes sexuales no consentidas. “Le hemos dejado claro a X que estas imágenes son ilegales, reprobables y deben ser tratadas. Me han informado de que X actúa para garantizar el pleno cumplimiento de la legislación británica. Si es así, es bienvenido, pero no vamos a echarse atrás — deben actuar.”
¿Qué hay que vigilar?
Más temprano el miércoles, el fiscal general de California, Rob Bonta, anunció que su oficina había abierto una investigación sobre X por la “proliferación de material sexual explícito no consentido producido usando Grok.” El anuncio acusó a la xAI de Musk de “facilitar la producción a gran escala de imágenes íntimas no consensuadas deepfake que se están utilizando para acosar a mujeres y niñas en internet.” En un comunicado, Bonta dijo que su oficina había recibido “una avalancha de informes” sobre este asunto y que la investigación “determinará si y cómo xAI violó la ley.”
Este artículo fue publicado originalmente en Forbes US
Síguenos en Google Noticias para mantenerte siempre informado
Grok tiene prohibido generar imágenes sexualizadas de personas, dice X
Siladitya Ray
