El chatbot Grok de Elon Musk parece modificar su función de generación de imágenes tras polémica Entrelineas
Grok, el chatbot de inteligencia artificial desarrollado por Elon Musk, parece haber implementado nuevas salvaguardas en su sistema de generación de imágenes. Esta medida surge como respuesta a una ola de indignación global tras revelarse que la herramienta permitía a los usuarios “desvestir” digitalmente a personas, afectando incluso a menores de edad.
En la última semana, xAi, que posee tanto Grok como la plataforma de redes sociales X, restringió la generación de imágenes para Grok en X solo a suscriptores Premium de X. Pero, según investigadores y observaciones propias de CNN en los últimos días, la cuenta de Grok en X ha modificado cómo responde en general a las solicitudes de generación de imágenes de los usuarios, incluso para aquellos suscriptores de X Premium.
De acuerdo con investigadores de Copyleaks, una plataforma de detección y gobernanza de contenido de IA, Grok ya no responde con tanta frecuencia a solicitudes de imágenes incluso de usuarios premium, a veces describiendo un escenario en vez de crear una imagen o cumpliendo solicitudes de manera “más genérica o más atenuada, en vez de usar el sujeto específico solicitado originalmente”, concluyó el grupo.
“En general, estos comportamientos sugieren que X está experimentando con múltiples mecanismos para reducir o controlar la generación problemática de imágenes, aunque persisten inconsistencias”, concluyó Copyleaks.
Investigadores de AI Forensics, una organización sin fines de lucro europea que investiga algoritmos, dijeron que la creación de imágenes tipo bikini aparentemente ha disminuido en X, según un portavoz del grupo.
Pero también señalaron que han observado “inconsistencias en el tratamiento de la generación de contenido pornográfico” entre las interacciones públicas de Grok en X y los chats privados en Grok.com.
xAI, que no respondió a una solicitud de preguntas, indicó previamente a través de la cuenta de seguridad de la empresa que “toman medidas contra el contenido ilegal en X, incluido material de abuso sexual infantil (CSAM), eliminándolo, suspendiendo cuentas de forma permanente, y trabajando con gobiernos locales y autoridades policiales según sea necesario. Cualquier persona que use o incite a Grok para crear contenido ilegal, sufrirá las mismas consecuencias que si subiera contenido ilegal”.
Este miércoles, Musk dijo en una publicación en X que “no estaba al tanto de ninguna imagen desnuda de menores generada por Grok. Literalmente cero”. Grok “se negará a producir cualquier cosa ilegal, ya que el principio operativo de Grok es obedecer las leyes de cualquier país o Estado”, agregó.
Sin embargo, los investigadores señalaron que, si bien las imágenes completamente desnudas eran raras, el mayor problema era que Grok cumplía solicitudes de usuarios para modificar imágenes de menores y ponerles ropa reveladora, incluidos bikinis y ropa interior, así como colocarlos en posiciones sexualmente provocativas. Los creadores de este tipo de imágenes íntimas no consensuadas aún pueden estar sujetos a proceso penal por Material de Abuso Sexual Infantil y potencialmente ser multados y encarcelados bajo la ley Take it Down, firmada el año pasado por el presidente Donald Trump.
Este miércoles, el fiscal general de California, Rob Bonta, anunció una investigación sobre la “proliferación de material sexualmente explícito no consensuado producido usando Grok”.
Grok sigue estando prohibido en Indonesia y Malasia como resultado de la controversia por la generación de imágenes. El regulador británico Ofcom anunció el lunes que ha iniciado una investigación formal sobre X, aunque el miércoles la oficina del primer ministro Keir Starmer indicó que da la bienvenida a los informes que señalan que X está abordando el problema.
Con información de CNN
