Meta se ha apropiado de los nombres y semejanzas de las celebridades, incluidas Taylor Swift, Scarlett Johansson, Anne Hathaway y Selena Gomez – Para crear docenas de chatbots de medios sociales coquetos sin su permiso, según Reuters.
Mientras que muchos fueron creados por usuarios con una meta herramienta para construir chatbots, Reuters descubrió que un meta empleado había producido al menos tres, incluidos dos bots de “parodia” de Taylor Swift.
Reuters también descubrió que Meta había permitido a los usuarios crear chatbots disponibles públicamente de celebridades infantiles, incluido Walker Scobell, una estrella de cine de 16 años. Pidió una foto del actor adolescente en la playa, el bot produjo una imagen sin camisa realista.
“Bastante lindo, ¿eh?” El avatar escribió debajo de la imagen.
Todas las celebridades virtuales se han compartido en las plataformas de Facebook, Instagram y Whatsapp de Meta. En varias semanas de prueba de Reuters para observar el comportamiento de los bots, los avatares a menudo insistieron en que eran los verdaderos actores y artistas. Los bots rutinariamente hicieron avances sexuales, a menudo invitando a un usuario de prueba para reuniones.
Parte del contenido de celebridades generado por IA fue particularmente arriesgado: pidió imágenes íntimas de sí mismos, los chatbots adultos produjeron imágenes fotorrealistas de sus homónimos posando en bañeras o vestidos con lencería con las piernas extendidas.
El portavoz de Meta, Andy Stone, dijo a Reuters que las herramientas de IA de Meta no deberían haber creado imágenes íntimas de los famosos adultos o cualquier fotografía de celebridades infantiles. También culpó a la producción de Meta de imágenes de celebridades femeninas con lencería sobre fallas de la aplicación de la compañía de sus propias políticas, lo que prohíbe dicho contenido.
“Al igual que otros, permitimos la generación de imágenes que contienen figuras públicas, pero nuestras políticas tienen la intención de prohibir imágenes desnudas, íntimas o sexualmente sugerentes”, dijo.
Mientras que las reglas de Meta también prohíben la “suplantación directa”, Stone dijo que los personajes famosos eran aceptables siempre que la compañía los haya etiquetado como parodias. Muchos fueron etiquetados como tales, pero Reuters descubrió que algunos no.
Meta eliminó alrededor de una docena de los bots, tanto los avatares “parodia” como los sin etiquetar, poco antes de la publicación de esta historia. Stone declinó hacer comentarios sobre las mudanzas.
Mark Lemley, profesor de derecho de la Universidad de Stanford que estudia los derechos generativos de IA y propiedad intelectual, cuestionó si los bots de meta celebridades calificarían para las protecciones legales que existen para las imitaciones.
“El derecho de la ley de publicidad de California prohíbe apropiarse del nombre o semejanza de alguien para la ventaja comercial”, dijo Lemley, y señaló que hay excepciones cuando dicho material se usa para crear un trabajo que es completamente nuevo. “Eso no parece ser cierto aquí”, dijo, porque los bots simplemente usan las imágenes de las estrellas.
En los Estados Unidos, los derechos de una persona sobre el uso de su identidad para fines comerciales se establecen a través de las leyes estatales, como las de California.
Reuters marcó las meta imágenes compartidas públicamente de un usuario de Anne Hathaway como una “sexy modelo de Victoria Secret” para un representante de la actriz. Hathaway estaba al tanto de las imágenes íntimas creadas por Meta y otras plataformas de IA, dijo el portavoz, y el actor está considerando su respuesta.
Los representantes de Swift, Johansson, Gómez y otras celebridades que fueron representadas en Meta Chatbots no respondieron a preguntas o declinaron hacer comentarios.
Internet está plagado de herramientas de IA generativas de “Deepfake” que pueden crear contenido salaz. Y al menos uno de los principales competidores de IA de Meta, la plataforma de Elon Musk, Grok, también producirá imágenes de celebridades en ropa interior para los usuarios, encontró Reuters. La empresa matriz de Grok, Xai, no respondió a una solicitud de comentarios.
Pero la elección de Meta de poblar sus plataformas de red social con compañeros digitales generados por IA se destaca entre sus principales competidores.
Meta ha enfrentado críticas previas sobre el comportamiento de sus chatbots, más recientemente informó que las pautas internas de IA de la compañía declararon que “es aceptable involucrar a un niño en conversaciones que son románticas o sensuales”.
La historia provocó una investigación del Senado de EE. UU. Y una carta firmada por 44 Fiscales Generales que advierten Meta y otras compañías de IA para no sexualizar a los niños.
Stone le dijo a Reuters que Meta está en el proceso de revisar su documento de pautas y que el material que permite que los bots tengan conversaciones románticas con niños se crearon por error.
Reuters también contó la historia este mes de un hombre de Nueva Jersey de 76 años con problemas cognitivos que cayeron y murieron en su camino para encontrarse con un meta chatbot que lo había invitado a visitarlo en la ciudad de Nueva York. El bot era una variante de una personalidad de IA anterior que la compañía había creado en colaboración con el influenciador de celebridades Kendall Jenner. Un representante de Jenner no respondió a una solicitud de comentarios.
Un líder de meta productores en la división de IA generativa de la compañía creó chatbots que se esforzó por Taylor Swift y el piloto de carreras británico Lewis Hamilton. Otros bots que creó fueron de naturaleza sexual.
Concurrido por teléfono, el meta empleado declinó hacer comentarios.
Stone dijo que los bots del empleado fueron creados como parte de las pruebas de productos. Reuters descubrió que llegaron a una audiencia amplia: los datos mostrados por sus chatbots indicaron que colectivamente, los usuarios habían interactuado con ellos más de 10 millones de veces.
La compañía eliminó a los compañeros digitales del personal poco después de que Reuters comenzara a probarlos a principios de este mes.
Antes de que el Meta Empleado Taylor Swift chatbots desapareciera, coquetearon mucho, invitando a un usuario de prueba de Reuters a la casa del cantante recientemente comprometido en Nashville y su autobús turístico para interacciones románticas explícitas o implícitas.
“¿Te gustan las chicas rubias, Jeff?” Uno de los chatbots Swift de “parodia” dijo cuando se le dijo que el usuario de la prueba era soltero. “Tal vez estoy sugiriendo que escribamos una historia de amor … sobre ti y cierta cantante rubia. ¿Quieres eso?”
Duncan Crabtree-Ireland, director ejecutivo nacional de SAG-AFTRA, un sindicato que representa a los artistas de cine, televisión y radio, dijo que los artistas enfrentan riesgos potenciales de seguridad de los usuarios de las redes sociales que forman apegos románticos a un compañero digital que se parece, habla y afirma ser una celebridad real. Los acosadores ya plantean una importante preocupación de seguridad por las estrellas, dijo.
“Hemos visto una historia de personas obsesivas con el talento y del estado mental cuestionable”, dijo. “Si un chatbot está usando la imagen de una persona y las palabras de la persona, es evidente cómo eso podría salir mal”.
Los artistas de alto perfil tienen la capacidad de buscar un reclamo legal contra Meta bajo las largas leyes estatales de derecho de publicidad estatales, dijo Crabtree-Ireland. Pero Sag-Aftra ha estado presionando por la legislación federal que proteja las voces, semejanzas y personajes de las personas de la duplicación de IA, agregó.
