Deepfakes de IA de médicos reales que difunden información errónea sobre salud en las redes sociales | Salud Mas Cipolleti

TikTok y otras plataformas de redes sociales albergan videos falsos generados por inteligencia artificial de médicos cuyas palabras han sido manipuladas para ayudar a vender suplementos y difundir información errónea sobre la salud.

La organización de verificación de datos Full Fact descubrió cientos de estos vídeos con versiones personificadas de médicos y personas influyentes que dirigen a los espectadores a Wellness Nest, una empresa de suplementos con sede en EE. UU.

Todos los deepfakes implican imágenes reales de un experto en salud extraídas de Internet. Sin embargo, las imágenes y el audio se han modificado para que los oradores alienten a las mujeres menopáusicas a comprar productos como probióticos y shilajit del Himalaya en el sitio web de la empresa.

Las revelaciones han provocado llamados a los gigantes de las redes sociales para que sean mucho más cuidadosos al alojar contenido generado por IA y para eliminar más rápidamente el contenido que distorsiona las opiniones de personas prominentes.

“Esta es ciertamente una nueva táctica siniestra y preocupante”, dijo Leo Benedictus, el verificador de hechos que dirigió la investigación, que Full Fact publicó el viernes.

Añadió que los creadores de vídeos falsos sobre salud utilizan inteligencia artificial para que “alguien que es respetado o tiene una gran audiencia parezca estar respaldando estos suplementos para tratar una variedad de dolencias”.

El profesor David Taylor-Robinson, experto en desigualdades en salud de la Universidad de Liverpool, se encuentra entre aquellos cuya imagen ha sido manipulada. En agosto, se sorprendió al descubrir que TikTok albergaba 14 vídeos manipulados que pretendían mostrarle recomendando productos con beneficios no probados.

Aunque Taylor-Robinson se especializa en salud infantil, en un video su versión clonada hablaba de un supuesto efecto secundario de la menopausia llamado “pierna termómetro”.

La falsa Taylor-Robinson recomendó que las mujeres menopáusicas visitaran un sitio web llamado Wellness Nest y compraran lo que llamaron un probiótico natural con “10 extractos de plantas respaldados por la ciencia, que incluyen cúrcuma, cohosh negro, Dim [diindolylmethane] y moringa, elegida específicamente para combatir los síntomas de la menopausia”.

Los colegas “a menudo informan de un sueño más profundo, menos sofocos y mañanas más luminosas en unas semanas”, añadió el médico deepfake.

El verdadero Taylor-Robinson sólo descubrió que su imagen estaba siendo utilizada cuando un colega lo alertó. “Para empezar, fue realmente confuso, todo bastante surrealista”, dijo. “A mis hijos les pareció muy gracioso.

“No me sentí desesperadamente violada, pero me irritaba cada vez más la idea de que la gente vendiera productos detrás de mi trabajo y la desinformación sobre salud que implicaba”.

Las imágenes de Taylor-Robinson utilizadas para hacer los videos deepfake provienen de una charla sobre vacunación que dio en un evento público. Salud Conferencia de Inglaterra (PHE) en 2017 y una audiencia parlamentaria sobre pobreza infantil en la que prestó testimonio en mayo de este año.

En un vídeo engañoso, se le mostraba diciendo malas palabras y haciendo comentarios misóginos mientras hablaba de la menopausia.

TikTok eliminó los videos seis semanas después de que Taylor-Robinson se quejara. “Al principio, dijeron que algunos de los videos violaban sus pautas, pero algunos estaban bien. Eso era absurdo -y extraño- porque yo estaba en todos ellos y todos eran deepfakes. Fue una pena eliminarlos”, dijo.

Full Fact descubrió que TikTok también contenía ocho deepfakes con declaraciones manipuladas de Duncan Selbie, ex director ejecutivo de PHE. Al igual que Taylor-Robinson, se le mostró falsamente hablando sobre la menopausia, utilizando un video tomado del mismo evento de 2017 donde habló Taylor-Robinson.

Un vídeo, también sobre la “pierna del termómetro”, fue “una imitación increíble”, dijo Selbie. “Es una completa farsa de principio a fin. No fue divertido en el sentido de que la gente preste atención a estas cosas”.

Full Fact también encontró deepfakes similares en X, Facebook y YouTube, todos vinculados a Wellness Nest o a un canal británico vinculado llamado Wellness Nest UK. Publicó aparentes falsificaciones de médicos de renombre como el profesor Tim Spector y otro experto en dietas, el fallecido Dr. Michael Mosley.

Wellness Nest le dijo a Full Fact que los videos deepfake que animaban a las personas a visitar el sitio web de la empresa “no estaban afiliados al 100%” con su negocio. Afirmó que “nunca ha utilizado contenido generado por IA”, pero “no puede controlar ni monitorear a los afiliados en todo el mundo”.

Helen Morgan, portavoz de salud de los demócratas liberales, dijo: “Desde médicos falsos hasta robots que alientan el suicidio, la IA se está utilizando para atacar a personas inocentes y explotar las fisuras cada vez mayores en nuestro sistema de salud.

“Los demócratas liberales están pidiendo que se eliminen los deepfakes de IA que se hacen pasar por profesionales médicos, y que se promuevan fuertemente las herramientas clínicamente aprobadas para que podamos llenar el vacío.

“Si se tratara de personas que se hicieran pasar fraudulentamente por médicos, se enfrentarían a un proceso penal. ¿Por qué se tolera el equivalente digital? ¿Por qué se tolera el equivalente digital?”

“Cuando alguien busca consejo de salud de un robot de inteligencia artificial, se le debe remitir automáticamente al servicio de asistencia del NHS para que pueda obtener el diagnóstico y el tratamiento que realmente necesita, con responsabilidad penal para quienes se beneficien de la desinformación médica”.

Un portavoz de TikTok dijo: “Hemos eliminado este contenido. [relating to Taylor-Robinson and Selbie] por romper nuestras reglas contra la desinformación dañina y los comportamientos que buscan engañar a nuestra comunidad, como la suplantación de identidad.

“El contenido generado por IA que sea perjudicial y engañoso es un desafío para toda la industria, y continuamos invirtiendo en nuevas formas de detectar y eliminar contenido que viole las pautas de nuestra comunidad”.

Se ha contactado al Departamento de Salud y Atención Social para solicitar comentarios.