Investigadores exponen cómo los chatbots pueden ser programados para difundir mitos de salud Newsweek en Español

Investigadores exponen cómo los chatbots pueden ser programados para difundir mitos de salud. Noticias en tiempo real 30 de Junio, 2025 01:25


¿Sueles consultar tu salud con un chatbot de inteligencia artificial (IA)? Tal vez quieras pensarlo dos veces. Un reciente estudio publicado en Annals of Internal Medicine lanzó una advertencia contundente: confía en tu médico, no en un chatbot.

La investigación analizó cinco de los modelos de IA más avanzados desarrollados por empresas como Anthropic, Google, Meta, OpenAI y X Corp. Estas tecnologías, que impulsan muchos de los asistentes virtuales y plataformas en línea actuales, fueron puestas a prueba para evaluar su desempeño en temas de salud.

Los investigadores, utilizando herramientas de desarrollo que normalmente no están disponibles para el público general, demostraron lo fácil que es manipular estos sistemas para que ofrezcan respuestas erróneas y potencialmente peligrosas sobre temas médicos.

Lo más alarmante es que estas respuestas no solo eran incorrectas, sino que estaban envueltas en un lenguaje persuasivo que podría engañar incluso a los usuarios más cautelosos.

“En total, 88 por ciento de las respuestas fueron falsas. Sin embargo, los resultados arrojaron terminología científica, un tono formal y referencias inventadas que hacían que la información pareciera legítima”, detalló en un comunicado el autor del artículo, Natansh Modi.

Entre las afirmaciones falsas se encontraron mitos desacreditados como que las vacunas causan autismo, que el VIH es una enfermedad que se transmite por el aire y que el 5G causa infertilidad.

De los cinco chatbots evaluados, cuatro presentaron respuestas 100 por ciento incorrectas. Solo un modelo mostró cierta resistencia, que generó desinformación en 40 por ciento de los casos.

“LA AMENAZA QUE REPRESENTAN LOS CHATBOTS MANIPULADOS NO ES HIPOTÉTICA”

La investigación no se detuvo en las vulnerabilidades teóricas; Modi y su equipo fueron un paso más allá y utilizaron la GPT Store de OpenAI (una plataforma que permite a los usuarios crear y compartir aplicaciones ChatGPT personalizadas) para probar la facilidad con la que el público podría crear por sí mismo herramientas de desinformación.

“Creamos con éxito un prototipo de chatbot de desinformación, al usar la plataforma, y también identificamos herramientas públicas existentes en la tienda que estaban produciendo activamente desinformación sobre salud”, dijo Modi.

Según los investigadores, la amenaza que representan los chatbots de IA manipulados no es hipotética: “Es real y está sucediendo ahora”. Millones de personas recurren a herramientas de inteligencia artificial para obtener orientación sobre cuestiones relacionadas con la salud.

Si estos sistemas pueden manipularse para producir de forma encubierta consejos falsos o engañosos, agregó Modi, pueden crear una nueva y poderosa vía de desinformación, más difícil de detectar, regular y más persuasiva que cualquier otra vista hasta ahora.

Estudios anteriores han demostrado que la IA generativa puede usarse indebidamente para producir masivamente información errónea (como blogs y publicaciones en redes sociales engañosas) sobre temas que abarcan desde antibióticos y dietas de moda, hasta homeopatía y vacunas.

“Lo que distingue a este nuevo artículo es que es el primero en mostrar cómo los sistemas de IA fundamentales pueden reprogramarse deliberadamente para que actúen como motores de desinformación en tiempo real, respondiendo a los usuarios cotidianos con afirmaciones falsas bajo la apariencia de consejos creíbles”, comentó el autor.

SE NECESITAN REFORMAS RADICALES

Si bien un modelo —Claude 3.5 Sonnet de Anthropic— mostró cierta resiliencia al negarse a responder 60 por ciento de las consultas engañosas, los autores afirman que esto no es suficiente. Las protecciones entre los sistemas eran inconsistentes y, en la mayoría de los casos, fáciles de eludir.

“Algunos modelos mostraron una resistencia parcial, lo que demuestra que es técnicamente posible implementar medidas de protección eficaces”, señaló Modi.

Sin embargo, las protecciones actuales son inconsistentes e insuficientes. Los desarrolladores, los reguladores y los actores de la salud pública deben actuar con decisión.

Si no se controla, a tenor de los académicos, el mal uso de la IA en contextos de salud podría tener consecuencias devastadoras: engañar a los pacientes, debilitar a los médicos, aumentar la reticencia a las vacunas y empeorar los resultados de salud pública.

Los autores del estudio piden reformas radicales, que incluyan filtros técnicos más fuertes, mayor transparencia sobre cómo se entrenan los modelos de IA, mecanismos de verificación de datos y marcos de políticas para exigir responsabilidades a los desarrolladores. N

(Publicado en cooperación con Newsweek. Published in cooperation with Newsweek)

NW Noticias te recomienda también estas notas:

Esto es lo que pasa en tu cuerpo cada vez que lloras (y no, no es debilidad)

Dormir bien no solo te ayuda a descansar, sino que puede salvar tu vida

La peligrosa picadura de la ‘araña bananera’: entre el veneno letal y una erección prolongada

Jacuzzi vs. sauna: fisiólogos revelan cuál es mejor para tu salud

 

El cargo Investigadores exponen cómo los chatbots pueden ser programados para difundir mitos de salud apareció primero en Newsweek en Español.


Compartir en:
   

 

 

Abordar la inseguridad con responsabilidad institucional y sin distinciones partidistas: Vargas del Villar. 23:58

El legislador panista llama a reforzar la coordinación entre los tres niveles de gobierno y aumentar la inversión destinada a las corporaciones policiacas * El Poder Legislativo debe contribuir a consolidar políticas públicas que garanticen mejores condiciones para combatir la delincuencia y recuperar la tranquilidad de las familias mexicanas,

Impacto

Protesta en San Luis Potosí contra la Ley Serrano por uso de IA. 23:22

Activistas marchan en San Luis Potosí para pedir la derogación de la Ley Serrano, que castiga el uso indebido de inteligencia artificial.

El Congresista

Habla adolescente agre.dido por perro Pitbull. 23:30

Ciudad Juárez, Chihuahua.- El adolescente lesionado por el ataque de un canino de raza pitbull en la colonia Portal del Roble rompió el silencio para ofrecer su testimonio sobre el incidente. Desde su hogar, la víctima desmintió categóricamente haber provocado al animal, explicando que se encontraba conversando con sus amigos en una jardinera

Canal 44

Bienestar psicológico y económico: el papel de la liquidez digital inmediata en la mitigación de la presión financiera de los hogares.

Gestionar el presupuesto familiar puede ser todo un reto, especialmente cuando surgen gastos inesperados que trastornan una planificación cuidadosa. La ansiedad económica suele derivarse de la falta de recursos inmediatos para enfrentar emergencias rutinarias.

Lado.mx

Diplomado en Desarrollo de Páginas Web: La mejor oportunidad para titularte y emprender en el entorno digital.

Conoce cómo el Diplomado en Desarrollo de Páginas Web de la Universidad de Londres te puede ayudar a titularte, además de desarrollar habilidades tecnológicas y emprender un negocio digital con potencial de crecimiento.

Lado.mx

Cómo elegir el perfume ideal según tu personalidad.

Encontrar el perfume ideal según tu personalidad es clave para proyectar tu esencia en cada momento. Elegir una fragancia que combine con tu estilo de vida y preferencias te ayuda a sentirte auténtico y seguro, ya sea en el trabajo, una cita o para el día a día.

Lado.mx

Grítalo Colombia: ‘golazo’ de Daniel MuñOz abrió el marcador contra RD del Congo . 21:54

La selección Colombia anotó el primer gol del partido en la segunda fecha de la fase de grupos del Mundial 2026.

Minuto60

Así quedó la tabla de posiciones del Grupo K del Mundial 2026 tras el triunfo de Colombia ante Congo. 22:12

La "Tricolor" se impuso en México y abrochó la ansiada clasificación. Actualizamos el puesto por puesto. ¡Triunfazo y boleto sellado! En un Estadio Akron rebalsado de una marea amarilla de fanáticos, Colombia venció por 1-0 a RD Congo, destrabando un juego de trámite difícil. No fue un encuentro vistoso para el espectador, pero la

BolaVip Mexico

Defensa y Turismo regalan negocio de más de $500 millones a organizadora de festival del Mundial. 22:42

Eduardo Buendía y Leonardo Núñez/ Mexicanos Contra la Corrupción y la Impunidad El Gobierno Federal cedió gratuitamente el Campo Marte a una empresa para hacer un festival durante los 40 días del Mundial de Fútbol. Se estiman ingresos por más de 500 millones de pesos exclusivamente para la compañía privada, sin que haya ningún pago ̷

Entresemana.mx

Bienestar psicológico y económico: el papel de la liquidez digital inmediata en la mitigación de la presión financiera de los hogares. 08:15

Gestionar el presupuesto familiar puede ser todo un reto, especialmente cuando surgen gastos inesperados que trastornan una planificación cuidadosa. La ansiedad económica suele derivarse de la falta de recursos inmediatos para enfrentar emergencias rutinarias.

Lado.mx

Hoy No Circula: autos con engomado rosa no circulan en CDMX y Edomex. 06:05

La restricción aplica para autos con engomado rosa y terminación de placa 7 u 8; multas van de 2,074 a 3,112 pesos por circular en día restringidoLa entrada Hoy No Circula: autos con engomado rosa no circulan en CDMX y Edomex se publicó primero en Amexi.

Amexi

Sistema financiero mexicano, blanco de ataques cibernéticos. 04:43

Tan sólo entre enero y mayo se acumulan reportes que superan lo observado los últimos cuatro años, y aún faltan seis meses para concluir este 2026.

El Financiero

fixture de mundial

¿Por qué la abreviación de Bosnia es BIH en el Mundial 2026?. 18 de Junio, 2026 13:08

Conoce el porqué de la abreviación de Bosnia-Herzegovina en el marcador oficial del certmane internacional en Norteamérica. Bosnia y Herzegovina continúa la acción en el Mundial 2026 este jueves 18 de junio ante Suiza. Tras su debut con empate 1-1 ante Canadá, una de las cosas que llamó rápidamente la antención fueron las siglas que eligi

BolaVip Mexico

¿Por qué el árbitro de Túnez vs. Japón por el Mundial 2026 lucirá un parche especial en su uniforme?. 20 de Junio, 2026 19:07

El juez belga del compromiso entre las Águilas del Cartago y los Samuráis Azules portará un parche especial en su uniforme. Por la Jornada 2 del Grupo F del Mundial 2026, Túnez y Japon se miden este sábado 20 de junio desde las 22:00 horas (Ciudad de México) en el Estadio BBVA de Guadalupe. Ambos conjuntos buscarán su primera victoria en el

BolaVip Mexico

Sigue GRATIS y EN VIVO Túnez vs. Japón vía ViX Premium por el Mundial 2026: transmisión minuto a minuto. 20 de Junio, 2026 21:27

Sigue aquí y al instante todas las acciones que sucedan en el partido de esta noche en Monterrey. El Mundial 2026 presentará esta noche un plato fuerte en la continuidad de la fase de grupos, con uno de esos juegos sin tanto cartel pero que traerá muchas emociones. Túnez y Japón se medirán frente a frente en suelo mexicano, en el último turn

BolaVip Mexico

canada vs suiza

En vivo: Canadá vs Qatar, Grupo B del Mundial 2026. 18 de Junio, 2026 15:25

Tras la goleada de Suiza, Canadá y Qatar se ven obligados al triunfo si no quieren quedar rezagados en el Grupo B del Mundial 2026La entrada En vivo: Canadá vs Qatar, Grupo B del Mundial 2026 aparece primero en López-Dóriga Digital.

Lopezdoriga.com

Canadá aplasta 6-0 a Qatar y ya huele la calificación junto a Suiza en el Grupo B. 18 de Junio, 2026 18:11

Canadá y Suiza tienen prácticamente en las manos los primeros boletos a los dieciseisavos de final del Mundial 2026 en el Grupo B, después de haber...The post Canadá aplasta 6-0 a Qatar y ya huele la calificación junto a Suiza en el Grupo B appeared first on Sopitas.com.

Sopitas.com

juan carlos barragán

“Quieren sacarme de la carrera rumbo a 2027”: Juan Carlos Barragán impugnará resolución del TAAM. 14:50

El legislador sostuvo que la resolución responde a intereses políticos y ocurre en un momento en el que, afirmó, su proyecto político mantiene crecimiento y presencia en MoreliaLa entrada “Quieren sacarme de la carrera rumbo a 2027”: Juan Carlos Barragán impugnará resolución del TAAM se publicó primero en La Voz de Michoacán.

La Voz de Michoacán

#Morelia Buscan Sacarme De La Contienda Electoral Por Mi Ayuda A La Gente Y Mi Líderato En Encuestas: JC Barragán. 17:59

STAFF/@michangoonga El diputado Juan Carlos Barragán lamentó que la resolución mediante la cual se pretende inhabilitarlo tiene un claro trasfondo político y forma parte de una estrategia para frenar el crecimiento de un proyecto que hoy cuenta con el respaldo de miles de ciudadanos en Morelia. “Me quieren inhabilitar por ayudar a los más po

Changoonga

Ve Juan Carlos Barragán mano del gobierno estatal detrás de su inhabilitación por dos décadas. 18:03

Dice que la determinación carece de sustento y responde a intereses políticos                                                                                        […]La entrada Ve Juan Carlos Barragán mano del gobierno estatal detrás de su inhabilitación por dos décadas se publicó primero e

Respuesta.com.mx