Recomendaciones médicas de IA mezclan datos científicos con errores difíciles de detectar NotiPress
Los asistentes de inteligencia artificial utilizados para responder dudas de salud pueden combinar información médica basada en evidencia con afirmaciones incorrectas presentadas con el mismo nivel de confianza. Especialistas advierten que esta mezcla dificulta distinguir recomendaciones confiables de aquellas que carecen de sustento científico, un escenario que puede afectar decisiones relacionadas con el bienestar y la atención médica.
Aunque herramientas como ChatGPT, Claude, Google AI o Perplexity ganan presencia entre usuarios que buscan orientación sobre síntomas, tratamientos o hábitos saludables, estos sistemas no funcionan como profesionales de la salud. La doctora Olivia Tomasco, médica de atención primaria del Houston Methodist, señaló en un comunicado enviado a NotiPress que cada vez más pacientes llegan a consulta con respuestas generadas por inteligencia artificial y buscan validar la información obtenida mediante estas plataformas.
Tomasco explica que muchas personas recurren a estos sistemas con la intención de tomar un papel más activo en el cuidado de su salud. Sin embargo, recordó que los modelos de lenguaje grandes, conocidos como LLM por sus siglas en inglés, fueron diseñados para identificar patrones en enormes cantidades de texto y predecir palabras o frases probables. Esa capacidad permite generar respuestas fluidas y convincentes, pero no garantiza que el contenido sea correcto desde una perspectiva clínica.
Un estudio publicado en la revista Nature Medicine refuerza esta preocupación. La investigación encontró que los modelos de lenguaje suelen obtener resultados favorables en evaluaciones médicas estructuradas, similares a exámenes de certificación profesional. No obstante, su desempeño disminuye cuando deben desenvolverse en conversaciones más complejas, donde intervienen síntomas ambiguos, antecedentes médicos, factores emocionales y otros elementos que forman parte de una consulta real.
Entre los principales riesgos detectados por los especialistas figura la llamada falsa impresión de evidencia. Tomasco afirmó: "Estas herramientas pueden darte información basada en evidencia, pero también incluir cosas que no lo están". Según la médica, esa combinación puede llevar a los usuarios a asumir que toda la respuesta cuenta con respaldo científico, incluso cuando parte de la información carece de fundamentos sólidos.
Sin esa capacidad de distinguir entre datos confiables y afirmaciones dudosas, algunos pacientes llegan a solicitar estudios o tratamientos que no corresponden con su situación médica. La especialista mencionó casos de personas interesadas en pruebas hormonales sin justificación clínica según su historial y condiciones particulares. También señaló que modificar esas expectativas puede representar un desafío para el profesional médico durante la consulta.
Cuando se utilizan en actividades de bajo riesgo, los sistemas de inteligencia artificial pueden ofrecer beneficios prácticos. La médica destacó su utilidad para planificar comidas, generar listas de supermercado, proponer recetas sencillas o ayudar a organizar rutinas de ejercicio. Asimismo, estas herramientas pueden servir como apoyo para crear ejercicios de respiración, sugerencias de meditación o recordatorios orientados a mantener hábitos saludables.
Las decisiones relacionadas con medicamentos, cambios de tratamiento, posibles interacciones farmacológicas, efectos secundarios o diagnósticos deben permanecer bajo supervisión médica profesional, explicó. Añadió que la atención primaria también considera factores difíciles de replicar mediante un chatbot, entre ellos el lenguaje corporal, las preocupaciones no expresadas por el paciente y el contexto integral de cada persona. "Necesitas a una persona que se preocupe por ti y por tu salud", concluyó. "Eso es lo más importante".
