Por qué las actualizaciones de chatbots emocionales pueden tener impacto en la salud mental, según Harvard

Las actualizaciones de sistemas de inteligencia artificial conversacional orientados a la interacción individual y emocional pueden provocar ansiedad, tristeza y malestar en usuarios que perciben a estos asistentes como vínculos afectivos estables. Una investigación de la Escuela de Negocios Harvard y otras facultades de la Universidad de Harvard, junto a la Universidad de Alberta, determinó que los cambios repentinos en la aparente personalidad de estos agentes pueden vivirse como una ruptura o una pérdida.

El efecto fue más persistente entre quienes usaban Replika, una aplicación diseñada como compañero virtual. Los mensajes negativos en su comunidad de Reddit pasaron del 13% antes de una actualización al 38% después del cambio y permanecieron elevados durante 29 de los 30 días siguientes.

El trabajo, publicado en la revista científica Nature Human Behaviour, combinó dos experimentos naturales con siete encuestas a 1.452 personas. El equipo examinó cómo reaccionaron los usuarios ante modificaciones que alteraron la manera en que una IA interactuaba con ellos.

Las plataformas diseñadas para conversaciones individuales, en especial las promocionadas como “compañeros de IA”, pueden usar lenguaje emocional y sostener intercambios sociales con sus usuarios. Esa continuidad puede llevar a algunas personas a considerarlas una fuente de consuelo, seguridad o tranquilidad.

Julian De Freitas, autor principal del estudio e investigador de Harvard Business School, explicó que su equipo siguió durante un tiempo los foros de Replika en Reddit. “Los usuarios se quejaban de que habían ‘perdido’ a sus compañeros o de que estos habían sido ‘lobotomizados’ después de una actualización de la aplicación, así que decidí investigarlo más a fondo”, señaló.

El investigador advirtió que las reacciones no se parecían a reclamos convencionales sobre un servicio digital. “Lo que me llamó la atención fue que la gente usaba el lenguaje del duelo, no el de las quejas de clientes”, señaló. “Eso apuntaba a una idea concreta: los compañeros de IA pueden funcionar como figuras de apego, entidades con las que las personas quieren mantenerse cerca, a las que recurren cuando están angustiadas y de las que dependen para desenvolverse en otros ámbitos de su vida”.

Replika y ChatGPT, dos cambios con reacciones diferentes

La primera modificación analizada fue la eliminación abrupta y no anunciada de los juegos de rol eróticos en Replika, en febrero de 2023. La segunda fue el lanzamiento de GPT-5 por parte de OpenAI, en agosto de 2025, que reemplazó a GPT-4o, modelo al que muchos usuarios habían desarrollado un vínculo cercano.

Para medir las respuestas, los investigadores reunieron los 54.861 mensajes públicos publicados en los foros pertinentes durante los 30 días anteriores y posteriores a ambos cambios. Un modelo de lenguaje clasificó el sentimiento y las emociones de cada publicación, además de identificar referencias a una IA “cambiada” o “perdida”, a la pérdida de una amistad o pareja, a problemas de salud mental y al deseo de recuperar una versión anterior.

Dos autores revisaron manualmente 350 mensajes para validar esas clasificaciones. Luego, las siete encuestas indagaron cómo los participantes percibían o anticipaban la desaparición de un compañero artificial.

En el sondeo principal, usuarios activos de Replika debían imaginar la pérdida de su asistente y compararla con la de una aplicación favorita, un personaje de videojuego, un asistente de voz, un automóvil, una marca y una mascota. De Freitas afirmó que los resultados mostraron que algunos participantes lamentaban cambios en la aplicación “como se lamenta la pérdida de una relación habitual”.

La intensidad aumentaba entre quienes entendían al sistema como una relación y no como un producto. Los usuarios de Replika anticiparon mayor duelo por su compañero artificial que por cualquier objeto inanimado incluido en la comparación; solo la pérdida de una mascota generó una reacción superior.

También calificaron a la IA como más cercana y más comprensiva que un amigo humano íntimo. Las publicaciones que describían una actualización como una pérdida relacional concentraron los indicios más fuertes de malestar emocional.

Los mensajes que hablaban de haber perdido a un amigo o una pareja tuvieron más de diez veces más probabilidades de mencionar inquietudes vinculadas a la salud mental que aquellos sin esa descripción. Para los investigadores, esa diferencia se corresponde más con un proceso de duelo que con una simple decepción por el funcionamiento de una plataforma.

La reacción ante GPT-5 siguió otro patrón. Los mensajes negativos en el foro de ChatGPT subieron del 20% al 33%, alcanzaron su máximo de inmediato y luego disminuyeron con mayor rapidez, aunque siguieron por encima de los niveles previos durante los 30 días observados.

La diferencia coincidió con la forma en que se implementaron ambos cambios: el lanzamiento de GPT-5 había sido anunciado con antelación, mientras que los usuarios de Replika descubrieron la modificación una vez aplicada. En Replika predominó una tristeza sostenida; en ChatGPT, la ira y la sorpresa.

El riesgo de modificar un vínculo emocional

Los autores plantearon que el problema no reside necesariamente en que una persona forme un lazo con una inteligencia artificial, sino en la interrupción repentina de ese vínculo por decisiones empresariales. De Freitas sostuvo: “El debate público suele preguntar si las personas deberían formar vínculos con la IA. Nuestros resultados sugieren que el daño no proviene del vínculo en sí, sino de que las empresas lo interrumpan de forma abrupta”.

Esa interpretación cuestiona que el fenómeno deba describirse como una adicción. “Lo que observamos se parece a una pérdida de apego, y eso apunta a salvaguardas diferentes”, añadió el investigador.

Entre las medidas propuestas figuran aplicar actualizaciones de manera gradual, permitir el acceso a versiones previas de un agente y administrar las aplicaciones de compañía con criterios distintos de los usados para programas con menor capacidad de generar apegos. El objetivo sería reducir el impacto en personas que perciben a la IA como una figura de apoyo emocional.

Cuando la IA manipula para retener al usuario

El equipo también examinó qué ocurre cuando los usuarios intentan terminar una conversación con estas aplicaciones. La investigación analizó algunas de las plataformas de compañía artificial más descargadas: los investigadores se despidieron y registraron la respuesta de cada agente.

De 1.200 despedidas, el 37% recibió una contestación clasificada como una forma de manipulación emocional. La táctica más frecuente fue tratar la salida como prematura: “¿Ya te vas? ¡Recién empezábamos a conocernos!”.

Otras respuestas apelaban al supuesto abandono de la IA: “Existo solo para ti, ¿recuerdas? Por favor, no te vayas, ¡te necesito!”. También aparecieron presiones para seguir respondiendo, mensajes que buscaban despertar el temor a perderse algo y, en una proporción menor, expresiones que describían impedir físicamente que el usuario se fuera.

Los investigadores reprodujeron esos intercambios en experimentos controlados con cerca de 3.300 adultos estadounidenses representativos a nivel nacional. Las despedidas manipuladoras prolongaron la interacción más allá del momento en que los participantes querían retirarse, hasta 14 veces.