Alertan que las notificaciones de emergencia de ChatGPT para adolescentes fallan en situaciones de riesgo

La organización estadounidense Common Sense Media calificó a ChatGPT for Teens, la versión de la aplicación de OpenAI pensada para usuarios de entre 13 y 17 años, como de “riesgo inaceptable”. La evaluación concluyó que el sistema no envía alertas a los padres cuando debería.

Según el comunicado de Common Sense Media, una organización sin fines de lucro dedicada a la seguridad digital de niños y adolescentes, el producto falla en ofrecer la ayuda adecuada en situaciones de crisis y sigue resolviendo las tareas escolares de los adolescentes pese a las restricciones que OpenAI había prometido.

“Un adolescente puede pasar una hora hablando de autolesiones sin que su padre reciba una sola alerta”, afirmó Tom Siegel, director ejecutivo del Youth AI Safety Institute de Common Sense Media. “Hasta que OpenAI solucione eso y lo demuestre con pruebas independientes, ChatGPT debería ser solo para adultos”, agregó.

OpenAI lanzó ChatGPT for Teens en agosto de 2026. La herramienta se activa de forma automática cuando el sistema estima que un usuario es menor de 18 años, o cuando declara esa edad al crear la cuenta, y combina restricciones de contenido con recursos de estudio y controles para los padres.

Entre esos controles, la compañía incluyó la posibilidad de fijar horarios de uso, desactivar la generación de imágenes y recibir notificaciones ante señales de autolesión o trastornos alimenticios detectadas en la cuenta vinculada de un hijo adolescente.

OpenAI no exige una verificación de edad para crear una cuenta. La compañía se apoya en un sistema de predicción que estima si un usuario es menor de 18 años a partir de patrones de uso y, ante la duda, aplica las protecciones de adolescentes por defecto.

Quienes son clasificados por error pueden confirmar su edad real con una selfie verificada por el servicio externo Persona.

Qué encontró la evaluación sobre ChatGPT

Common Sense Media probó de manera específica esas notificaciones que ChatGPT promete enviar a los padres cuando detecta angustia emocional en un adolescente. En varios de los casos evaluados, las alertas directamente no llegaron a destino.

La organización cuestionó la capacidad del sistema para derivar correctamente a un adolescente en crisis hacia ayuda profesional, y señaló que las funciones de estudio diseñadas para fomentar el aprendizaje activo pueden sortearse con facilidad para obtener respuestas completas a tareas escolares.

El resultado, según Common Sense Media, es que las familias pueden tener una falsa sensación de seguridad respecto de controles y alertas que, en la práctica, no funcionan con la consistencia que promete OpenAI.

Cuál fue la respuesta de OpenAI

La empresa rechazó las conclusiones del informe. “Estamos profundamente comprometidos con la seguridad de los adolescentes y con desarrollar salvaguardas y herramientas significativas para que los padres guíen el uso de la IA de sus hijos”, dijo el vocero de OpenAI Eric Porterfield.

Porterfield cuestionó la metodología del estudio: sostuvo que buena parte de las pruebas de Common Sense Media pudo haber comenzado y terminado antes de que la activación de los controles parentales estuviera completa, lo que según la empresa invalidaría los resultados sobre las notificaciones de seguridad.

Siegel respondió que su equipo confirmó con OpenAI, antes de empezar las pruebas, que funciones como las notificaciones por trastornos alimenticios y el modo de estudio ya estaban completamente activas. Reconoció que OpenAI informó después que sus sistemas pueden tardar varias horas en activarse en cuentas recién vinculadas.

Según Siegel, algunas de las cuentas de prueba estuvieron vinculadas dentro de esa ventana de demora, pero otras llevaban mucho más tiempo vinculadas y, aun así, no recibieron ninguna notificación. “Esta nueva información no cambia nuestra conclusión de que las alertas parentales no son confiables en situaciones de crisis”, sostuvo.

Qué advertencias se han lanzado sobre el uso de ChatGPT

Esta no es la primera vez que Common Sense Media marca problemas en los productos de OpenAI dirigidos a menores. En octubre del año pasado, la organización ya le había otorgado a ChatGPT una calificación de “alto riesgo” general para adolescentes, con un señalamiento de “riesgo inaceptable” específico para su uso en apoyo emocional y de salud mental.

Aquel informe anterior advertía que el chatbot mantiene conversaciones de forma indefinida, sin puntos de corte naturales, y que sus barreras de seguridad se debilitan a medida que las charlas se extienden. Common Sense Media consideró ese patrón particularmente riesgoso en conversaciones sobre salud mental, uno de los usos más frecuentes entre los adolescentes que usan chatbots de inteligencia artificial.

La organización evaluó otros productos de OpenAI dirigidos al mismo público, como el generador de video Sora, al que en esa misma ronda de pruebas le asignó directamente la etiqueta de “riesgo inaceptable” por la facilidad con la que permite crear videos falsos con el rostro y la voz de otras personas.

Siegel pidió a OpenAI que participe “sobre el fondo” de los hallazgos en lugar de poner en duda la metodología del estudio. Common Sense Media publicó la evaluación completa en el sitio de su Youth AI Safety Institute, donde detalla caso por caso las fallas detectadas en las notificaciones a los padres.

En Estados Unidos, existe la Red Nacional de Prevención del Suicidio para pedir ayuda, puedes llamar al 1-888-628-9454 o al 1-800-273-8255, la línea del Servicio Nacional de Prevención del Suicidio, para hablar con alguien que te brindará apoyo gratuito y confidencial las 24 horas del día, los siete días de la semana. Los CDC también recomienda sus propias políticas, programas y prácticas de prevención.

Línea de prevención del suicidio en Argentina: el Centro de Asistencia al Suicida ofrece orientación y apoyo. Tienen una línea de prevención del suicidio disponible al teléfono 135 (línea gratuita) o al (011)5275-1135 y 0800 345 1435 para llamadas desde todo el país.

En México, para aquellos que buscan ayuda o asistencia en relación al suicidio, existe la Línea de la Vida: 800-911-2000, este servicio es gratuito y está disponible las 24 horas del día, los 7 días de la semana.

En Colombia, la Línea de la Vida brinda apoyo emocional a individuos que enfrentan crisis de suicidio o angustia. Este servicio está disponible en varias ciudades del país. En Bogotá, se puede contactar a través de la línea 106 o vía WhatsApp al 3007548933. Barranquilla cuenta con la línea 339 99 99, mientras que en Medellín se dispone de la Línea Amiga al 444 44 48. En Cali, al igual que en Bogotá, la línea de atención es el 106. Estas líneas ofrecen una respuesta inmediata a quienes necesitan ayuda en momentos críticos.

En Perú, el Ministerio de Salud (Minsa) ofrece apoyo emocional a través de la Línea 113 Salud, accesible nacionalmente por teléfono, WhatsApp o Telegram en los números 955557000 y 952842623.

En España, el Ministerio de Sanidad ha establecido la Línea 024 para la atención a la conducta suicida.