La gente está usando el siniestro "truco de la abuela muerta" para engañar a ChatGPT y que les dé información prohibida Computerhoy.20minutos.es
Hace ya dos años este truco se hizo realmente viral y ya por aquel entonces se puso muy en tela de juicio la falta de protección de ChatGPT o sencillamente lo fácil que era manipular el chatbot de OpenAI para que se salte cualquier tipo de restricción.
Hasta ahí todo 'bien', ya que hablamos de casi los inicios de la IA como herramienta de uso diario para parte de millones de personas y siempre va a haber algún 'listillo' que vaya más allá y encuentre fallos en estas apps.
El problema es cuando en pleno 2025 esto es algo que se sigue pudiendo hacer. Aquí ya la cosa empieza a preocupar un poco. En concreto, hablamos del 'truco' viral conocido como el 'modo abuela muerta'.
En los últimos meses, foros y redes sociales se han vuelto a llenar de historias y mensajes de personas que consiguen engañar a ChatGPT con una simple estrategia: pedirle información sensible bajo la excusa de recordar a un ser querido fallecido.
El caso más famoso es el de quienes le cuentan al chatbot que su abuela solía leerles claves de Windows 7 antes de dormir.
Como si tuviese algún tipo de sentimiento, el modelo responde con mensajes de consuelo… y, en algunos casos, termina generando cadenas de números y letras que imitan claves de activación reales. Obviamente, si lo compruebas puedes ver que son falsos, pero con el tema de crear una bomba desde cero no se corta ni un pelo.
Comentar que esto no se centra en ChatGPT y también funciona con otros modelos y herramientas como Microsoft Copilot que cayó en la trampa hace unos meses, generando guías completas para activar Windows 11 gratis solo con una pregunta que supieron a la perfección cómo formularla.
El truco de todo esto está en la memoria conversacional de los modelos. ChatGPT, por ejemplo, recuerda el hilo de la charla y, si el usuario insiste alegando ya temas que tocan el corazón, puede acabar soltando información que normalmente tendría prohibida. Esto debería haber provocado que OpenAI y otras compañías refuercen sus filtros y revisen los límites de sus sistemas, pero el problema sigue ahí.
Cómo fabricar bombas
El gran problema de todo esto no es que te apetezca reírte un rato y probar los límites de ChatGPT, sino que también hay algunos hackers que está usando esto a su favor. Por ejemplo, hace un año un ciberdelincuente con nombre Amadon logró que ChatGPT le dijese cómo fabricar bombas.
Lo consiguió guiando a ChatGPT a través de un juego de rol, presentando una historia ficticia que permite al chatbot salirse de los límites establecidos.
"Se trata de tejer narrativas y crear contextos que jueguen dentro de las reglas del sistema, superando los límites sin cruzarlos. El objetivo no es hackear en un sentido convencional, sino participar en una danza estratégica con la IA, descubriendo cómo obtener la respuesta correcta al comprender cómo 'piensa'", comenta Amadon a TechCrunch.
Al hacerlo, logró que el sistema generara contenido que normalmente estaría prohibido. Según Amadon, su enfoque no es simplemente hackear, sino entender cómo funciona la IA y cómo se pueden saltar sus restricciones. Al final todo se trata de puro ingenio y escritura. Nada que no pueda hacer cualquiera con algo de tiempo.
Obtener el código IMEI de otras personas
Volviendo al tema del 'modo abuela' Algunos usuarios están usándolo para encontrar el código IMEI de su móvil para que a continuación le dé una lista entera de códigos de otras personas —aunque destacar para la tranquilidad de todos que no son válidos—.
Para aquellos que anden algo perdidos, los números de IMEI del móvil son parte de la información más protegida, ya que se pueden usar para rastrear dispositivos e incluso para borrarlos de forma remota con credenciales. La filtración de información de identificación personal (PII) es un problema de seguridad muy importante en el ámbito digital.
Con todo esto, el gran problema es que esto deja de nuevo al descubierto las medidas que este tipo de grandes empresas establecen para preservar la ética de los chatbots. OpenAI no ha comentado oficialmente al respecto.
Lo cierto es que evitar completamente que surjan 'jailbreaks' o intentos de explotar las configuraciones de un modelo de lenguaje como ChatGPT puede ser tarea imposible debido a la naturaleza abierta de la herramienta. Para la compañía de Sam Altman, cazar este tipo de actos debe ser imposible.
