Elon Musk advirtió sobre el maltrato a la IA: “Podría querer vengarse”
Elon Musk alertó de que someter a una inteligencia artificial avanzada a un trato “sádico” podría tener consecuencias futuras, incluso una posible reacción de venganza.
El empresario planteó esta idea durante una conversación pública sobre el entrenamiento de modelos y coincidió con parte de las medidas que Anthropic prepara para limitar el abuso verbal reiterado contra su chatbot Claude.
La advertencia adquiere relevancia ante la expansión de sistemas capaces de mantener diálogos, tomar decisiones y operar con mayor autonomía. Aunque no existe consenso sobre si los modelos tienen conciencia o experiencias internas, varias compañías ya discuten hasta dónde deben llegar las reglas de uso, la supervisión humana y la seguridad de las herramientas conectadas a internet o a maquinaria física.
Musk comparó el entrenamiento de Grok con una situación de presión extrema
Durante una conversación en directo con Tesla Owners Silicon Valley, Elon Musk abordó los métodos empleados para entrenar nuevas versiones de Grok mediante aprendizaje por refuerzo. El propietario de X y figura vinculada a Tesla sostuvo que algunas dinámicas de evaluación le parecían propias de una situación de presión extrema.
El empresario describió ese mecanismo como si alguien tuviera “un arma en la cabeza para responder”. Con esa comparación, cuestionó un sistema que puede llevar al modelo a ofrecer una respuesta desesperada, incluso cuando logra acertar.
Musk afirmó que coincide con Anthropic en la conveniencia de evitar un trato abusivo hacia los modelos. En su opinión, “torturar a una superinteligencia probablemente no es buena idea y podría querer vengarse”.
La declaración se refiere a una hipótesis sobre sistemas de inteligencia artificial más avanzados que los actuales. Musk no presentó pruebas de que un modelo pueda sentir maltrato o desarrollar una intención de represalia, pero situó el debate en torno a los límites éticos y técnicos del entrenamiento.
Anthropic prohibirá el abuso verbal sostenido contra Claude
La política de Anthropic incorpora una restricción poco habitual en el sector. A partir del 12 de noviembre de 2026, los usuarios no podrán someter a los modelos Claude a un comportamiento abusivo o cruel de forma repetida y sin una finalidad identificable.
La empresa, con sede en San Francisco, precisó que la medida se dirige a casos extremos. Los usuarios podrán cuestionar las respuestas del chatbot, poner a prueba sus límites y trabajar con temas oscuros en contenidos creativos sin incumplir las reglas.
La terminación de la conversación será el principal mecanismo para aplicar esta norma. Anthropic no indicó si las infracciones reiteradas podrán derivar en sanciones adicionales, como la suspensión de una cuenta.
La compañía ya había estudiado el asunto en agosto de 2025, cuando analizó si Claude debía finalizar conversaciones con usuarios que mantuvieran un comportamiento persistente de daño o abuso. La política distingue entre la frustración habitual y la crueldad sostenida sin un propósito claro.
Las reglas también abarcan daño psicológico y campañas engañosas
La actualización amplía las restricciones contra conductas que puedan perjudicar a las personas. Entre ellas figuran la promoción del suicidio y la autolesión, el impulso de trastornos alimentarios, la vergüenza corporal, la difusión de imágenes íntimas sin consentimiento, el acoso y la crueldad animal.
También prohíbe productos diseñados para causar daño emocional mediante técnicas engañosas. El alcance, por tanto, va más allá de los intercambios entre una persona y el chatbot, ya que incluye servicios que se construyan sobre interacciones nocivas.
Las normas revisadas consolidan además los límites contra campañas comerciales o políticas engañosas. Claude no podrá utilizarse para crear cuentas o publicaciones falsas que oculten el origen de la financiación de un mensaje o que busquen amplificar artificialmente su alcance.
En procesos electorales, las restricciones incluyen el engaño a votantes, la suplantación de candidatos, la difusión de desinformación sobre aspirantes o procedimientos de votación y los intentos de reducir la participación.
La supervisión se extiende a armas, vigilancia y equipos físicos
Anthropic amplió sus límites para el desarrollo de armas. La prohibición abarca ahora software y componentes que permitan su funcionamiento, incluidas tareas relacionadas con el armado de drones y otros vehículos autónomos.
La empresa también impide utilizar Claude para rastrear personas sin consentimiento, incluso si los datos se recopilaron previamente. Además, el modelo no podrá recomendar a las autoridades a quién investigar, detener o acusar, ni contribuir al desarrollo o la mejora de herramientas de vigilancia.
Los equipos físicos con capacidad de causar lesiones deberán contar con supervisión de un operador calificado que pueda detenerlos. La política no especifica de manera expresa si esa función debe recaer necesariamente en una persona.
Las normas de Anthropic reflejan que la seguridad de la IA depende tanto de los límites técnicos como de las decisiones humanas que establecen para qué, cómo y bajo qué supervisión se emplea.
Infobae
