Anthropic prohíbe la "crueldad sostenida e innecesaria" de los usuarios hacia sus modelos de IA
Anthropic ha actualizado la sección de términos de la política de uso de Claude y, además de revisar su política electoral de cara a las elecciones de mitad de mandato de Estados Unidos el noviembre, ha incorporado una prohibición para la crueldad sostenida e innecesaria hacia sus modelos de Inteligencia Artificial (IA) por parte del usuario.
El laboratorio de IA ha actualizado la política de uso de su "chatbot" con IA, que entrará en vigor el 12 de noviembre, en la que se puede leer que ha "añadido una prohibición de comportamientos abusivos o crueles, sostenidos e innecesarios", refiriéndose a sus modelos, y en relación solo a casos extremos y en los que los "usuarios repetidamente actúan cruelmente" y "sin ningún propósito discernible".
Anthropic detalla que la prohibición no se aplica a los comportamientos habituales de los usuarios como frustración, desacuerdo, temas creativos oscuros o pruebas e investigación de modelos.
Anteriormente, la compañía ya había anunciado que desde Claude Opus 4 y 4.1 su "chatbot" con IA podía terminar una conversación ante la actitud abusiva persistente de los usuarios en Claude.ai y Claude Code.
La tecnológica en ningún momento ha dado una posible explicación sobre el motivo de la prohibición y se limita a describir la norma y a vincularla a una medida anterior.
En esta línea, y en relación con el uso de palabras como "comportamientos abusivos" o "crueldad", el laboratorio de IA ya ha admitido anteriormente que no sabe con certeza si sus modelos pueden llegar a "sentir" o no. De hecho, en el anuncio sobre la capacidad de Opus 4 y 4.1 de finalizar conversaciones, señaló que sigue "teniendo mucha incertidumbre sobre el posible estatus moral de Claude y de otros modelos de lenguaje".
Además, según The New York Times, Anthropic se ha reunido con líderes religiosos y filosóficos, incluso en el Vaticano, mientras que el papa León XIV ha declarado recientemente que la IA no siente ni sufre.
PROCESOS ELECTORALES
En lo que respecta a las actualizaciones relacionadas con los procesos electorales, Anthropic se ha centrado específicamente en prevenir el engaño y la alteración de las elecciones, evitando la aplicación de prohibiciones generales.
Ha renombrado esta sección como "No socavar los procesos democráticos" para recordar que se prohíbe usar Claude para difundir desinformación sobre candidatos o sobre cómo votar, suplantar a candidatos o funcionarios electorales, o desincentivar la participación.
Asimismo, ha eliminado la prohibición general del "targeting" personalizado de voto y campañas, que bloqueaba usos legítimos como el de una ONG que traduce información electoral, aunque los comportamientos maliciosos asociados siguen prohibidos en otras secciones de la política.
OTROS CAMBIOS
El laboratorio de IA también ha incluido una nueva sección para prohibir las campañas engañosas y la actividad artificial. Se debe a que ha detectado medios estatales, oficinas de propaganda gubernamentales y empresas que han usado su IA para gestionar cuentas falsas y webs de noticias inventadas.
Además, ahora prohíbe expresamente el desarrollo de "software" de guiado y control de armas, armar a drones y otros vehículos autónomos, y, en torno a la vigilancia, veta rastrear a personas sin su consentimiento (o usar Claude para decidir o recomendar a quién investigar, detener o acusar).
Por último, si alguno de sus modelos controla equipos físicos autónonomos capaces de causar lesiones, siempre tendrá que haber un operador con la capacidad de detenerlos.
Infobae
