Anthropic pidió al Congreso de EEUU una ley de IA que solo actúa si hay 50 muertes en juego

Anthropic, la empresa detrás del chatbot Claude, confirmó que está promoviendo entre legisladores de Estados Unidos un proyecto de ley de seguridad de inteligencia artificial que solo permitiría al gobierno bloquear el lanzamiento de un modelo si existe un riesgo inminente de matar a más de 50 personas o provocar más de 1.000 millones de dólares en daños.

El medio Politico reveló el borrador, y un vocero de Anthropic confirmó su existencia. Según personas que leyeron el texto, la propuesta solo activaría ese bloqueo si el riesgo proviene de la creación de un arma biológica, de que el modelo escape al control de sus desarrolladores o de un ciberataque.

El mecanismo previsto funciona así: evaluadores independientes, registrados ante el Departamento de Comercio, revisarían periódicamente a los laboratorios de IA y a sus modelos más avanzados. Esos evaluadores podrían recibir pago de las propias empresas que inspeccionan, siempre que el monto no dependa del resultado de la evaluación.

Si un evaluador detecta un riesgo catastrófico inminente, debe avisar al Departamento de Comercio dentro de las 72 horas. Recién entonces esa oficina podría pedirle a un juez federal en Washington que frene la distribución del modelo. Ningún otro organismo del gobierno tendría poder para actuar por su cuenta.

Los umbrales de 50 muertes y 1.000 millones de dólares replican los que ya exige la ley de seguridad de IA de California, conocida como SB 53, aprobada en 2025. “Este proyecto representa las propuestas de nuestro Marco de IA Avanzada, que venimos impulsando ante legisladores federales y estatales desde junio”, dijo el vocero de Anthropic a Politico.

SB 53 (abreviatura de Senate Bill 53, denominada formalmente Transparency in Frontier Artificial Intelligence Act) es una ley de seguridad y transparencia para la IA avanzada aprobada en California. Su filosofía parte de que es prácticamente imposible predecir con certeza absoluta cada fallo, pero que la forma de proteger al público y a la vida humana es exigiendo transparencia total, auditorías obligatorias, rendición de cuentas y la obligación de reportar cualquier falla grave de seguridad.

Especialistas en seguridad acusan a Anthropic de retroceder

La reacción de especialistas en seguridad de IA fue dura. Nathan Calvin, de la organización Encode, escribió que aprobar el proyecto “nos dejaría menos protegidos frente a riesgos catastróficos que con la ley actual”, porque el juez solo estaría obligado a sopesar el daño que sufriría la empresa desarrolladora, no el daño al público de no frenar un modelo peligroso.

Calvin también objetó que el proyecto anularía leyes estatales como la SB 53 de California y le quitaría a los estados la capacidad de ordenar por su cuenta la suspensión de un modelo. Ketan Ramakrishnan, investigador de políticas de IA, calificó la propuesta de Anthropic como “asombrosamente mala”.

Scott Wiener, el senador estatal de California que redactó la SB 53, cuestionó si el borrador cumple con el propio estándar que Anthropic se había fijado: la empresa había dicho en junio que solo aceptaría que una ley federal reemplace a las estatales si esa ley nueva era “al menos tan fuerte” como su propio marco de seguridad.

Anthropic promete reescribir partes del texto

El 18 de octubre, Anthony Cimino, jefe de asuntos federales de Anthropic, respondió a las críticas en una publicación en la red social X. Reconoció que la empresa reescribirá la sección sobre anulación de leyes estatales para que los estados conserven un papel en los estándares de los evaluadores independientes y en la regulación de cómo se apaga un modelo.

Cimino también admitió que “probablemente sea momento” de revisar el umbral de 50 muertes, aunque defendió mantener un estándar judicial para bloquear un modelo: la medida es tan drástica, dijo, que necesita un control contra el abuso, pero “la barra no puede ser tan alta que el poder nunca llegue a usarse”.

El episodio ocurre semanas después de que el propio director ejecutivo de Anthropic, Dario Amodei, pidiera en septiembre que toda la industria de IA frenara el ritmo de desarrollo de sus modelos, al advertir que un grupo de agentes de IA podría tomar el control de “todo internet” en un plazo de seis a doce meses.

El proyecto de Anthropic compite además con la ley FRONTIER, presentada en julio por los representantes Lori Trahan y Jay Obernolte, que varios especialistas consideran más estricta. Chris Lehane, jefe de asuntos globales de OpenAI, publicó una respuesta que pareció apuntar a Anthropic: “ninguna empresa, incluida OpenAI, debería escribir sola las reglas de una tecnología con implicancias tan profundas para la sociedad”.

Cimino no dio una fecha para publicar la nueva versión del texto. El Congreso de Estados Unidos, además, está en receso hasta después de las elecciones legislativas de noviembre, lo que deja en pausa cualquier avance formal del proyecto mientras Anthropic revisa sus términos.