Qué debe incluir un canal de seguridad en materia de IA entre Estados Unidos y China

Por Lizzi C. Lee y Simon Hedlin, Project Syndicate.

WASHINGTON, DC- El resultado más concreto de la cumbre celebrada el mes pasado entre el presidente de EE. UU., Donald Trump, y el presidente chino, Xi Jinping, fue un aparente acuerdo para establecer un canal entre EE. UU. y China destinado a la notificación de incidentes relacionados con la IA. Pero incluso si cualquiera de los dos gobiernos se muestra dispuesto a utilizar esta línea directa o a empezar a enviar datos a través del Pacífico, primero deben abordar una cuestión más urgente: las empresas pioneras en IA de EE. UU. y China no proporcionan actualmente la información que se necesitaría.

En EE. UU., ninguna ley ni normativa federal exige específicamente a las empresas de IA que notifiquen al Gobierno los incidentes de seguridad y las capacidades peligrosas. Aunque algunos estados han aprobado leyes sobre notificación de incidentes, la legislación federal, como la Ley de Notificación de Incidentes de IA y la Ley FRONTIER, se ha estancado en el Congreso. El sector sigue regulándose en gran medida por sí mismo.

Además, aunque el Acuerdo de la Casa Blanca sobre Superinteligencia se compromete a identificar y subsanar los problemas de seguridad, no exige la notificación a los organismos reguladores ni establece plazos para la notificación. La “Fuerza de Superinteligencia” de la Administración Trump, de carácter independiente, está desarrollando mecanismos gubernamentales de notificación de infracciones, ataques informáticos y otros incidentes relacionados con la IA. Sin embargo, no se trata de un organismo regulador, y sus recomendaciones tendrían que aplicarse mediante medidas exigibles.

También existe una grave falta de financiación para las pruebas y la supervisión por parte del Gobierno federal. Según el Informe del Índice de IA 2026 de Stanford, los desarrolladores estadounidenses lanzaron el año pasado 59 modelos de IA destacados, mientras que los británicos solo lanzaron uno. Sin embargo, la principal agencia federal estadounidense de pruebas de IA, el Centro para el Fomento de la Innovación y las Normas para la Superinteligencia (CAISSI) del Departamento de Comercio, cuenta con un presupuesto anual de tan solo 15 millones de dólares, mientras que el Instituto de Seguridad de la IA (AISI) del Reino Unido dispone de un presupuesto de casi 90 millones de dólares.

Dado que el Acuerdo de la Casa Blanca parece prever que los laboratorios de vanguardia realicen por sí mismos la mayor parte de las pruebas de seguridad, queda por ver qué papel desempeñaría el Gobierno en la validación de dichas pruebas y si algún organismo gubernamental tendría acceso a recursos informáticos suficientes para llevar a cabo sus propias pruebas.

A diferencia de EE. UU., el Gobierno chino no se enfrenta a obstáculos políticos y ya ha creado una importante estructura reguladora; la Administración del Ciberespacio de China (CAC) ha exigido recientemente controles de comportamiento, trazabilidad de los modelos, pruebas de seguridad y medidas de protección contra las vulnerabilidades del sistema y la pérdida de control. Sin embargo, todavía no existe en China un equivalente al CAISSI: un organismo especializado y centralizado en materia de seguridad de la IA con un mandato específico. El Gobierno tiene amplia autoridad sobre las empresas tecnológicas, pero la supervisión está repartida entre la CAC, el Ministerio de Industria y Tecnología de la Información, la Comisión Nacional de Desarrollo y Reforma (NDRC), el Ministerio de Ciencia y Tecnología y otros organismos.

Evaluar el riesgo de los modelos de IA de vanguardia requiere conocimientos técnicos especializados y coordinación entre todos los departamentos pertinentes del Gobierno chino, incluidos los servicios de seguridad. Sin embargo, algunos organismos gubernamentales chinos carecen de la capacidad técnica suficiente, y muchas de las personas con mayor experiencia técnica trabajan en institutos de investigación privados que no tienen autoridad para exigir el acceso a los modelos más avanzados de una empresa, y mucho menos para inspeccionar sus registros internos u obligarla a introducir cambios.

Por el momento, el Gobierno ha enviado a funcionarios de la CAC y la NDRC a los laboratorios chinos para debatir la posibilidad de restringir el lanzamiento de los modelos más avanzados. No obstante, las autoridades tendrán que exigir, en última instancia, la creación de equipos internos de pruebas de seguridad, el acceso a recursos informáticos suficientes y la realización de pruebas previas al lanzamiento de los modelos más avanzados.

Con el próximo diálogo sino-estadounidense sobre seguridad de la IA previsto para noviembre, Estados Unidos y China deberían centrarse en qué medidas harían que un canal de notificación de incidentes tuviera más posibilidades de funcionar. Por su parte, el Gobierno de EE. UU. necesita una política transparente y obligatoria para la realización de pruebas en los modelos de vanguardia. La Casa Blanca debería dar a conocer su marco actual y hacerlo vinculante, o bien colaborar con el Congreso para aprobar una legislación como la Ley FRONTIER, de carácter bipartidista. El Gobierno federal también debe establecer normas para las auditorías externas de las empresas de IA, otorgando a los auditores un mandato claro, obligaciones de información y una independencia significativa (siendo los auditores seleccionados y remunerados por un organismo del sector o una agencia gubernamental).

Al mismo tiempo, la Administración Trump debe mostrarse más proactiva a la hora de supervisar el cumplimiento normativo por parte de las empresas. Debería utilizar la “Super Intelligence Force” para revisar el actual y defectuoso proceso de lanzamiento de los modelos más avanzados, estudiar qué medidas adoptar ante los modelos de peso abierto, cada vez más capaces, y empezar a avanzar hacia un mecanismo de respuesta ante incidentes que tenga fuerza ejecutiva.

Por parte de China, para que el canal de notificación sea operativo sería necesario colmar la brecha entre la autoridad y la experiencia. La CAC podría definir las expectativas de seguridad y las modalidades de notificación; los organismos técnicos podrían desarrollar y validar las evaluaciones; la NDRC y otros organismos industriales podrían sopesar los efectos sobre la inversión y la difusión; y el Ministerio de Comercio seguiría siendo competente en materia de normas de transferencia de tecnología y exportación. Dado que EE. UU. ha facultado a la “Fuerza de Superinteligencia” para llevar a cabo una revisión exhaustiva del papel del Gobierno estadounidense, China debería plantearse algo similar.

China también debe abordar su falta de capacidad de evaluación y de acceso a recursos informáticos suficientes por parte de las empresas, los evaluadores y los organismos gubernamentales. Los rápidos avances en los modelos chinos de peso abierto hacen que esto sea especialmente importante, ya que, una vez que se publican los pesos de los modelos, los desarrolladores tienen mucha menos visibilidad sobre cómo se utilizan o se utilizan indebidamente sus sistemas.

El incipiente marco Z.ai-Concordia constituye una posible plantilla. Clasifica los modelos en tres categorías: modelos de “zona verde”, cuya publicación completa es segura; modelos de “zona amarilla”, que requieren una publicación por fases, un acceso estructurado para investigadores autorizados o un alojamiento exclusivo a través de API mientras se evalúan los pesos; y modelos de “zona roja”, cuya publicación queda suspendida a la espera de revisión.

La seguridad de la IA es un reto global. Abordarlo depende de una colaboración estrecha y creciente entre las dos potencias líderes en IA, y un canal de notificación de incidentes relacionados con la IA es solo un pequeño paso en la dirección correcta. A los gobiernos de EE. UU. y China les llevará mucho tiempo alcanzar acuerdos vinculantes y verificables. No pueden permitirse el lujo de verse frenados por no llevar a cabo reformas internas. Copyright: Project Syndicate, 2026.

Lizzi C. Lee es investigadora especializada en economía china en el Centro de Análisis de China del Asia Society Policy Institute, donde dirige el pilar de Economía y Tecnología del centro. Simon Hedlin, antiguo investigador de GovAI, es investigador en políticas de IA especializado en modelos de pesos abiertos.