China tipifica los casos en que ‘deepfakes’ o las alucinaciones de la IA pueden ser delito

El Tribunal Supremo de China divulgó normas que regulan los casos en los que el uso de deepfakes que reproducen la imagen o la voz de otra persona mediante inteligencia artificial (IA) puede tener consecuencias legales.

De acuerdo al máximo órgano judicial del país asiático, el uso de rostros o voces generadas con IA para difundir falsedades o dañar la reputación de otros es perseguible por ley, al igual que lo es crear o distribuir clones digitales de una persona sin su consentimiento, recoge la agencia oficial Xinhua.

Junto a los deepfakes, el Supremo incluyó otros usos de la IA que pueden resultar ilegales como la mala gestión de los casos en que los sistemas proporcionan información errónea o inventada, un fenómeno conocido como “alucinaciones” que se encuentra entre los grandes retos que encara esta industria.

Así, el alto tribunal advierte de que los proveedores de IA pueden enfrentar responsabilidades legales si no actúan a tiempo una vez que el usuario les notifica que el modelo ha generado contenido que infringe sus derechos.

Los propios usuarios también asumirían este tipo de consecuencias si inducen a la IA de forma deliberada a crear contenido que no acate la legislación o perjudique a otras personas.

Además, el Supremo ha incluido entre las prácticas ilegales la discriminación a los consumidores mediante el uso de algoritmos que ofrecen diferentes precios o condiciones para un mismo producto o servicio sin que exista una razón justificada para ello, una práctica que se ha extendido con rapidez entre las plataformas chinas de comercio electrónico.

“No podemos esperar que cada consumidor se convierta en un experto en detección de engaños. La ley debe actuar con rapidez para proteger sus derechos e intereses”, señaló el director de la oficina de investigación del Tribunal Supremo, Zhou Jiahai.

Este recordatorio se produce en un momento de intensa actividad del sector chino de IA, tras la presentación de modelos como Kimi K3, de Moonshot, o GLM-5.2, de Zhipu, y en plena pugna con Estados Unidos por el control de tecnologías consideradas estratégicas.

En julio pasado el presidente chino, Xi Jinping, llamó en un importante evento del sector a garantizar que la supervisión y la gobernanza de la inteligencia artificial sean “precisas y efectivas”, y a “pulir constantemente” las medidas al respecto para “prevenir una pérdida de control” sobre esta tecnología emergente.

Con información de EFE

La entrada China tipifica los casos en que ‘deepfakes’ o las alucinaciones de la IA pueden ser delito aparece primero en López-Dóriga Digital.