Australia dijo el martes que obligará a los gigantes tecnológicos a evitar que las herramientas en línea se utilicen para crear imágenes desnudas generadas por IA o al acecho de personas sin detección.
El gobierno trabajará con la industria para desarrollar una nueva legislación contra las “tecnologías aborrecibles”, dijo en un comunicado, sin proporcionar un cronograma.
“No hay lugar para aplicaciones y tecnologías que se usen únicamente para abusar, humillar y dañar a las personas, especialmente a nuestros hijos”, dijo la ministra de Comunicaciones, Anika Wells.
Las aplicaciones “Nudify”, las herramientas de inteligencia artificial que despojan digitalmente la ropa, han explotado en línea, Las advertencias que provocan que las llamadas estafas de sextortion se dirigen a los niños están surgiendo.
El gobierno utilizará “cada palanca” para restringir el acceso a “Nudificar” y acariciar aplicaciones, colocando la responsabilidad de las compañías tecnológicas para bloquearlas, dijo Wells.
“Si bien este movimiento no eliminará el problema de la tecnología abusiva de una sola vez, junto con las leyes existentes y nuestras reformas de seguridad en línea líderes en el mundo, marcará una verdadera diferencia en la protección de los australianos”, agregó.
La proliferación de herramientas de IA ha llevado a nuevas formas de abuso que impactan a los niños, incluidos los escándalos de pornografía en universidades y escuelas de todo el mundo, donde los adolescentes crean imágenes sexualizadas de sus compañeros de clase.
Una reciente encuesta de Save the Children encontró que uno de cada cinco jóvenes en España ha sido víctimas de desnudos de profundos, con esas imágenes compartidas en línea sin su consentimiento.
Cualquier nueva legislación tendrá como objetivo garantizar que la inteligencia artificial legítima y basada en el consentimiento y los servicios de seguimiento en línea no se vean afectados inadvertidamente, dijo el gobierno.
Australia ha estado a la vanguardia de los esfuerzos globales para frenar el daño por Internet, especialmente los dirigidos a los niños.
El país aprobó las leyes históricas en noviembre que restringen los menores de 16 años de las redes sociales; Una de las represiones más difíciles del mundo en sitios populares como Facebook, Instagram, YouTube y X.
Los gigantes de las redes sociales, que enfrentan multas de hasta AUS $ 49.5 millones (US $ 32 millones) si no cumplen con la prohibición de adolescentes, han descrito las leyes como “vagas”, “problemáticas” y “apresuradas”.
No está claro cómo las personas verificarán sus edades para inscribirse en las redes sociales.
La ley entra en vigor a fines de este año.
Un estudio independiente ordenado por el gobierno encontró esta semana que la verificación de edad puede realizarse “de manera privada, eficiente y efectiva”.
La garantía de edad es posible a través de una variedad de tecnologías, pero “ninguna solución única se ajusta a todos los contextos”, según el informe final del estudio.
