Grupos de defensa piden a YouTube proteger a niños de videos basura con IA Diario.mx

Grupos de defensa y expertos condenaron a YouTube por ofrecer contenido y videos de baja calidad generados con inteligencia artificial, conocido como “AI Slop”, a su audiencia más vulnerable: los niños.

En una carta dirigida a los directores generales de YouTube, Neal Mohan, y Sundar Pichai, de Google, la empresa matriz de YouTube, el grupo de defensa de la niñez Fairplay expresó su “seria preocupación” por la propagación de videos generados por IA tanto en YouTube como en YouTube Kids. La carta, enviada el miércoles, fue firmada por más de 200 organizaciones y expertos individuales, como psiquiatras infantiles y educadores.

“El contenido AI Slop perjudica el desarrollo de los niños al distorsionar su sentido de la realidad, saturar sus procesos de aprendizaje y secuestrar su atención, extendiendo así el tiempo en línea y desplazando actividades fuera de línea necesarias para su desarrollo saludable”, dice la carta. “Estos daños son particularmente agudos en los niños pequeños”. “Slop” se podría traducir como desecho y en contexto con la inteligencia artificial, AI Slop es una forma de generar contenido basura o de muy baja calidad, semejante al spam en los correos electrónicos.

La carta insta a YouTube a etiquetar claramente todo el contenido generado por IA y a prohibir cualquier contenido generado por IA en YouTube Kids. También proponen impedir que se recomienden videos generados por IA a usuarios menores de 18 años e implementar una opción para que los padres puedan desactivar el contenido generado por IA incluso si su hijo lo busca.

La carta está firmada por 135 organizaciones, entre ellas la Federación Estadounidense de Maestros y la Asociación Estadounidense de Consejería, y alrededor de 100 expertos individuales como Jonathan Haidt, autor de “The Anxious Generation”. La carta forma parte de una campaña más amplia de Fairplay que también incluye una petición.

Gran parte de este contenido generado por IA es de ritmo acelerado, con colores brillantes, música animada y títulos llamativos diseñados para captar la atención (clickbait) de los espectadores jóvenes, detalla la carta. Ha crecido un movimiento en línea contra el contenido generado por IA, particularmente cuando parece o se siente de baja calidad o se inclina hacia el “brainrot” (contenido absurdo, repetitivo).

El portavoz Boot Bullwinkle indicó en un comunicado que YouTube tiene “altos estándares para el contenido en YouTube Kids, incluido limitar el contenido generado por IA en la aplicación a un pequeño conjunto de canales de alta calidad”.

“También ofrecemos a los padres la opción de bloquear canales. En todo YouTube, priorizamos la transparencia cuando se trata de contenido de IA, etiquetando el contenido de nuestras propias herramientas de IA y exigiendo a los creadores que revelen contenido realista generado por IA. Siempre estamos evolucionando nuestro enfoque para mantenernos al día a medida que el ecosistema evoluciona”.

La política actual de YouTube sobre contenido generado por IA exige que los creadores revelen cuando el contenido “realista” se realiza con medios alterados o sintéticos, incluida la IA generativa. No se exige a los creadores que lo revelen cuando la IA generativa se utiliza para crear contenido que es claramente irreal, incluidos videos animados y aquellos con efectos especiales.

YouTube dijo que está trabajando activamente en el desarrollo de etiquetas para YouTube Kids.

En su carta, Fairplay sostiene que la política de divulgación voluntaria y lo que considera una definición “extremadamente limitada” de contenido alterado y sintético hacen que los niños sigan viendo una avalancha de videos generados por IA que no están etiquetados como tales. También argumentan que muchos niños que ven videos de YouTube aún no pueden leer o comprender algo como una divulgación sobre IA. Eso deja a los niños “a su suerte o a sus padres jugando al golpea-al-topo”, señala la carta.

La campaña de Fairplay llega poco después de que el fondo AI Futures Fund de Google invirtiera 1 millón de dólares en Animaj, un estudio de animación con IA que hace videos para niños y atrae cifras de audiencia asombrosamente altas, según Bloomberg.

La campaña sigue a un veredicto histórico en un juicio por adicción a las redes sociales, en el que un jurado de California determinó que YouTube diseñó su plataforma para enganchar a usuarios jóvenes sin preocuparse por su bienestar. Meta también fue considerada responsable por los mismos cargos que YouTube en el mismo caso.

Rachel Franz, directora del programa de Fairplay “Young Children Thrive Offline”, manifestó en un comunicado: “Acercar basura de IA a niños pequeños es solo otra prueba de cómo YouTube y YouTube Kids están diseñados para maximizar el tiempo en línea de los niños, incluidos los bebés. La basura de IA hipnotiza a los niños pequeños, dificultando que se despeguen de sus pantallas y pasen a actividades esenciales como el juego, el sueño y la interacción social. Además, el algoritmo de YouTube hace imposible que los niños eviten la basura de IA”.

A principios de este año, Mohan, jefe de YouTube, enumeró “gestionar la basura de IA” como una de las prioridades de la empresa para 2026. En una publicación de blog de enero, escribió que la compañía estaba “desarrollando activamente sobre nuestros sistemas establecidos que han tenido mucho éxito en combatir el spam y el clickbait (trampa de clics), y en reducir la propagación de contenido repetitivo y de baja calidad”.