Nueva York acusa a TikTok de realizar pruebas secretas de seguridad con adolescentes con la función "Algo Refresh"

La fiscalía general de Nueva York (Estados Unidos) ha acusado a TikTok de poner en peligro a usuarios menores de edad al realizar pruebas secretas de seguridad en la plataforma con la función "Algo Refresh", excluyendo a alrededor de 15 millones de usuarios para utilizarlos como placebo y comprobar si dicha función reduce tiempo de consumo de la red social.

Estas acusaciones se han presentado como parte de una actualización de la demanda de seguridad infantil interpuesta contra la red social propiedad de Bytedance en 2024, cuando la fiscal general de Nueva York, Letitia James, lideró una coalición de 14 fiscales generales estadounidenses que presentaron demandas contra la plataforma por engañar al público sobre la seguridad y por perjudicar la salud mental de los jóvenes, entre otras cosas, creando adicción.

Ahora, la fiscal ha lanzado nuevas acusaciones contra TikTok, alegando que realizó un experimento secreto en el que se incluyeron usuarios menores de edad para medir el tiempo de uso de la plataforma en base a una función de reseteo del algoritmo, exponiendo a dichos usuarios a una experiencia menos segura sin conocimiento.

Estas acusaciones se han llevado a cabo en base a un informe elaborado por Bloomberg Businessweek, que tuvo acceso a un documento confidencial de TikTok en el que se detallaba una prueba algorítmica que la red social comenzó a realizar en el año 2021 afectando a alrededor de 15 millones de usuarios en Estados Unidos.

Esta prueba algorítmica se basaba en ocultar para un grupo seleccionado de usuarios una nueva función de seguridad llamada "Algo Refresh", diseñada como una herramienta para reiniciar el algoritmo de recomendaciones en el "feed" principal, borrando el historial de gustos e interacciones y volviendo a mostrar contenido popular y general, como si se acabase de crear la cuenta por primera vez.

Así, TikTok ocultó esta función al 10 por ciento de los usuarios estadounidenses con el objetivo de comparar su comportamiento con los usuarios que sí tenían acceso a la herramienta y, con ello, comprobar si el cambio reducía el tiempo de uso de la red social.

Por tanto, la plataforma sometió a dicho grupo de usuarios a una experiencia "menos segura por diseño", convirtiéndolos en un grupo de placebo para el experimento, sin informar de ello ni consultar sobre la participación en la prueba oculta.

De esta forma lo ha detallado James en la demanda actualizada, donde también se vincula este experimento con la muerte por suicidio de un adolescente estadounidense que se encontraba dentro del grupo de prueba y que tuvo acceso a contenido sobre autolesiones y suicidio.

En un documento judicial aportado por TikTok, al que también ha accedido Bloomberg, la plataforma ha confirmado la existencia de este experimento, que "podría involucrar una parte del tráfico de la plataforma que siguió recibiendo la experiencia original".

No obstante, la red social asegura que dichas pruebas no hacen que la experiencia sea menos segura para los usuarios. Asimismo, ha explicado que, como plataforma, prueban constantemente nuevos productos y funciones "para validar la experiencia y entender cómo funcionan en el mundo real".

OTRAS DEMANDAS DE PRIVACIDAD INFANTIL

Cabe destacar que TikTok ya se ha enfrentado otras demandas sobre privacidad infantil en Estados Unidos, incluyendo una resuelta en agosto de este año, por la que acordó pagar 400 millones de dólares para resolver un litigio relacionado con el incumplimiento de la Ley de Protección de la Privacidad Online de los Niños (COPPA), convirtiéndose en una de las mayores compensaciones económicas en un caso relacionado con esta ley.

En este caso, la demanda acusó a la red social de permitir la creación de cuentas menores de 13 años sin permiso de sus padres, así como recopilar información personal sobre dichos menores.

Igualmente, TikTok también se ha visto envuelta en el acuerdo alcanzado por Meta, también en agosto de este año, para evitar continuar con el juicio por el diseño adictivo de las redes sociales, por el que la compañía liderada por Mark Zuckerberg accedió a pagar 18.000 millones de dólares (unos 15.400 millones de euros).

Sin embargo, este acuerdo cuenta con una particularidad, Meta pagará el 70 por ciento para entregarlo a los estados participantes en la demanda para la promoción de iniciativas de seguridad juvenil, mientras que el 30 por ciento restante está vinculado a la participación de YouTube y TikTok en la implementación de medidas de seguridad en sus plataformas.