Los legisladores quieren permitir que los usuarios demanden por algoritmos dañinos en las redes sociales Mas Cipolleti
La ley menos favorita de los críticos tecnológicos está nuevamente bajo asedio, esta vez con un enfoque en sus algoritmos de recomendación.
El miércoles, los senadores John Curtis (R-UT) y Mark Kelly (D-AZ) presentaron la Ley de Responsabilidad de Algoritmos, que modifica la Sección 230 de la Ley de Decencia en las Comunicaciones para responsabilizar a las plataformas de evitar que sus sistemas de recomendación causen ciertos daños previsibles. La Sección 230 es la ley que protege a las plataformas en línea (incluidos los sitios de redes sociales, foros digitales, blogs con secciones de comentarios y a sus usuarios) de ser considerados responsables por publicaciones ilegales realizadas por otros o por participar en la moderación de contenido de buena fe. Pero la Ley de Responsabilidad de Algoritmos requeriría que las plataformas comerciales de redes sociales “ejercigan un cuidado razonable en el diseño, capacitación, prueba, implementación, operación y mantenimiento de un algoritmo basado en recomendaciones” para “prevenir lesiones personales o la muerte”. Si una plataforma pudiera prever razonablemente que sus recomendaciones de contenido resultarían en daño físico, la Sección 230 ya no brindaría protección para la difusión de esas recomendaciones.
Según la Ley de Responsabilidad de Algoritmos, las víctimas que sufrieron lesiones personales, o sus representantes, podrían demandar a las plataformas tecnológicas por daños y perjuicios.
Este enfoque, conocido como deber de diligencia, es similar a la Ley de seguridad infantil en línea (KOSA, por sus siglas en inglés), un proyecto de ley en problemas con amplio apoyo en el Senado que está paralizado en la Cámara en medio del lobby tecnológico y preocupaciones sobre el discurso. Según la Ley de Responsabilidad de Algoritmos, las víctimas que hayan sufrido lesiones personales, o sus representantes, podrían demandar a las plataformas tecnológicas por daños y perjuicios si creen que incumplieron su deber de diligencia. Pero sólo se aplica a un subconjunto de servicios web: específicamente, plataformas de redes sociales con fines de lucro con más de un millón de usuarios registrados.
Los patrocinadores del proyecto de ley insisten en que no infringiría los derechos de la Primera Enmienda, anticipándose a las críticas periódicas a las reformas de la Sección 230. Al igual que KOSA, el nuevo proyecto de ley dice que no impediría que las plataformas proporcionen a los usuarios la información que buscan directamente. Tampoco restringiría los feeds servidos en orden cronológico o cronológico inverso y prohibiría hacer cumplir la legislación basada en las opiniones de los usuarios.
Curtis culpó a la Sección 230 por permitir el entorno tóxico de las redes sociales que, según él, contribuyó al asesinato en septiembre del activista conservador Charlie Kirk por un hombre armado en su estado natal de Utah. En un reciente Diario de Wall Street artículo de opiniónDijo que “las plataformas en línea probablemente desempeñaron un papel importante en la radicalización del presunto asesino de Kirk”, un fenómeno “impulsado no sólo por la ideología sino también por algoritmos: códigos escritos para mantenernos involucrados y enfurecidos”. en un cnn ayuntamiento de la universidad donde mataron a Kirk, Curtis y Kelly, cuya esposa Gabby Giffords es sobreviviente de un intento de asesinato, visto su nueva cuenta junto a un mensaje preguntando “Aliviar las tensiones políticas en ambos lados del pasillo”.
Los algoritmos de recomendación fueron un tema central en una importante demanda contra YouTube, Meta y otras plataformas a principios de este año, cuando un grupo de seguridad de armas alegó que contenían responsabilidad por la radicalización de un tirador racista sacar a la superficie el discurso de odio en los algoritmos de recomendación. El discurso de odio está protegido legalmente y un tribunal expulsado el caso cita preocupaciones sobre la Sección 230 y la Primera Enmienda. Pero la nueva ley podría cambiar el equilibrio de poder en una serie de demandas contra empresas de tecnología por diversos motivos, desde consumo de drogas hasta autolesiones. Incluso en los casos en los que la expresión se considera legal en última instancia, la pérdida de la protección de la Sección 230 puede involucrar a las plataformas en largos juicios por impugnaciones de su alojamiento o moderación de las publicaciones de los usuarios.
Pero los grupos que se han opuesto a KOSA y a intentos anteriores de reformar la Sección 230, como la Electronic Frontier Foundation (EFF), he advertido que incluso con tales garantías, las plataformas se verían incentivadas a simplemente eliminar o no revelar información que fuerza interpretarse como una violación, pudiendo incluso consumir recursos destinados a prevenir el mismo comportamiento dañino que los legisladores quieren mitigar.
