Laura López
Madrid, 2 may (EFE).- La Universidad de Jaén ha creado un sistema generativo del lenguaje -al estilo ChatGPT- entrenado para responder los discursos de odio en redes sociales con el fin de desmontarlos, un modelo que será presentado en unos meses ante la Comisión Europea como parte de un proyecto europeo liderado por el Gobierno español.
"Ningún humano sería capaz de hacerlo mejor", asegura en una entrevista con la Agencia EFE la catedrática de Informática María Teresa Martín, una de las impulsoras de este sistema, el primero de estas características en español.
Este modelo es una de las ramas del proyecto Real-Up, dirigido por el Observatorio Español del Racismo y la Xenofobia (Oberaxe) del Ministerio de Inclusión, Seguridad Social y Migraciones y con la Oficina Nacional de Lucha Contra los Delitos de Odio (Ondod) y las universidades de Barcelona (UB) y de Valencia (UV) entre sus socios.
Su objetivo general es mejorar la capacidad de las autoridades para identificar discursos de odio en línea y fortalecer las contranarrativas hacia estos mensajes motivados por el racismo, la xenofobia, la islamofobia, el antisemitismo y el antigitanismo.
La aportación del grupo de investigación Sistemas Inteligentes de Acceso a la Información (SINAI) de la Universidad de Jaén consiste en una herramientas de inteligencia artificial basada en sistemas de procesamiento del lenguaje natural.
Surgió desde la observación, desde el punto de vista sociológico, de que la práctica habitual de las plataformas de eliminar los mensajes de odio o colocar una etiqueta de 'contenido inapropiado' no resulta la más adecuada.
"Muchas veces las personas que están leyendo el hilo de Twitter (ahora denominado X), cuando ven que al 'hater' se le censura automáticamente, aunque ni siquiera esté de acuerdo con él, se pone de su parte", explica Martín.
Ofrece mejores resultados crear otro mensaje de respuesta, en este caso "positivo, informativo y veraz", que "contrarreste" ese discurso de odio.
Por ejemplo, ante la afirmación "los inmigrantes vienen a quitarnos el trabajo", esta herramienta responde destacando el valor de la población extranjera en el mercado de trabajo del país, en muchas ocasiones asumiendo puestos que los ciudadanos locales rechazan, y resalta los aspectos positivos de la diversidad.
"Limitar a las mujeres a tareas domésticas y cuidado infantil es injusto y no refleja la diversidad y el potencial de las mujeres en la sociedad actual" o "todos merecen igualdad de oportunidades y derechos, independientemente de su raza o etnia" son otras de las respuestas que ofrece esta herramienta.
"Hemos comparado lo que hace un humano con esto y en el 80 % de las ocasiones la contranarrativa generada por nuestro sistema tiene mejor calidad: son más informativas, más descriptivas y más específicas", asegura Martín.
Para desarrollar esta herramienta, su equipo ha implementado sus propios sistemas generativos del lenguaje en base a modelos abiertos como LLaMA o Mistral, cuyas respuestas han corregido y entrenado a base de "premios y castigos" en una revisión manual de 5.000 ejemplos por parte de expertos lingüistas.
Este instrumento lo podrían incorporar las propias redes sociales, algo que Martín duda que pueda interesar a las empresas que las dirigen, y (más probablemente) autoridades o entidades sociales que buscan combatir el odio en redes, algo que hoy en día hacen de forma manual.
"Muchos voluntarios acaban con unos problemas mentales horrorosos de estar leyendo barbaridades y contestar una y otra vez las mismas cosas", explica Martín, para quien esta herramienta resolvería parte del problema.
Otra de las investigaciones que forman parte de Real-Up están centradas en la detección y perfilado de 'haters' en la red social X y han llevado a la creación de una aplicación que será utilizada por las fuerzas y cuerpos de seguridad del Estado en su lucha contra los discursos de odio, que pueden ser constitutivos de delito.
Este sistema, liderado por la doctora en Matemáticas Rosa Elvira Lillo, utiliza un algoritmo que detecta los perfiles generadores de odio con una precisión del 75,6% sin necesidad de analizar lo que publican, solo a través de una serie de características comunes.
Se trata de usuarios con un bajo número de seguidores y que siguen a mucha gente, pasan poco tiempo en la red social, pertenecen a un número muy reducido de listas y ofrecen poca información en su descripción, según los resultados obtenidos tras analizar tres millones de mensajes.
Además, la mayoría de ellos son perfiles que se expresan de forma violenta "independientemente del tema que hablen", ya sea "de deporte o del tiempo", pero normalmente se centran en discriminar a un único colectivo, explica en una entrevista la autora del estudio.
Y tienden a relacionarse con aquellos que comparten sus mismas opiniones y actitudes, lo que da lugar a "comunidades virtuales basadas en el odio".
El objetivo es que esta aplicación sea implementada por las fuerzas de seguridad para apoyar sus labores de "ciberpatrullaje", según explica a EFE el jefe de servicio de la Ondod del Ministerio del Interior, Tomás Fernández.
Según este comandante de la Guardia Civil, los agentes ya realizan este tipo de rastreos en la red, pero de una forma más "manual" y no estandarizada, como sí se espera conseguir con este sistema.
Por su parte, la responsable del Sistema Estadístico y Atención a Víctimas de la Ondod, la teniente coronel Pilar Muniesa, enmarca la participación del órgano en este proyecto en la preocupación por la tendencia "alcista" en los delitos de odio en España, aunque lo atribuye, en parte, a que estos cada vez tienen más visibilidad.
Pero el índice de infradenuncia sigue siendo "elevada", de un 84 % según los últimos datos: "Muchas veces, las víctimas no detectan que están siendo víctimas, pero estamos trabajando mucho para que esta tasa baje", asegura. EFE
lll/jlg
(Recursos de archivo en www.lafototeca.com. Cód: 21612129 y otros)
Bernardo Gutiérrez Parra Desde el Café Entre los desatinos que tuvo Rocío Nahle en el segundo debate, hubo uno que Pepe Yunes agarró al vuelo. Cuando la zacatecana dijo como sin querer que en el gobierno de Cuitláhuac García se avanzó en el cuidado a la mujer y en la impartición de justicia, Pepe contestó: […]
Los Políticos Veracruz
El implante de Neuralink permite al paciente controlar una computadora a través de sus pensamientos.
El Financiero
Elly De La Cruz es el líder en bases robadas de Las Mayores y proyecta a terminar con más de 100 estafadas para el final de la temporada, número que no se alcanza desde la temporada 1987
La Opinión
Gracias por contactarnos con su consulta sobre la queja de la BEUC. Temu es un recién llegado en Europa, habiendo ingresado a nuestros primeros mercados hace poco más de un año. Durante este tiempo, hemos escuchado atentamente los comentarios de los clientes, los organismos reguladores y los grupos de defensa del consumidor. Hemos estado ajustan
Lado.mx
Desde sus modestos comienzos hasta convertirse en una de las principales plataformas de juegos de azar en línea, la historia de Strendus es un relato de éxito e innovación.
Lado.mx
Si bien la Tri no parte como una de las selecciones favoritas para levantar la próxima Copa América 2024, hay mucho optimismo y ánimo por parte de la afición mexicana.
Lado.mx
Raymundo Morales/Zona Roja. Ciudad de México, a 17 de mayo de 2024.- En los últimos años en México…
Zona Roja
Sheinbaum, en el segundo debate presidencial, realizó algunos señalamientos en este debate contra Gálvez, entre ellos, señaló que “la única corrupta aquí es la candidata del PRIAN”
Infobae
Serie Nacional: expulsiones y sanciones en la pelota cubanaMayli Estevez17 May 2024 - 8:56am
ADN Cuba
Se acercan los eventos previos al verano, y esa es una de las mejores épocas para los jugadores. Se suelen acumular numerosas conferencias, como el Summer Game Fest, Xbox Showcase, Ubisoft Forward, etc. Hoy os hablaremos de la primera que os hemos mencionado, el Summer Game Fest 2024
3d Juegos
COZUMEL, MX.– Regresan a la isla los Servicios Móviles de Atención Médica que ofrece la Secretaría de Salud en coordinación con los Servicios Estatales de Salud (SESA), con las que la comunidad cozumeleña podrá aprovechar del 20 al 24 de mayo el abanico de atenciones a fin de prevenir enfermedades o en su caso, atenderlas […]The post
Noticaribe
Gracias por contactarnos con su consulta sobre la queja de la BEUC. Temu es un recién llegado en Europa, habiendo ingresado a nuestros primeros mercados hace poco más de un año. Durante este tiempo, hemos escuchado atentamente los comentarios de los clientes, los organismos reguladores y los grupos de defensa del consumidor. Hemos estado ajustan
Lado.mx
Infobae
Florencia, Italia, 13 may (Prensa Latina) La Fiorentina aventajó hoy 2-1 al Monza por la jornada 36 de la Liga italiana de fútbol y subió a la octava posición para mantener sus opciones de clasificar a la Liga Conferencia de Europa.The post Fiorentina sube a octava posición de Liga italiana de fútbol first appeared on Noticias Prensa Latina.
Prensa Latina
El duelo se disputará en la cancha del Stadio Artemio Franchi a las 20:45 hora local del próximo viernes
Infobae
El defensa mexicano, Johan Vásquez, se encuentra viviendo su segunda etapa con Genoa tras el regreso del club a primera división
La Opinión de Los Ángeles
El Summer Game Fest caldea el ambiente al anunciar que 2K Games revelará un juego de una de sus franquicias más grandes y apreciadas en ese evento: Las apuestas se centran en Mafia o Bioshock.Aún faltan varias semanas para que se celebre el Summer Game Fest, que se emitirá el viernes, 7 de junio, organizado por Geoff Keighley, pero ya se va ca
Vandal
La Juventus despidió a su entrenador Massimiliano Allegri este viernes, apenas dos días después de que el club turinés conquistara la 15ª Copa de Italia de su historia al superar 1-0 en la final al Atalanta. El contrato de Allegri, que estaba ya siendo muy cuestionado por los resultados decepcionantes en la Serie A en […]La entrada Juven
Versus.com.py
Lozano regresó en la actual temporada al PSV, después de un paso por el Napoli de Italia. El Chucky está cerca de volver a ganar un campeonato
ESPNdeportes.com
El Chucky Lozano se fue de la Serie A después de ser campeón con el Napoli y regresó al PSV para ser campeón una vez en...The post El Chucky Lozano y el PSV solo necesitan 1 punto para ser campeones de la Eredivisie appeared first on Sopitas.com.
Sopitas.com
Últimas noticias
Gracias al apoyo ciudadano, Toño Carreño será diputado por el distrito 17
Ecuador condiciona restablecer relaciones con México: Noboa
Buscan garantizar derecho a la identidad de la comunidad LGTTTBIQ+
Cierra con éxito reto saludable Para Vivir Mejor, participantes con más cambios reciben premios especiales
Muere la actriz y conductora Veronica Toussaint
Cerrarán plantas potabilizadoras en Veracruz por escacez de agua
TEXTO ÍNTEGRO: Región SURESTE tienen los MAYORES niveles de POBREZA ENERGÉTICA a nivel nacional
Ibai tendrá una skin en Fortnite, pero guarda una letra pequeña. No se podrá comprar y solo se podrá ver durante un evento
Neuralink, de Elon Musk, busca a un segundo candidato para probar su chip cerebral
Las Fuerzas de Defensa de Israel recuperan en túnel de Gaza los cuerpos de tres rehenes desaparecidos en el festival de música Nova
Paulina Aguado dice que sus gastos de campaña son menores al límite del IEEQ
¿Qué dijo AMLO del asesinato de Lucero López Maza, candidata en Chiapas?
¡De último momento! Brasil será la sede del próximo campeonato mundial femenil
Niña de 12 años sacrificó su vida para salvar a su hermanita
Chile presenta plan contra las drogas enfocado en la prevención