Laura López
Madrid, 2 may (EFE).- La Universidad de Jaén ha creado un sistema generativo del lenguaje -al estilo ChatGPT- entrenado para responder los discursos de odio en redes sociales con el fin de desmontarlos, un modelo que será presentado en unos meses ante la Comisión Europea como parte de un proyecto europeo liderado por el Gobierno español.
"Ningún humano sería capaz de hacerlo mejor", asegura en una entrevista con la Agencia EFE la catedrática de Informática María Teresa Martín, una de las impulsoras de este sistema, el primero de estas características en español.
Este modelo es una de las ramas del proyecto Real-Up, dirigido por el Observatorio Español del Racismo y la Xenofobia (Oberaxe) del Ministerio de Inclusión, Seguridad Social y Migraciones y con la Oficina Nacional de Lucha Contra los Delitos de Odio (Ondod) y las universidades de Barcelona (UB) y de Valencia (UV) entre sus socios.
Su objetivo general es mejorar la capacidad de las autoridades para identificar discursos de odio en línea y fortalecer las contranarrativas hacia estos mensajes motivados por el racismo, la xenofobia, la islamofobia, el antisemitismo y el antigitanismo.
La aportación del grupo de investigación Sistemas Inteligentes de Acceso a la Información (SINAI) de la Universidad de Jaén consiste en una herramientas de inteligencia artificial basada en sistemas de procesamiento del lenguaje natural.
Surgió desde la observación, desde el punto de vista sociológico, de que la práctica habitual de las plataformas de eliminar los mensajes de odio o colocar una etiqueta de 'contenido inapropiado' no resulta la más adecuada.
"Muchas veces las personas que están leyendo el hilo de Twitter (ahora denominado X), cuando ven que al 'hater' se le censura automáticamente, aunque ni siquiera esté de acuerdo con él, se pone de su parte", explica Martín.
Ofrece mejores resultados crear otro mensaje de respuesta, en este caso "positivo, informativo y veraz", que "contrarreste" ese discurso de odio.
Por ejemplo, ante la afirmación "los inmigrantes vienen a quitarnos el trabajo", esta herramienta responde destacando el valor de la población extranjera en el mercado de trabajo del país, en muchas ocasiones asumiendo puestos que los ciudadanos locales rechazan, y resalta los aspectos positivos de la diversidad.
"Limitar a las mujeres a tareas domésticas y cuidado infantil es injusto y no refleja la diversidad y el potencial de las mujeres en la sociedad actual" o "todos merecen igualdad de oportunidades y derechos, independientemente de su raza o etnia" son otras de las respuestas que ofrece esta herramienta.
"Hemos comparado lo que hace un humano con esto y en el 80 % de las ocasiones la contranarrativa generada por nuestro sistema tiene mejor calidad: son más informativas, más descriptivas y más específicas", asegura Martín.
Para desarrollar esta herramienta, su equipo ha implementado sus propios sistemas generativos del lenguaje en base a modelos abiertos como LLaMA o Mistral, cuyas respuestas han corregido y entrenado a base de "premios y castigos" en una revisión manual de 5.000 ejemplos por parte de expertos lingüistas.
Este instrumento lo podrían incorporar las propias redes sociales, algo que Martín duda que pueda interesar a las empresas que las dirigen, y (más probablemente) autoridades o entidades sociales que buscan combatir el odio en redes, algo que hoy en día hacen de forma manual.
"Muchos voluntarios acaban con unos problemas mentales horrorosos de estar leyendo barbaridades y contestar una y otra vez las mismas cosas", explica Martín, para quien esta herramienta resolvería parte del problema.
Otra de las investigaciones que forman parte de Real-Up están centradas en la detección y perfilado de 'haters' en la red social X y han llevado a la creación de una aplicación que será utilizada por las fuerzas y cuerpos de seguridad del Estado en su lucha contra los discursos de odio, que pueden ser constitutivos de delito.
Este sistema, liderado por la doctora en Matemáticas Rosa Elvira Lillo, utiliza un algoritmo que detecta los perfiles generadores de odio con una precisión del 75,6% sin necesidad de analizar lo que publican, solo a través de una serie de características comunes.
Se trata de usuarios con un bajo número de seguidores y que siguen a mucha gente, pasan poco tiempo en la red social, pertenecen a un número muy reducido de listas y ofrecen poca información en su descripción, según los resultados obtenidos tras analizar tres millones de mensajes.
Además, la mayoría de ellos son perfiles que se expresan de forma violenta "independientemente del tema que hablen", ya sea "de deporte o del tiempo", pero normalmente se centran en discriminar a un único colectivo, explica en una entrevista la autora del estudio.
Y tienden a relacionarse con aquellos que comparten sus mismas opiniones y actitudes, lo que da lugar a "comunidades virtuales basadas en el odio".
El objetivo es que esta aplicación sea implementada por las fuerzas de seguridad para apoyar sus labores de "ciberpatrullaje", según explica a EFE el jefe de servicio de la Ondod del Ministerio del Interior, Tomás Fernández.
Según este comandante de la Guardia Civil, los agentes ya realizan este tipo de rastreos en la red, pero de una forma más "manual" y no estandarizada, como sí se espera conseguir con este sistema.
Por su parte, la responsable del Sistema Estadístico y Atención a Víctimas de la Ondod, la teniente coronel Pilar Muniesa, enmarca la participación del órgano en este proyecto en la preocupación por la tendencia "alcista" en los delitos de odio en España, aunque lo atribuye, en parte, a que estos cada vez tienen más visibilidad.
Pero el índice de infradenuncia sigue siendo "elevada", de un 84 % según los últimos datos: "Muchas veces, las víctimas no detectan que están siendo víctimas, pero estamos trabajando mucho para que esta tasa baje", asegura. EFE
lll/jlg
(Recursos de archivo en www.lafototeca.com. Cód: 21612129 y otros)
Santi Acosta y Beatriz Archidona recibirán este viernes, 17 de mayo, volverá a traer al presente el historial amoroso de Carlo Costanzia y Julián Muñoz
Infobae
La temperatura más baja registrada en el territorio mexicano fue la del 27 de diciembre de 1997, cuando el termómetro descendió hasta los -25 grados
Infobae
Los fenómenos meteorológicos y análisis de probabilidad permiten dar información sobre la temperatura, lluvias y vientos para las próximas horas
Infobae
Gracias por contactarnos con su consulta sobre la queja de la BEUC. Temu es un recién llegado en Europa, habiendo ingresado a nuestros primeros mercados hace poco más de un año. Durante este tiempo, hemos escuchado atentamente los comentarios de los clientes, los organismos reguladores y los grupos de defensa del consumidor. Hemos estado ajustan
Lado.mx
Desde sus modestos comienzos hasta convertirse en una de las principales plataformas de juegos de azar en línea, la historia de Strendus es un relato de éxito e innovación.
Lado.mx
Si bien la Tri no parte como una de las selecciones favoritas para levantar la próxima Copa América 2024, hay mucho optimismo y ánimo por parte de la afición mexicana.
Lado.mx
Moscú, 17 may (Prensa Latina) El presidente ruso, Vladimir Putin, comenzó hoy su segundo día de visita de Estado a China colocando flores en la ciudad de Harbin en el monumento a los soldados soviéticos caídos por la liberación del país asiático.The post Putin deposita flores en monumento a soldados soviéticos en Harbin first appeared on N
Prensa Latina
CIUDAD DE MÉXICO (EL UNIVERSAL).- El Cruz Azul de Martín Anselmi está hecho ‘una Máquina’ y por ahora no hay quien los pare. Ni el calor brutal de Monterrey ni fantasmas de ningún tipo pudieron evitar el triunfo por 1-0 en el estadio BBVA que despierta el sueño de la décima estrella. Fuera de la …
Periódico Contacto
La ceremonia de toma de posesión contará con la presencia de dignatarios de más de 50 países, entre ellos Estados Unidos, Paraguay y Honduras
Infobae
Se acercan los eventos previos al verano, y esa es una de las mejores épocas para los jugadores. Se suelen acumular numerosas conferencias, como el Summer Game Fest, Xbox Showcase, Ubisoft Forward, etc. Hoy os hablaremos de la primera que os hemos mencionado, el Summer Game Fest 2024
3d Juegos
La vuelta a Veracruz en un teclazo La violencia política en la recta final de la contienda Yamiri Rodríguez Madrid Quedan ya solo 16 días para que acudamos a las urnas y solo 12 para que terminen las campañas; sin embargo, estos son ya los días más difíciles porque a muchos candidatos y partidos políticos […]The post La violencia pol
Hora Cero
COZUMEL, MX.– Regresan a la isla los Servicios Móviles de Atención Médica que ofrece la Secretaría de Salud en coordinación con los Servicios Estatales de Salud (SESA), con las que la comunidad cozumeleña podrá aprovechar del 20 al 24 de mayo el abanico de atenciones a fin de prevenir enfermedades o en su caso, atenderlas […]The post
Noticaribe
Cruz Azul con su parado táctico del técnico Martín Anselmi le comió el mandado al técnico de Rayados, el argentino Fernando Ortiz, para tomar ventaja en el duelo de ida de la semifinal
La Opinión
ESPN Deportes
CIUDAD DE MÉXICO (EL UNIVERSAL).- El Cruz Azul de Martín Anselmi está hecho ‘una Máquina’ y por ahora no hay quien los pare. Ni el calor brutal de Monterrey ni fantasmas de ningún tipo pudieron evitar el triunfo por 1-0 en el estadio BBVA que despierta el sueño de la décima estrella. Fuera de la …
Periódico Contacto
Este jueves, con un gol del argentino Carlos Rotondi, el Cruz Azul venció (0-1) a los Rayados de Monterrey en el partido de ida de las semifinales de la Liguilla del Torneo Clausura 2024 de la Liga MX, que se llevó a cabo en el Estadio BBVA. Al minuto 30′, el arquero de la Máquina, …El cargo Liga MX: Cruz Azul saca la ventaja (0-1) a
Tribuna Noticias
Cruz Azul con su parado táctico del técnico Martín Anselmi le comió el mandado al técnico de Rayados, el argentino Fernando Ortiz, para tomar ventaja en el duelo de ida de la semifinal
La Opinión
Cruz Azul se llevó el encuentro de Ida ante Rayados de Monterrey en el Gigante de Acero. El juego estuvo marcado por la presión que ejerció la máquina a Rayados desde el minuto uno del partido como visitantes. Fue al minuto 34, cuando un estratégico Carlos Rotondi, anotó el primer y único gol del juego, mismo que le dio a Cruz Azul la victor
Vanguardia.com.mx
Carlos Rotondi ayudó a Cruz Azul a vencer 1-0 a Monterrey en su primer partido del Clausura - Semifinales en el Estadio BBVA el viernes, extendiendo la racha invicta de los visitantes en la Liga MX a ocho.
Infobae
Este jueves, con un gol del argentino Carlos Rotondi, el Cruz Azul venció (0-1) a los Rayados de Monterrey en el partido de ida de las semifinales de la Liguilla del Torneo Clausura 2024 de la Liga MX, que se llevó a cabo en el Estadio BBVA. Al minuto 30′, el arquero de la Máquina, …El cargo Liga MX: Cruz Azul saca la ventaja (0-1) a
Tribuna Noticias
Últimas noticias
Programa ecoDemonstrator de Boeing: nuevas soluciones para la cabina del futuro
Nacido para entrenar: Tecnam obtuvo la certificación FAA del P-Mentor
Esta es la importancia de revisar periódicamente el modelo de negocios de una empresa familiar
¡Ojo con los golpes de calor! Ya se dieron casos de personas atendidas en Hidalgo en los últimos días debido a exposición al Sol
¡Regalo del Día del Maestro! El presidente AMLO anuncia aumento salarial al magisterio
Hay cuatro muertos en Houston por las fuertes tormentas; vientos son similares a los de un huracán de categoría 2
FOTOS: Le falló la camioneta en plena subida de las ruinas de Jauja y terminó volcado
Blanca Cánare, candidata de Morena en El Nayar: Mi compromiso es con los pueblos originarios
Cruz Azul da el primer paso a la final tras ganarle la ida a Monterrey
Nayarita Víctor González lanza novena la novena entrada con Yankees sin permitir daño
Sheinbaum alista cierre de campaña en Guadalajara
Cartucho
Diputados impiden revisar fallas del SIAPA
Apoya Felifer detenciones
El bumerang del “sonríe ya ganamos”