El pasado 13 de diciembre de 2024, el proyecto COIN (Countering Online Intolerance) participó activamente en la sesión Research in Progress (RIP) organizada por el Observatorio de Contenidos Audiovisuales (OCA) de la Universidad de Salamanca. Esta actividad, celebrada en modalidad online, permitió compartir los avances y resultados preliminares del proyecto en torno al análisis y monitoreo del discurso de odio en las plataformas digitales.

Durante la presentación titulada “Mapping and Analyzing Hate Speech in Social Media: Insights into Intersections and Vulnerable Audiences in Spain”, los investigadores Martín Oller Alonso y Carlos Arcila Calderón expusieron la metodología y primeras conclusiones de este ambicioso estudio financiado por las Acciones Marie Skłodowska-Curie (H2020-MSCA-COFUND-2020-USAL4EXCELLENCE).

El proyecto COIN trabaja en la detección y análisis de discursos de odio dirigidos a colectivos vulnerables como personas migrantes, musulmanes, judíos, gitanos y la comunidad LGBTIQ+. Para ello, se han implementado modelos avanzados de inteligencia artificial, como BERT, junto con el uso de APIs académicas de Twitter, Facebook, Instagram y CrowdTangle.

Los modelos han sido entrenados con más de 54.000 mensajes etiquetados manualmente y categorizados en cinco grandes grupos de odio. Entre los hallazgos preliminares destacan la elevada incidencia de odio hacia personas LGBTIQ (55,42%) y gitanos (45,83%), así como la fuerte correlación entre insultos, ataques a la identidad y toxicidad en los mensajes.

La segunda fase del proyecto incluye entrevistas en profundidad y grupos focales con productores audiovisuales para diseñar estrategias narrativas capaces de contrarrestar el discurso de odio en redes sociales.

Además, se está trabajando en la creación de recursos audiovisuales de libre acceso que puedan ser utilizados por instituciones educativas, promoviendo la empatía, la tolerancia y el respeto a la diversidad.

COIN, en colaboración con el OCA, refuerza así su compromiso por una sociedad digital más inclusiva, generando conocimiento riguroso y herramientas innovadoras que permitan abordar las nuevas formas de odio online.