COIN en ALICE 2025: detectar la toxicidad para proteger a los grupos vulnerables en campaña

Del 24 al 26 de septiembre de 2025, participamos en el XI Congreso Internacional de ALICE (Universidad de Granada) dentro de la Mesa 19 – “Nuevas perspectivas en la comunicación política y electoral: de las redes a la IA”, coordinada por Palmira Chavero (FLACSO Sede Ecuador – España). La mesa reunió investigaciones que muestran cómo las transformaciones tecnológicas —de las redes sociales a la inteligencia artificial— están reconfigurando estrategias, relatos y riesgos de la comunicación política.

¡Gracias a la coordinación y a todas las personas ponentes por un debate tan necesario sobre democracia y digitalización!

Nuestra ponencia

“Detección de la toxicidad en la Comunicación Política Española: un análisis de los principales partidos (2015–2023)” —un trabajo del equipo COIN con Carlos Arcila Calderón (USAL), Martín Oller Alonso (USAL, MSCA-COFUND), Javier Amores (PUC-Chile), Maximiliano Frías (USAL) y William González (USAL)— presentado en el marco del tema del congreso, “El gobierno de la inteligencia artificial”.

En paralelo a nuestra línea “AI governance & hate speech detection in political communication”, en la que también participa Patricia Sánchez Holgado, aportamos evidencia empírica para proteger a los grupos especialmente vulnerables frente al odio y la discriminación en periodos electorales.

¿Qué aportamos?

Objeto: cómo se expresa el lenguaje tóxico en la comunicación política española y cómo varía por partido, en el tiempo y en relación con incentivos de plataforma (engagement).

Metodología: análisis automatizado con Perspective API (Jigsaw/Google CAT) de seis métricas (toxicity, severe toxicity, identity attack, insult, profanity, threat) sobre una muestra de 798.475 mensajes recopilados en X, Facebook, Instagram y TikTok.

Diseño de datos: corpus multifuente con extracción vía X Developer Portal, CrowdTangle y TikTok API, que permite comparar dinámicas de toxicidad y su relación con recompensas algorítmicas.

Resultados (síntesis): se presentan comparativas por partido, la evolución temporal y la vinculación entre toxicidad y recompensa, como base para orientar políticas y prácticas de moderación.

Implicaciones para la gobernanza de la IA

Las normas vigentes (p. ej., Art. 510 del Código Penal y marcos europeos) capturan el odio explícito, pero fallan ante las formas veladas; se requieren modelos y políticas por plataforma que detecten toxicidad implícita.

La sustitución de verificación externa por mecanismos tipo “community notes” no es suficiente si no se incorporan salvaguardas y detecciones robustas de ataques codificados.

Brecha de acceso a datos y costes crecientes: un reto clave para la investigación independiente y para la auditoría de sistemas algorítmicos en 2025/26.


Proyecto COINCountering Online INtolerance against especially vulnerable groups
🔗 Sitio oficial: https://coinusal4excellence.com/ Presentación ALICE, 16 SEPT 202…

ALICE – Comunicación Política
🌐 Web: https://www.alice-comunicacionpolitica.com/
📩 Newsletter: https://mdirector-pages.com/ALICEComPol
📷 Instagram: https://www.instagram.com/alice.compol/
🐦 X: https://x.com/ALICE_compol
🎥 YouTube: https://www.youtube.com/@ALICEcompol
💼 LinkedIn: https://www.linkedin.com/company/alicecompol