Detectores de contenido de odio

Herramienta automática de detección y seguimiento

 

En la era digital, la omnipresencia de las plataformas en línea ha dado lugar a una nueva frontera en la que prolifera el discurso de odio, a menudo dirigido a grupos marginados e históricamente oprimidos. Entre ellos, los migrantes, los musulmanes, las personas con diversas identidades y orientaciones sexuales, los romaníes y los sinti, denominados colectivamente gitanos y comunidades judías, han sido objeto de un amplio discurso de odio en línea, que va desde términos y estereotipos despectivos hasta teorías de conspiración y narrativas falsas. Un enfoque estructurado para identificar, comprender y contrarrestar esta intolerancia digital es imperativo para abordar este problema apremiante. Esta introducción sienta las bases para una completa Herramienta de Detección y Seguimiento Automático [D4.1] y un conjunto de contenido de odio [D4.2] dedicado al racismo, la xenofobia, el odio antimusulmán, la LGBTIQfobia, el antigitanismo y el antisemitismo, desarrollados como parte de la iniciativa más amplia del proyecto COIN para combatir el discurso de odio en línea.

El proyecto COIN, destinado a fomentar un entorno en línea más tolerante, ha subrayado la necesidad de una herramienta automática de detección y seguimiento capaz de identificar diversas formas de discurso de odio, incluidas las dirigidas contra migrantes, musulmanes, personas con diversas identidades y orientaciones sexuales, gitanos y judíos. La creación de esta herramienta de detección es una guía fundamental para distinguir entre el discurso de odio y el discurso que no lo es en línea. Al delinear términos, frases y narrativas específicas utilizadas para degradar y discriminar a estas comunidades, la detección automática del discurso de odio proporciona un marco claro y accionable tanto para las plataformas digitales como para los investigadores.

Para todas estas comunidades marginadas, la Herramienta Automática de Detección y Seguimiento y un conjunto de contenidos de odio encapsulan una serie de términos despectivos, estereotipos y frases deshumanizantes o criminalizantes que se han utilizado históricamente para condenar al ostracismo a migrantes, musulmanes, grupos LGBTIQ, gitanos y judíos. También abordará las falsas narrativas que han sido fundamentales para perpetuar la discriminación contra estas comunidades.

Para garantizar la eficacia y fiabilidad de esta herramienta, es crucial la colaboración con expertos en el campo del discurso de odio, la xenofobia, el odio antimusulmán, la LGBTIQfobia, el antigitanismo y el antisemitismo. Además, el uso de bases de datos y herramientas especializadas, como se menciona en la documentación del proyecto COIN (por ejemplo, CrowdTangle, Twitter Academic API), mejorará la aplicabilidad y precisión de la herramienta de detección y seguimiento automáticos. El cumplimiento de las directrices éticas para la investigación y el tratamiento de datos es primordial, garantizando que la lucha contra el discurso de odio en línea se lleve a cabo con el máximo respeto por la dignidad y los derechos humanos.

 

Implementación de la metodología

La metodología de investigación para el Paquete de Trabajo 4 (WP4), centrándose en la construcción del Entregable 4.1 (Herramienta Automática de Detección y Seguimiento), integra un enfoque multidisciplinario que aprovecha el big data, la inteligencia artificial (IA) y las estrategias narrativas. Esta metodología se divide en dos fases principales, cada una de las cuales incorpora actividades para desarrollar una solución integral para la detección y seguimiento de los discursos de odio en línea y diseñar estrategias de intervención social para mitigar sus efectos.

 

Fase 1: Desarrollo de una herramienta automática de detección y seguimiento

 

La primera fase del proyecto se centra en el diseño e implementación de una Herramienta Automática de Detección y Seguimiento capaz de identificar y analizar el discurso de odio en línea. Esta fase integra el análisis de big data, las técnicas de IA y la investigación bibliométrica para crear un sistema robusto y escalable. Al aprovechar los métodos de investigación cuantitativos y cualitativos, esta fase garantiza una comprensión integral del discurso de odio y sus manifestaciones en diversas plataformas digitales.

 

Técnicas de Big Data e IA para el análisis cuantitativo

Un componente fundamental de esta fase es la recopilación y el procesamiento de conjuntos de datos a gran escala de diversas fuentes en línea. El proceso comienza con la recopilación de datos, en la que se recopilan grandes cantidades de contenido generado por los usuarios de plataformas de redes sociales, foros en línea y otros espacios digitales donde prevalece el discurso de odio. Esto se logra a través del raspado web o la extracción de datos basada en API, lo que permite a los investigadores compilar publicaciones, comentarios e hilos de discusión que pueden contener elementos de discurso de odio.

Una vez que se han recopilado los datos, se someten a una rigurosa etapa de preprocesamiento de datos. Este paso es fundamental para limpiar y estructurar el conjunto de datos, eliminar publicaciones irrelevantes, spam, contenido no textual y otro ruido que pueda interferir con el análisis. Al refinar el conjunto de datos, los investigadores se aseguran de que solo se utilicen datos significativos y relevantes en los procesos analíticos posteriores.

 

Análisis bibliométrico, estudio de datos secundarios y análisis de contenido para obtener información cualitativa

Esta fase incorpora análisis bibliométrico, estudios de datos secundarios y análisis de contenido para complementar el análisis cuantitativo y extraer información cualitativa más profunda sobre las tendencias del discurso de odio. El análisis bibliométrico se centra en la literatura académica y gris, revisando la investigación existente para identificar las tendencias clave, las brechas temáticas y los patrones emergentes en el estudio del discurso de odio. Al examinar el trabajo académico, este paso proporciona profundidad contextual, ayudando a comprender cómo ha evolucionado el discurso de odio y cómo afecta a las diferentes comunidades.

El estudio de datos secundarios implica la revisión de los conjuntos de datos existentes y los informes sobre el discurso de odio para enriquecer el conjunto de datos del proyecto con información histórica y comparativa. Este paso garantiza que la investigación no se base únicamente en datos recién recopilados, sino que también aproveche los estudios anteriores para mejorar la solidez analítica.

El análisis de contenido es crucial para comprender las estructuras narrativas y los contextos en los que aparecen los discursos de odio. Se aplican técnicas manuales y automatizadas para categorizar los temas de discurso de odio, analizar el sentimiento y evaluar los niveles de intensidad. Los investigadores pueden identificar narrativas específicas de discurso de odio, estrategias discursivas y sus implicaciones más amplias a través de la codificación cualitativa y el análisis computacional de textos.

 

Implementación de técnicas de IA

Con un conjunto de datos bien seleccionado y una comprensión clara de los patrones de discurso de odio, el siguiente paso consiste en implementar modelos de detección impulsados por IA. Se utilizan técnicas avanzadas de aprendizaje automático (ML) y aprendizaje profundo (DL) para desarrollar sistemas automatizados capaces de identificar y clasificar con precisión el discurso de odio.

El entrenamiento del modelo comienza aprovechando el procesamiento del lenguaje natural (NLP), el análisis de sentimientos y las redes neuronales para detectar e interpretar los patrones de discurso de odio. Estos modelos de IA se entrenan con conjuntos de datos anotados, donde los expertos han etiquetado manualmente los casos de discurso de odio. Este enfoque de aprendizaje supervisado permite que el sistema de IA comprenda los matices lingüísticos, las variaciones contextuales y las diferentes expresiones de discurso de odio en múltiples idiomas y plataformas.

Una vez entrenados los modelos, se someten a una rigurosa fase de validación y pruebas. Este paso garantiza que la IA funcione de forma precisa y fiable en diversos contextos, idiomas, plataformas y entornos sociopolíticos. Los investigadores ajustan los parámetros para reducir los sesgos y mejorar la precisión, asegurando que la herramienta sea robusta y adaptable a las formas cambiantes de discurso de odio en línea.

 

Al combinar metodologías de big data, detección impulsada por IA e investigación bibliométrica, esta fase establece una base sólida para desarrollar un sistema eficaz y escalable capaz de monitorear y analizar continuamente el discurso de odio en línea. Los conocimientos generados a partir de esta fase informarán directamente las etapas posteriores del proyecto, contribuyendo a las recomendaciones de políticas, las campañas de concienciación y las estrategias de intervención.

 

Segunda fase: Estructura organizativa

 

Filtrado de temas de contenido

La primera fase del WP4 se centra en seleccionar y filtrar los temas de contenido relevantes para la detección del discurso de odio en línea. Esta fase implica la supervisión de la selección del tema y la planificación inicial, asegurando que el proceso de filtrado capture eficazmente las formas clave de discurso de odio, incluido el sentimiento antimusulmán, la LGBT+fobia, el antigitanismo, el antisemitismo y la xenofobia. Un equipo especializado compuesto por el Dr. Carlos Arcila Calderón, el Dr. Martín Oller Alonso, el Dr. Javier Amores, el candidato a doctorado William González Vaquero, el candidato a doctorado Maximiliano Frías Vázquez y Marcos Gomes Barbosa, colabora para identificar y documentar los temas de filtrado de contenidos. Su experiencia garantiza que el marco de clasificación siga siendo preciso, completo y alineado con los objetivos de investigación del proyecto.

 

Recopilación de datos en redes sociales

La siguiente etapa consiste en recopilar datos sobre el discurso de odio de varias plataformas en línea, como Twitter, Facebook, YouTube e Instagram. Un ingeniero de software lidera la ejecución técnica de este proceso, que incluye el registro de una cuenta de desarrollador de redes sociales y el manejo de los procesos de pago necesarios. Además, el equipo obtiene un token al portador, que otorga acceso autorizado para recuperar datos de las API de redes sociales. Los scripts se desarrollan y ejecutan para recopilar contenido de las redes sociales, lo que permite a los investigadores recopilar sistemáticamente mensajes, comentarios e interacciones que contienen posibles discursos de odio.

 

Filtrado y prueba de los datos recopilados

Una vez adquirido el conjunto de datos inicial, se somete a una rigurosa fase de filtrado y pruebas de contenido, gestionada por los analistas de datos Martín Oller Alonso, William González Vaquero y Maximiliano Frías Vázquez bajo la supervisión del Dr. Carlos Arcila Calderón. El equipo lleva a cabo pruebas exhaustivas utilizando scripts de CrowdTangle y Python para filtrar el contenido relacionado con el sentimiento antimusulmán, la LGBT+fobia, el antigitanismo, el antisemitismo y la xenofobia. El objetivo principal durante esta etapa es validar la calidad y la eficacia del filtro, garantizando que solo se conserven los datos relevantes y minimizando los falsos positivos y negativos. El conjunto de datos refinado será la base para desarrollar el sistema de detección automatizado.

 

Implementación de un sistema de etiquetado automatizado

Se implementa un sistema de etiquetado automatizado para agilizar y mejorar la clasificación de los discursos de odio. Javier Amores supervisa esta fase, que incluye el desarrollo de un libro de códigos exhaustivo para la identificación de discursos de odio. Esta fase involucra a un equipo de especialistas en entrada de datos que ejecutan la adquisición de datos, la clasificación de contenido y las pruebas de confiabilidad entre codificadores para garantizar una categorización coherente y precisa de los mensajes de incitación al odio. A continuación, el sistema se integra en la canalización de aprendizaje automático, preparando los datos etiquetados para el entrenamiento del modelo y el análisis computacional posterior.

 

 

Categorización final y envío de mensajes

Una vez que el sistema de etiquetado automatizado está operativo, los mensajes categorizados se finalizan y se envían para su posterior procesamiento. A los analistas principales se les asignan temas específicos de discurso de odio, lo que garantiza que cada categoría se analice de manera integral:

Martín Oller Alonso y Maximiliano Frías Vázquez supervisan el antisemitismo.

Martín Oller Alonso y William González Vaquero manejan el antigitanismo.

Marcos Gomes Barbosa está especializado en LGBT+fobia.

Martín Oller Alonso y Javier Amores se centran en la xenofobia y la migración.

William González Vaquero lidera la categoría de antimusulmanes.

Sus responsabilidades incluyen finalizar y enviar mensajes categorizados para cada tema, garantizar la integridad de los datos y mantener estándares de alta calidad en todo el conjunto de datos. Esto garantiza que los modelos de aprendizaje automático reciban datos de entrenamiento bien estructurados y debidamente etiquetados, lo que mejora la precisión y la fiabilidad del sistema de detección automática.

 

Presentación y finalización

La última fase del WP4 consiste en la presentación y finalización de la Herramienta de Detección y Seguimiento Automáticos. Bajo la supervisión del Dr. Carlos Edmundo Arcila Calderón, el equipo prepara el Entregable 4.1, un informe detallado que documenta el desarrollo de la herramienta, la metodología y los hallazgos clave. Este producto también demuestra la funcionalidad de la herramienta, mostrando su capacidad para detectar y rastrear con precisión los mensajes de incitación al odio. La presentación final destaca el impacto, la efectividad y las posibles aplicaciones de la herramienta para el monitoreo y la intervención del discurso de odio en línea. Al garantizar un proceso de evaluación riguroso y una amplia difusión de los resultados, esta fase contribuye a los objetivos más amplios del proyecto COIN de contrarrestar la intolerancia en línea y fomentar un entorno digital más inclusivo.

 

Discurso de odio, xenofobia, odio antimusulmán, LGBTIQfobia, antisemitismo y antigitanismo: una visión completa

 

En el mundo contemporáneo, la proliferación del discurso de odio en diversas plataformas de medios de comunicación ha provocado un aumento alarmante de la discriminación y la violencia contra las comunidades marginadas. La xenofobia, el odio antimusulmán, la LGBTIQfobia, el antigitanismo y el antisemitismo destacan por sus profundas raíces históricas y su amplio impacto. Este documento trata de ofrecer un análisis detallado de estas formas de discriminación, haciendo hincapié en la necesidad urgente de adoptar medidas sociales y legislativas para abordarlas de manera eficaz.

 

Xenofobia: manifestaciones, impactos y estrategias de mitigación

 

La xenofobia, definida como un miedo u hostilidad profundamente arraigados hacia los extranjeros o cualquier cosa percibida como extranjera, se ha vuelto cada vez más frecuente en las sociedades contemporáneas. Se trata de una cuestión social y un obstáculo importante para el fomento de comunidades inclusivas y la defensa de los derechos humanos fundamentales. La xenofobia contribuye a la fragmentación social, exacerba las desigualdades económicas y políticas y alimenta la división dentro de las sociedades multiculturales. A medida que los patrones migratorios evolucionan y la globalización se intensifica, la urgencia de abordar la xenofobia a través de medidas legales, educativas y sociales nunca ha sido mayor.

 

Manifestaciones e impactos de la xenofobia

La xenofobia se manifiesta de múltiples formas, que van desde el abuso verbal y la violencia física hasta la discriminación sistémica y las políticas excluyentes. Se puede observar en las prácticas de contratación discriminatorias, las representaciones sesgadas de los medios de comunicación, el acceso restringido a los servicios sociales y las políticas gubernamentales que marginan a grupos étnicos o nacionales específicos. En casos extremos, la xenofobia alimenta los crímenes de odio, lo que provoca daños físicos directos contra las personas basándose únicamente en su nacionalidad, etnia o raza.

Las consecuencias de la xenofobia van más allá de las víctimas inmediatas y repercuten negativamente en la sociedad. Para las personas, la discriminación xenófoba a menudo conduce a angustia psicológica, aislamiento social y marginación económica. A nivel comunitario, perturba la cohesión social, fomenta la polarización política y contribuye a las ineficiencias económicas al limitar la participación de las poblaciones migrantes en el mercado laboral. En términos globales, la xenofobia socava los principios democráticos, erosiona las relaciones internacionales y debilita el tejido social necesario para la coexistencia pacífica.

 

Estrategias legislativas y normativas de lucha contra la xenofobia

Para hacer frente eficazmente a la xenofobia se requiere una legislación amplia contra la discriminación que garantice la igualdad de derechos y protección para todas las personas, independientemente de su nacionalidad u origen étnico. Los gobiernos deben implementar políticas que promuevan la integración y la educación multicultural, fomentando el respeto y la comprensión entre las diversas comunidades. Las instituciones educativas desempeñan un papel crucial en la formación de las actitudes públicas, por lo que es imperativo incluir planes de estudio que hagan hincapié en la diversidad cultural, los derechos humanos y las contribuciones de los migrantes al desarrollo nacional.

Las campañas de concienciación pública también pueden servir como herramientas poderosas para contrarrestar las narrativas xenófobas. Estas campañas pueden desafiar conceptos erróneos y fomentar una mentalidad social más inclusiva al destacar las contribuciones económicas, culturales y sociales de los inmigrantes. Además, se deben reforzar la regulación de los medios de comunicación y las directrices sobre periodismo ético para evitar la difusión de retórica xenófoba y desinformación.

 

Libro de códigos para identificar el discurso xenófobo

Para detectar y analizar sistemáticamente el discurso xenófobo, se ha desarrollado un libro de códigos estructurado:

Palabras clave: migrante, migrantes, inmigrante, inmigrantes, refugiado, refugiados, refugiada, refugiadas, solicitante de asilo, solicitantes de asilo [tabla 1].

Indicadores contextuales: La retórica xenófoba a menudo incluye representaciones estereotipadas que representan a individuos o grupos extranjeros como amenazas a los valores sociales, la estabilidad económica o la seguridad física. Esto puede manifestarse en narrativas que enmarcan a los migrantes como delincuentes, cargas financieras o perturbadores culturales.

Criterios de exclusión: Las discusiones centradas en los impactos positivos del multiculturalismo o los debates legítimos sobre políticas de inmigración, sin retórica deshumanizante, no se clasifican como discurso xenófobo.

Un enfoque multifacético para eliminar la xenofobia

Abordar la xenofobia requiere un enfoque integral y multisectorial que integre los marcos jurídicos, la reforma educativa y la participación de la sociedad. Los gobiernos, las organizaciones de la sociedad civil, las instituciones académicas y los medios de comunicación deben colaborar para desmantelar las actitudes xenófobas y promover la inclusión social. Sólo mediante esfuerzos sostenidos para cultivar la conciencia cultural, el respeto a la diversidad y las políticas equitativas podremos desmantelar el miedo y el odio que perpetúan la xenofobia. Al fomentar sociedades inclusivas, protegemos a las poblaciones vulnerables y fortalecemos la resiliencia social y económica de nuestras comunidades.

Anti-musulmán: manifestaciones, impacto y estrategias para la mitigación

 

El aumento del sentimiento antimusulmán en varias regiones ha intensificado la preocupación por la intolerancia religiosa y la discriminación sistémica. Esta forma de prejuicio se dirige explícitamente contra las personas y las comunidades en función de su fe islámica o de su supuesta asociación con el islam, lo que a menudo conduce a la exclusión social, actos de violencia y violaciones de los derechos humanos. La proliferación de la retórica islamófoba en el discurso político, las narrativas de los medios de comunicación y las plataformas en línea ha exacerbado aún más los estereotipos negativos, fomentando un entorno en el que la hostilidad hacia los musulmanes se normaliza. Abordar este problema creciente requiere marcos legales integrales, iniciativas educativas y una representación ética de los medios de comunicación para desmantelar los estereotipos y promover la inclusión religiosa.

 

Manifestaciones e impactos del sesgo antimusulmán

La discriminación contra los musulmanes se manifiesta de múltiples maneras, que van desde el discurso de odio y la violencia física hasta la discriminación sistémica y la exclusión impulsada por las políticas. Una de las manifestaciones más comunes es el discurso de odio verbal y en línea, que a menudo retrata a los musulmanes como inherentemente peligrosos, opresivos o culturalmente incompatibles con los valores occidentales. Esta retórica se amplifica en los espacios digitales a través de la desinformación, las teorías de conspiración y el contenido incendiario que alimenta el miedo y la incomprensión del público.

Más allá del discurso, los ataques físicos contra individuos, mezquitas y centros culturales islámicos han aumentado en varias partes del mundo, reforzando un clima de miedo dentro de las comunidades musulmanas. Además, las prácticas discriminatorias de vigilancia, la elaboración de perfiles en los aeropuertos y las restricciones a la expresión religiosa —como la prohibición de la vestimenta islámica— ejemplifican cómo la islamofobia institucionalizada infringe los derechos fundamentales. Las medidas legislativas dirigidas a las comunidades musulmanas, incluidas las políticas que restringen la inmigración basada en la identidad religiosa, marginan y alienan aún más a estas poblaciones. Esta exclusión sistémica no solo repercute en el bienestar mental y emocional de los musulmanes, sino que también debilita la cohesión social y fomenta las tensiones intergrupales dentro de las sociedades multiculturales.

 

Estrategias legislativas y políticas para contrarrestar el sentimiento antimusulmán

Los esfuerzos para combatir la discriminación contra los musulmanes requieren un enfoque múltiple que abarque la acción legal, la reforma educativa y la rendición de cuentas de los medios de comunicación. La aplicación de la legislación sobre delitos de odio es crucial para hacer rendir cuentas a los autores y garantizar que los actos de islamofobia se reconozcan legalmente como delitos discriminatorios. Los gobiernos también deben reforzar la protección de la libertad religiosa, impidiendo las políticas que afectan de manera desproporcionada a las comunidades musulmanas y garantizando la igualdad de trato ante la ley.

La educación desempeña un papel central en el desmantelamiento de las narrativas islamófobas al fomentar el diálogo interreligioso y promover representaciones precisas de la historia y la cultura islámicas. Las escuelas y universidades deben integrar planes de estudio que hagan hincapié en la diversidad religiosa, los derechos humanos y las contribuciones de las comunidades musulmanas al desarrollo mundial. Las campañas de concienciación pública y las iniciativas interculturales también pueden ayudar a desafiar los conceptos erróneos, fomentando una mayor armonía social.

Además, el escrutinio de los medios de comunicación y las normas éticas de periodismo son esenciales para contrarrestar la propagación de estereotipos islamófobos. Muchas narrativas dominantes describen a los musulmanes a través de una lente de extremismo, violencia o atraso cultural, lo que refuerza los sesgos dañinos. Fomentar la información responsable y diversificar la representación en los medios de comunicación puede ayudar a crear representaciones más equilibradas y matizadas de las personas y comunidades musulmanas.

 

 

Libro de códigos para identificar el discurso antimusulmán

Para detectar y analizar sistemáticamente la retórica islamófoba, se ha desarrollado un libro de códigos estructurado:

• Palabras clave: Islam, musulmán, yihad, mezquita, yihad, qaeda, daesh, burka, burka, hiyab, hiyab, niqab, moro, marroquí, argel, Mahoma, Mohammed, Mohamed, halal, ramadán, Alá, sharía, Corán, sunita, invasión, terror, radical, criminal, robo, delincuencia, violento, ilegal, deporta, repatriar, asco, peligro, subvención, follacabras, KillMuslims, MuslimPig [tabla 2].
• Indicadores contextuales: Discurso de odio que asocia al Islam o a los musulmanes con el terrorismo, la opresión o la incompatibilidad cultural sin base fáctica. Las narrativas comunes incluyen la representación de los musulmanes como una amenaza para la seguridad, una invasión demográfica o beneficiarios de privilegios injustos.
• Criterios de exclusión: Discusiones académicas o periodísticas legítimas que exploren la diversidad dentro del Islam o análisis críticos basados en debates fácticos sin recurrir a estereotipos o retórica incendiaria.

 

Hacia una sociedad más inclusiva

Combatir el sentimiento antimusulmán requiere un firme compromiso con la tolerancia religiosa, la protección legal y el compromiso de la sociedad. Los gobiernos, las organizaciones de la sociedad civil y los medios de comunicación deben trabajar juntos para desmantelar los prejuicios islamófobos, garantizando que los musulmanes no sean objeto de discriminación, exclusión social o violencia. Los marcos jurídicos deben abordar explícitamente la islamofobia, mientras que los programas educativos y las campañas de sensibilización deben promover la comprensión mutua y el respeto de la diversidad religiosa.

Al fomentar un entorno de inclusión y aprecio cultural, las sociedades pueden ir más allá del miedo y la hostilidad, asegurando que las personas y comunidades musulmanas reciban la dignidad, el respeto y los derechos que todas las personas merecen.

 

 

 

LGBTIQfobia: manifestaciones, impacto y estrategias para su mitigación

 

La LGBTIQfobia se refiere al miedo, el odio o la discriminación irracionales contra las personas por su orientación sexual, identidad de género o expresión de género. Esta forma de prejuicio sistémico y social se manifiesta en diversas esferas de la vida, lo que conduce a la marginación, la exclusión y la violencia contra las personas LGBTIQ+. Las consecuencias van más allá del daño personal, afectando a la igualdad, la cohesión social y los derechos humanos fundamentales. Abordar la LGBTIQfobia requiere un enfoque integral que incluya acciones legislativas, reformas educativas y cambios culturales para fomentar la inclusión y el respeto por las diversas identidades sexuales y de género.

 

Manifestaciones e impactos de la LGBTIQfobia

La LGBTIQfobia se manifiesta de múltiples maneras, que van desde microagresiones sutiles y exclusión social hasta discriminación manifiesta, violencia verbal y física y marcos legales restrictivos. Una de las formas más frecuentes de LGBTIQfobia es el discurso de odio, que normaliza el lenguaje despectivo y los estereotipos negativos, reforzando los sesgos sociales. Esta forma de violencia discursiva es particularmente generalizada en los espacios en línea, donde el anonimato permite a los usuarios atacar a las personas LGBTIQ+ con acoso, amenazas y retórica degradante.

Más allá del abuso verbal, la exclusión social sigue siendo un problema crítico, ya que muchas personas LGBTIQ+ enfrentan discriminación en instituciones educativas, lugares de trabajo y sistemas de atención médica. Esta marginación a menudo resulta en un acceso limitado a oportunidades profesionales, una mayor inseguridad económica y servicios de atención médica inadecuados, particularmente para las personas transgénero y no binarias. Además, en algunas regiones, la discriminación patrocinada por el Estado persiste a través de leyes restrictivas que penalizan las relaciones entre personas del mismo sexo, limitan los derechos de reconocimiento de género o excluyen a las personas LGBTIQ+ de las protecciones legales contra la discriminación y los delitos de odio.

El costo psicológico de la LGBTIQfobia es profundo. Los estudios indican que la exposición a la discriminación, el rechazo y la violencia aumenta significativamente los riesgos de salud mental para las personas LGBTIQ+, lo que lleva a tasas más altas de depresión, ansiedad, autolesiones y suicidio en comparación con sus contrapartes heterosexuales y cisgénero. La falta de protección jurídica y de aceptación social exacerba estas vulnerabilidades, lo que hace que la necesidad de intervenciones específicas sea aún más urgente.

 

Estrategias legislativas y políticas para combatir la LGBTIQfobia

Abordar la LGBTIQfobia requiere un marco legal y político sólido que proteja los derechos de las LGBTIQ+, criminalice la discriminación y promueva la inclusión social. Los gobiernos deben reforzar las leyes contra la discriminación, garantizando que las protecciones contra los delitos de odio y la discriminación en el lugar de trabajo incluyan explícitamente la orientación sexual y la identidad de género. Además, el reconocimiento legal de la identidad de género a través de procesos accesibles para los cambios de nombres y marcadores de género es esencial para salvaguardar los derechos de las personas transgénero y no binarias.

Más allá de las medidas legales, la educación integral sobre género y diversidad sexual es crucial para desmantelar las ideas erróneas y los prejuicios en torno a las identidades LGBTIQ+. Las escuelas deben implementar planes de estudio inclusivos que proporcionen información precisa, imparcial y afirmativa sobre la identidad de género y la orientación sexual, ayudando a cultivar una cultura de respeto y aceptación desde una edad temprana.

Las estructuras de apoyo social también juegan un papel fundamental para mitigar el impacto de la LGTBIQfobia. Los servicios de salud mental accesibles, los programas de intervención en crisis y los espacios seguros para las personas LGBTIQ+ pueden proporcionar un apoyo emocional y psicológico crucial. Además, las campañas de concienciación pública y la representación en los medios de comunicación pueden ayudar a desafiar los estereotipos, normalizar las diversas identidades y promover modelos positivos dentro de la comunidad LGBTIQ+.

 

Libro de códigos para identificar el discurso LGBTIQfóbico

Para detectar y analizar sistemáticamente la retórica LGBTIQfóbica, se ha desarrollado un libro de códigos estructurado:

• Palabras clave: ,,, mariconazo, mariconismo, bujarra, bujarrón, bujarrona, bollero, bollera,, travesti, travelo, dragqueen, lesbiana, gay, bisexual, homosexualidad, transexual, hermafrodita [tabla 1].
• Indicadores contextuales: Lenguaje que deslegitima, patologiza o presenta las identidades LGBTIQ+ como inmorales, antinaturales o socialmente inaceptables. Esto incluye declaraciones que abogan por las terapias de conversión, la criminalización de las relaciones entre personas del mismo sexo o que presentan a las personas LGBTIQ+ como una amenaza social.
• Criterios de exclusión: Debates académicos sobre género y diversidad sexual, esfuerzos de defensa de las personas LGBTIQ+ y estudios de investigación neutrales que exploren las cuestiones LGBTIQ+ sin sesgos ni encuadres despectivos.

 

 

 

Hacia una sociedad más inclusiva e igualitaria

Erradicar la LGBTIQfobia requiere un enfoque multidimensional que abarque la protección legal, la educación social y la participación proactiva en la promoción de la inclusión sexual y de género. Los responsables políticos, los educadores, los proveedores de atención médica y los profesionales de los medios de comunicación desempeñan un papel crucial en la configuración de una sociedad que valore la diversidad y defienda los derechos y la dignidad de las personas LGBTIQ+.

Al fomentar un entorno de aceptación y respeto, podemos desmantelar las estructuras discriminatorias, combatir los prejuicios y garantizar que las personas LGBTIQ+ vivan libres de miedo, estigma y violencia. Solo a través de la transformación legal, social y cultural podemos construir un futuro en el que todas las personas, independientemente de su orientación sexual o identidad de género, sean tratadas con la igualdad y la dignidad que merecen.

Formularbeginn

Formularende

 

Antisemitismo: manifestaciones, formas actuales y estrategias para su mitigación

 

El antisemitismo sigue siendo una de las formas de odio más persistentes y en evolución, adaptándose a diferentes contextos sociales, políticos y tecnológicos. Arraigado en prejuicios históricos, se manifiesta en violencia, discriminación, vandalismo, teorías de conspiración y retórica codificada que busca excluir y deshumanizar a las personas y comunidades judías. La naturaleza insidiosa del discurso antisemita permite que se mezcle con narrativas más amplias, lo que hace que sea cada vez más difícil de identificar y combatir. Abordar este problema requiere un enfoque dinámico y multifacético que integre iniciativas educativas, marcos legales y soluciones tecnológicas para mitigar su impacto y fomentar una sociedad basada en la tolerancia y el respeto.

 

Manifestaciones e impacto del antisemitismo

El antisemitismo se manifiesta de múltiples maneras, que van desde actos manifiestos de violencia y vandalismo hasta estereotipos sutiles y retórica codificada en el discurso público. Los tropos antisemitas tradicionales retratan a los individuos judíos como manipuladores, financieramente poderosos o desleales, reforzando prejuicios ancestrales que contribuyen a la discriminación y la exclusión. El antisemitismo contemporáneo adopta formas adicionales, como la retórica antisionista que se cruza con el discurso de odio, la negación del Holocausto y las narrativas revisionistas que distorsionan los hechos históricos para minimizar o justificar las atrocidades del pasado.

Las consecuencias psicológicas, sociales y económicas del antisemitismo son profundas. Las personas y comunidades judías se enfrentan con frecuencia al miedo, la marginación y las amenazas a su seguridad, lo que lleva a la autocensura, la participación pública restringida y el aumento de los problemas de seguridad. Además, el discurso de odio dirigido a las comunidades judías alimenta las ideologías extremistas, que pueden incitar a la violencia y contribuir a una polarización social más amplia. El espacio digital ha amplificado aún más el discurso antisemita, y las redes sociales permiten la rápida difusión de teorías de conspiración y discursos de odio codificados, que a menudo se disfrazan de críticas políticas legítimas.

 

Formas modernas de antisemitismo

A diferencia del antisemitismo tradicional, que a menudo era explícito en su discriminación religiosa o racial, el antisemitismo moderno opera con frecuencia a través de lenguaje codificado, silbatos para perros y referencias culturales. Esto le permite persistir mientras evita el reconocimiento directo como discurso antisemita. Las manifestaciones contemporáneas a menudo se centran en:

Las teorías de la conspiración describen a individuos judíos como controlando en secreto las finanzas, los medios de comunicación o la política mundial.

Narrativas que retratan a los judíos como agentes extranjeros o amenazas a la estabilidad nacional que alimentan ideologías nacionalistas y xenófobas.

El uso de símbolos visuales y caricaturas perpetúa estereotipos dañinos, deshumanizando a las personas judías.

Distorsiones de la historia, incluyendo la negación del Holocausto y las afirmaciones revisionistas destinadas a minimizar el sufrimiento judío.

Las formas extremas de antisionismo que equiparan a todos los individuos judíos con las políticas estatales a menudo se cruzan con la demonización abierta.

El antisemitismo moderno también prospera a través del lenguaje codificado y los eufemismos, lo que permite a las personas difundir ideologías de odio mientras mantienen una negación plausible. Estos silbatos para perros sirven como señales para los grupos extremistas mientras permanecen oscuros para el público en general.

 

Estrategias legislativas y políticas para combatir el antisemitismo

Dada su adaptabilidad, el antisemitismo requiere una respuesta legal, educativa y tecnológica sólida. Los gobiernos y las instituciones deben adoptar definiciones claras de antisemitismo, como las establecidas por la Alianza Internacional para el Recuerdo del Holocausto (IHRA), para distinguir la crítica política legítima del discurso de odio.

Las plataformas digitales deben mejorar los mecanismos de seguimiento para detectar y contrarrestar los contenidos antisemitas, principalmente la retórica codificada y las teorías conspirativas. Esto incluye mejorar las herramientas de moderación basadas en inteligencia artificial, garantizar la detección consciente del contexto y aumentar la transparencia en las políticas de regulación de contenidos. Los programas educativos también deben abordar las realidades históricas y contemporáneas del antisemitismo, equipando a las generaciones más jóvenes con habilidades de pensamiento crítico para reconocer y desafiar el discurso de odio.

 

Libro de códigos para identificar el discurso antisemita

Para analizar sistemáticamente el discurso de odio antisemita, se ha desarrollado un libro de códigos estructurado:

Palabras clave: judiada, Soros, chupamedias, Torá AND adoctrinar, judío AND asesino, conspiración AND masónica, judiozuelo, judío AND masón, judio AND sionista, sionismo, control AND medios AND judíos, banco AND judío, banca AND judía, casaRothschild, maldición AND judía, Judiofobia, control AND sionismo, avaricia AND judía, financistas AND judíos, nazis AND judíos, judiofilia, judiole, chupasangre AND judío, judíos AND,  dominación AND judío, judió AND masón, judíos AND estafador, terrorista AND judío, raza AND judía, limpieza AND étnica AND judío, superioridadracial, Israel AND asesin, judio AND kike, shylock, yid, Hamás AND judío, HitlerWasRight, IsraeliNewNazism, ZionistsAreEvil, ZionistsAreNazis, MuerteALosJudíos, Muerte AND Judíos, prayforgaza, Netanyahu AND criminal, ortodoxo AND extremista, judío AND extremista, peinadodecabra, peyot, peiot, trenza AND judíos,  hebreo Y, mujer Y judía, judíos Y racistas, judíos Y extranjeros [tabla 1].

 

Indicadores contextuales: Referencias a individuos judíos que controlan instituciones globales, teorías de conspiración sobre el poder financiero, negación del Holocausto y representaciones estereotipadas de los judíos como manipuladores o peligrosos.

Criterios de exclusión: Discusiones académicas sobre el judaísmo, análisis históricos que no promuevan estereotipos dañinos y debates sobre la política de Oriente Medio que no generalicen ni deshumanicen a los individuos judíos.

 

Un enfoque multifacético para combatir el antisemitismo

La naturaleza evolutiva del antisemitismo lo convierte en una forma de discriminación excepcionalmente difícil de contrarrestar. Se adapta a las nuevas plataformas de comunicación, contextos culturales y desarrollos geopolíticos, lo que requiere medidas legales, educativas y tecnológicas proactivas para garantizar una mitigación efectiva.

Abordar el antisemitismo requiere un esfuerzo global que involucre a gobiernos, instituciones académicas, plataformas digitales y organizaciones de la sociedad civil. Mediante la implementación de fuertes protecciones legislativas, iniciativas educativas y mecanismos de rendición de cuentas de los medios de comunicación, las sociedades pueden reducir la prevalencia de la retórica antisemita y garantizar la protección de las personas y comunidades judías.

En última instancia, combatir el antisemitismo no se trata solo de proteger a un grupo; Se trata de defender los principios de los derechos humanos, el pluralismo y la integridad democrática. Al reconocer su persistencia histórica y sus transformaciones modernas, las partes interesadas pueden desarrollar estrategias específicas para desmantelar los prejuicios y promover una sociedad más inclusiva y equitativa.

 

Antimiganquismo: raíces históricas, manifestaciones contemporáneas y estrategias de mitigación

El antigitanismo se refiere a una forma sistémica y profundamente arraigada de racismo contra el pueblo gitano, caracterizada por la discriminación, la exclusión y la marginación social. Esta forma de prejuicio racial ha estado arraigada en las sociedades europeas durante siglos, desde el siglo XVI, cuando las comunidades romaníes eran ampliamente retratadas como criminales, supersticiosas y socialmente inferiores. Con el tiempo, los estereotipos negativos y la discriminación institucionalizada han reforzado la exclusión de las personas romaníes, limitando su acceso a la educación, el empleo, la atención sanitaria y la vivienda.

A pesar de los marcos legales y los esfuerzos internacionales destinados a fomentar la igualdad, el antigitanismo sigue siendo una de las formas de racismo más generalizadas y menos abordadas en Europa. La opresión histórica de la población romaní se ha traducido en desigualdades estructurales, y la persistencia de narrativas discriminatorias sigue afectando a la vida de las comunidades romaníes en todo el continente. Abordar este problema requiere un esfuerzo integral y sostenido para desmantelar las ideologías prejuiciosas, reformar las instituciones discriminatorias y promover los derechos de los romaníes.

 

Manifestaciones e impactos del antigitanismo

El antigitanismo se manifiesta de formas explícitas y sutiles, que van desde actos manifiestos de racismo, discurso de odio y violencia física hasta la discriminación institucional y las representaciones negativas de los medios de comunicación. A menudo se describe a las personas romaníes como criminales, poco fiables o socialmente desviadas, lo que refuerza los estereotipos nocivos que alimentan la discriminación en las estructuras jurídicas, políticas y sociales.

Una de las manifestaciones más preocupantes del antigitanismo es el discurso de odio, que prevalece tanto en línea como en los medios tradicionales. Las comunidades romaníes suelen ser estigmatizadas y utilizadas como chivos expiatorios, especialmente en los debates sobre la delincuencia, la pobreza y la migración. Este entorno hostil conduce a altos niveles de exclusión social, ya que las personas romaníes se enfrentan a barreras para el empleo, la educación y la representación política.

La discriminación institucional también juega un papel clave en la perpetuación del antigitanismo. Los niños romaníes son colocados de manera desproporcionada en escuelas segregadas o en programas educativos de menor calidad, lo que limita sus oportunidades de movilidad ascendente. Del mismo modo, las familias romaníes a menudo se enfrentan a políticas de vivienda discriminatorias, que dan lugar a desalojos forzosos, condiciones de vida inadecuadas y aislamiento social. Estos desafíos sistémicos refuerzan los ciclos de pobreza y marginación, lo que dificulta la plena integración de las personas gitanas en la sociedad.

 

Estrategias legislativas y políticas para combatir el antigitanismo

Es necesario un enfoque multifacético que incluya reformas legales, iniciativas educativas y rendición de cuentas de los medios de comunicación para combatir el antigitanismo. Fortalecer las leyes contra la discriminación y garantizar su aplicación es un primer paso fundamental. Esto incluye la aplicación de legislación sobre delitos de odio que aborde explícitamente el racismo contra las personas romaníes, así como la adopción de medidas jurídicas alineadas con el Protocolo Adicional al Convenio sobre la Ciberdelincuencia, cuyo objetivo es combatir la incitación al odio en línea.

La rendición de cuentas de los medios de comunicación también es crucial para desafiar los estereotipos dañinos. Deben establecerse directrices periodísticas para promover representaciones precisas y justas de las comunidades romaníes, al tiempo que se desalienta la difusión de narrativas despectivas que asocian a las personas romaníes con la delincuencia, la pereza o la disfunción social. Además, las campañas de sensibilización pública deben poner de relieve las contribuciones históricas de las comunidades romaníes y fomentar el diálogo intercultural para combatir los prejuicios.

Las políticas educativas también deben dar prioridad a la inclusión de los gitanos abordando la segregación en las escuelas, aumentando el acceso a la educación superior e implementando programas que promuevan la historia y la cultura romaníes. Las escuelas desempeñan un papel fundamental en la formación de las actitudes sociales, por lo que es esencial desafiar las narrativas racistas en una etapa temprana y garantizar que los estudiantes romaníes reciban igualdad de oportunidades.

 

Libro de códigos para identificar el discurso antigitanista

Para rastrear y analizar sistemáticamente el discurso de odio antigitanista, se ha desarrollado un libro de códigos estructurado:

• Palabras clave: Gitano AND trapero, chavolo, gitano AND, gitanos AND sucios, gitanosladrones, gitanos AND vagos, gitanos AND nómadas, gitano AND delincuente, gitano AND basura, gitanos AND marginales, gitanos AND no integrados, gitanada, chusma AND gitana, gitanos AND atrasados, gitanos AND incivilizados, gitanos AND sin educación, gitanería, gitanos AND canis, gitanacos, gitanos AND mangantes, gitanos AND payos,  gitanos Y chorizos, repugnante Y gitano, escoria Y nómada, criminal Y gitanos, gitano Y drogadicto, gitano Y camello, gitana Y machista, vicioso Y gitano, gitano Y chatarrero, rumanos Y gitanos, maleantes Y gitanos, rateros Y gitanos, analfabetos Y gitanos, delincuencia Y gitana, familia Y gitana Y conflictiva, gitanos Y ilegales, expulsar Y gitanos, ocupas Y gitanos,  malfintengas, maldición Y gitana, humillado Y gitanos, bullying Y gitano, gitanos Y húngaros, gitanos Y migrantes, negros Y gitanos, gitana Y maltratada [tabla 1].
• Indicadores contextuales: Uso de términos despectivos para describir los estilos de vida y el estatus socioeconómico de los romaníes o para insinuar un comportamiento delictivo sin pruebas.
• Criterios de exclusión: Debates sobre eventos culturales, menciones neutrales o positivas e investigaciones académicas sobre temas gitanos que no promuevan el discurso de odio.

 

Un enfoque integral para abordar el antigitanismo

Reconocido por las instituciones europeas y las organizaciones de derechos humanos como una forma de racismo sistémico, el antigitanismo requiere acciones integrales para desmantelar los prejuicios raciales, la discriminación institucional y los legados históricos de exclusión. Abordar este problema requiere esfuerzos coordinados entre los gobiernos, la sociedad civil, las organizaciones de medios de comunicación y las instituciones educativas.

Las protecciones legales deben fortalecerse y aplicarse, garantizando que las personas romaníes tengan igualdad de acceso a la justicia. Al mismo tiempo, se deben aplicar medidas de rendición de cuentas de los medios de comunicación para evitar que se perpetúen estereotipos nocivos. En la era digital, el seguimiento del discurso de odio en línea se ha convertido en una herramienta esencial para combatir la discriminación racial, lo que hace necesaria la colaboración con las plataformas tecnológicas para regular el contenido de odio en línea.

En última instancia, la lucha contra el antigitanismo no se trata solo de proteger a las personas romaníes; Se trata de defender los principios fundamentales de los derechos humanos, la igualdad y la integridad democrática. Al promover la justicia social, el diálogo intercultural y las políticas inclusivas, las sociedades pueden avanzar hacia la erradicación del antigitanismo y garantizar que las comunidades romaníes sean plenamente reconocidas como miembros iguales y valorados de la sociedad.

 

Tabla 1. Temas para el filtrado de contenido [herramienta de detección de discursos de odio] para el sistema automático de detección y seguimiento

Temas de filtrado de contenido [detector de contenido de odio]
Xenofobia	anti-musulmán	Antisemitismo	Anti-Gitanismo	LGBTIQfobia
migrante OR migrantes OR inmigrante OR inmigrantes OR refugiado OR refugiados OR refugiada OR refugiadas OR (solicitante de asilo) OR (solicitantes de asilo.	Islam O musulmán O yihad O mezquita O yihad O qaeda O Daesh O burka O burka O hiyab O hiyab O niqab O nikab O moro O marroquí O argel O mahoma O mahoma O mahamed O halal OR ramadan OR alah OR sharía OR coran OR sunni OR suni) (Carga O amenaza O inseguridad OR peste O OR lacra OR gentuza OR basura OR escoria OR fuera O largo OR culo O puto O puta O jodid O maldit O suci O peligro O radical O terror O asco O asqueros OR ilegal O indocumentado O invasión O invasor O invasor O invadir O criminal O robo O robar O delincuencia O delincuentes OR delinqu OR vag O zángan O violencia O violento O viola O trafic OR ocupa OR okupa OR saque OR asalt OR paga OR paguita OR subvención OR subvenciones O ayuda O hurto O deporta O repatriar O reventar O revienta O mata O follacabras O MuerteaMusulmanes O LevelGaza O MuslimPig O MatarMusulmanes	Soros OR torá AND adoctrinar OR judío AND asesino OR conspiración AND masónica OR judío AND masón OR judio AND sionista OR sionismo OR control AND medios AND juddios OR banco AND judío OR banca AND judía OR casaRothschild OR maldición AND judía OR Judiofobia OR control AND sionismo OR avaricia AND judía OR financistas AND judíos OR nazis AND judíos OR judiofilia OR judiole OR chupasangre AND judío OR judios AND OR dominación Y judío O judió Y masón O Judios Y estafador O terrorista Y judío OR raza Y judía OR limpieza Y étnica Y judío OR superioridadracial OR Israel AND asesin Hamás AND judío OR HitlerWasRight Or IsraelNewNazism Or SionistsAre Evil Or ZionistsAre Nazis OR MuerteALosJudíos OR Muerte And Judíos OR prayforgaza OR Netanyahu Y criminal OR ortodoxo Y extremista OR judío Y extremista OR hebreo Y OR mujer AND judía OR judíos Y racistas OR judíos Y extranjeros.	Gitano Y trapero O chavolo O gitano Y O gitanos Y sucios O gitanosladrones O gitanos Y vagos O gitanos Y nómadas O gitano Y delincuente O gitano Y basura O gitanos Y marginales O gitanos Y no integrados O gitanada O chusma Y gitana OR gitanos Y atrasados O gitanos Y incivilizados O gitanos Y sin educación O gitanería OR gitanos Y canis O gitanacos OR gitanos Y mangantes O gitanos Y payos O gitanos Y chorizos O repugnante Y gitano O escoria Y nómada O criminal Y gitanos O gitano Y drogadicto O gitano Y camello O gitana Y machista O vicioso Y gitano O gitano Y chatarrero O maleantes Y gitanos O gitanos O analfabetos Y gitanos O delincuencia Y gitana O familia Y gitana Y conflictiva O gitanos Y ilegales OR expulsar Y gitanos O ocupas Y gitanos O OR malfintengas OR maldición Y gitana O humillado Y gitanos O bullying Y gitano O gitanos Y migrantes O negros Y gitanos O gitana Y maltratada.	query = ‘(O O mariquita O OR OR mariconazo OR mariconaza OR OR mariconismo OR mariposo OR mariposón OR mariposon OR mariposona OR bujarra OR bujarron OR bujarrón OR bujarrones OR bujarrona OR comerabos OR chupapollas OR muerdealmohadas OR OR OR bollero OR bollera OR hermafrodita OR transexual O bisexual OR travesti OR travesty OR dragqueen O drag OR travelo OR lesbiana OR lesbiano OR lesbiano OR lesbianismo OR homosexualidad O homosexual O gay).

 

 

 

 

 

 

Ejemplos hipotéticos de discursos de odio contra migrantes, musulmanes, colectivos LGBTIQ, gitanos y judíos

 

La identificación, documentación, clasificación y notificación de casos de incitación al odio para su eliminación de las principales plataformas de redes sociales, como YouTube, Twitter, Facebook, Instagram y TikTok, se basa en el Código de Conducta de la Comisión Europea para la Lucha contra la Incitación Ilegal al Odio en Línea. Este enfoque se ha adaptado al contexto español y se alinea con los objetivos de OBERAXE, que pretende establecer un mecanismo de seguimiento estable y eficaz. Dada la importante presencia de contenidos racistas, xenófobos, antimusulmanes, antisemitas y antiLGBTIQ en línea, se ha desarrollado una metodología estructurada para rastrear, analizar y escalar dichos contenidos cuando sea necesario.

Metodología para el seguimiento y la notificación de discursos de odio

La estrategia de seguimiento sigue un enfoque sistemático que garantiza la coherencia en la identificación y el tratamiento de los discursos de odio en las plataformas digitales. La metodología incorpora los siguientes componentes clave:

 

• Alcance: Se centra principalmente en los discursos de odio racistas y xenófobos, la intolerancia vinculada a la exclusión social y la incitación contra la integración de inmigrantes, refugiados y personas que buscan protección humanitaria.
• Criterios de clasificación: El análisis de contenido se adhiere a los marcos legales nacionales e internacionales y a las políticas y términos de servicio de las plataformas monitoreadas.
• Proceso de búsqueda: Una búsqueda manual utilizando un banco de palabras predefinido ayuda a identificar casos potenciales. La clasificación final se basa en la gravedad, el alcance y el impacto del discurso.
• Frecuencia de monitoreo: Las búsquedas se realizan de lunes a viernes, con una hora dedicada a cada plataforma. El proceso es llevado a cabo por monitores asignados capacitados para identificar contenido dañino.
• Procedimientos de denuncia: Los casos que infringen las directrices de la plataforma se denuncian como usuarios generales. Si no hay respuesta en el plazo de una semana, se inicia un proceso de escalamiento, en el que el contenido se denuncia con el estado de Usuario cualificado (Trusted Flagger).
• Escalada legal: Si el contenido se evalúa como potencialmente delictivo, se remite a la Procuraduría General del Estado (Unidad de Delitos Cibernéticos) para una mayor investigación y posible enjuiciamiento.
• Revisión semanal: Una reunión de seguimiento semanal revisa los casos, resuelve dudas y evalúa el proceso general.

 

Elementos clave del enfoque

Este marco de seguimiento se estructura en torno a principios básicos que garantizan una respuesta eficaz a la incitación al odio en línea:

• Adaptación de una metodología validada por Europa y adaptada al entorno digital y legal español.
• Cumplimiento estricto de las regulaciones legales y los términos de servicio de la plataforma para garantizar el cumplimiento y maximizar los resultados de la aplicación.
• Céntrate en la gravedad y el impacto del contenido en lugar de en el volumen, dando prioridad a los discursos de odio más dañinos y ampliamente difundidos.
• Integración de un proceso de escalada legal, asegurando que los casos con posibles implicaciones penales se dirijan a las autoridades pertinentes para que tomen medidas adicionales.

 

Ejemplos ilustrativos de identificación de discursos de odio

Se han categorizado ejemplos hipotéticos en función del grupo objetivo para demostrar la distinción entre el discurso de odio, el discurso neutral y el contenido no relevante. Estos ejemplos ilustran cómo el discurso de odio a menudo se basa en estereotipos, información errónea y retórica deshumanizante, mientras que el discurso constructivo promueve la inclusión y las discusiones fácticas.

 

1) Mensajes que contengan discursos de odio

• Contra los migrantes: «Los migrantes traen crimen y le quitan trabajo a nuestros ciudadanos. No pertenecen aquí».
• Contra los musulmanes: «Los musulmanes no comparten nuestros valores y representan una amenaza para nuestra forma de vida».
• Contra los grupos LGBTIQ: «Los estilos de vida LGBTIQ son antinaturales y no deberían ser aceptados en la sociedad».
• Contra los romaníes: «Todos los gitanos son ladrones y no se puede confiar en ellos. Todos deberían ser expulsados de nuestro país».
• Contra los judíos: «Los judíos controlan las finanzas y los medios de comunicación del mundo, manipulando los acontecimientos mundiales para su beneficio».

Estas declaraciones reflejan narrativas conocidas de discurso de odio que se basan en generalizaciones hostiles, alarmismo y tropos discriminatorios. Están diseñados para incitar a la hostilidad, reforzar la marginación y fomentar la división social.

 

2) Mensajes sin discursos de odio

• Migrantes: «Apoyar a los migrantes con programas de integración ayuda a todos. La diversidad fortalece a nuestra comunidad».
• Musulmanes: «Comprender y respetar las tradiciones musulmanas contribuye a una sociedad más rica y diversa».
• Grupos LGBTIQ: «Los derechos LGBTIQ son derechos humanos. Todos merecen vivir y amar sin miedo a la discriminación».
• Romaníes (gitanos): «Tenemos que abordar los problemas sistémicos que conducen a la pobreza y a la falta de educación en las comunidades romaní y sinti».
• Judíos: «Es importante recordar las contribuciones de los individuos judíos en la ciencia, las artes y la historia a nuestra sociedad».

 

A diferencia del discurso de odio, estas declaraciones promueven la cohesión social, la participación fáctica y la inclusión. Demuestran que las discusiones sobre la identidad, la cultura y la diversidad pueden ser constructivas en lugar de divisivas.

 

3) Mensajes neutrales o descartados

Algunos mensajes no entran en la categoría de incitación al odio y, por lo tanto, se excluyen de la supervisión y la presentación de informes:

• Mensajes genéricos: «Esperamos con ansias la reunión de la comunidad este fin de semana. ¡Espero ver a todos allí!»
• Observaciones neutrales: «Es un hermoso día soleado afuera. Clima perfecto para dar un paseo por el parque».

Si bien estos mensajes son relevantes para las discusiones en línea, carecen de las características del discurso de odio o del discurso relacionado y no se tienen en cuenta en el proceso de monitoreo.

 

La importancia de diferenciar los discursos de odio

Estos ejemplos hipotéticos ilustran cómo el discurso de odio se manifiesta en ataques dirigidos, a menudo arraigados en prejuicios históricos y estigmas sociales. Al mismo tiempo, los mensajes que no son de incitación al odio se centran en el diálogo constructivo, el apoyo a las comunidades marginadas o el contenido neutral.

Diferenciar con precisión entre estas tres categorías de discurso, discurso inclusivo y contenido irrelevante es esencial para combatir el odio en línea y, al mismo tiempo, preservar las discusiones legítimas sobre temas delicados. Al aprovechar las herramientas de monitoreo automatizado, los procesos de revisión humana y los mecanismos de escalada legal, esta metodología tiene como objetivo mitigar los efectos nocivos del discurso de odio, proteger a las comunidades vulnerables y contribuir a un entorno digital más respetuoso e inclusivo.