Los algoritmos de redes sociales favorecen los discursos de odio
Las víctimas comúnes tienen perfiles referidos a sus nacionalidades, orientación o identad de género y diferentes ideologías
Las interacciones recompensan los delitos de odio | Montaje (Unsplash)
Las redes sociales son mecanismos útiles en la comunicación contemporánea. Actualidad y conexión instantánea, inmediatez informativa y muchas otras funciones abren la veda para mantener la facilidad comunicativa actual. Sin embargo, el carácter negativo de la sociedad también se ve acrecentado por la inmediatez y el libre acceso.
Los discursos de odio -como el racismo, la homofobia, el antisemitismo y muchas otras- son temas de conversación críticos, muy controversiales, que provocan miles de interacciones diarias. Y las interacciones son dinero. Es por ello que los algoritmos facilitan y recomiendan estos temas, muy mueven decenas de miles de personas, por la controversia.
Laila A. Wahedi y Daniel Robert Thomas, investigadores de Meta (empresa matriz de Facebook, WhatsApp e Instagram), han llevado a cabo un reciente estudio, que se ha publicado en la revista científica PNAS. El estudio, Disrupting hate: The effect of deplatforming hate organizations on their online audience, clarifica algo que ya apuntaban investigaciones anteriores: expulsar de las redes a los llamados líderes tóxicos es eficaz para disminuir la difusión de discursos de odio.
La investigación identificó a los perfiles más activos dentro de seis comunidades que movían a 26.000 usuarios en las redes. Dichos perfiles -los llamados líderes tóxicos– fueron expulsados y, tras esto, obtuvieron tres conclusiones ‘destacables’:
- Los usuarios -tras la expulsión- recibían casi la mitad de contenido de odio al día.
- El subgrupo afín a dichos líderes, de manera casi inmediata, comenzó a recibir contenido más saludable, mientras que los más implicados reaccionaron negativamente y aumentaron el consumo de odio a corto plazo, decayendo en pocos meses.
- Los usuarios redujeron, en promedio, en torno al 10% de su consumo total de contenidos.
«Debemos defender la libertad de expresión siempre y cuando no atente contra la dignidad de nadie», explica Dolors Reig, profesora colaboradora de los Estudios de Ciencias de la Información y de la Comunicación de la Universitat Oberta de Catalunya (UOC), en un comunicado recogido por THE OBJECTIVE. «Las redes sociales son una herramienta potentísima para el cambio social, pero también lo son para la difusión de discursos de odio», añade.
La pandemia impulsó los discursos de odio
La pandemia de la covid-19 fue el detonante principal del discurso de odio, según el secretario general de las Naciones Unidas, António Guterres. Así lo reflejó en una carta de 2020, donde pidió a todos los agentes sociales y políticos detener la «oleada de odio y xenofobia».
En aquel momento, la gente empleó las redes sociales «de forma intensiva para informarse y relacionarse, una conducta que se vio potenciada por el propio confinamiento: las plataformas sociales se presentaban como ventanas de conexión con el mundo exterior», comenta Silvia Martínez, directora del máster universitario de Social Media: Gestión y Estrategia de la UOC, profesora de los Estudios de Ciencias de la Información y de la Comunicación de la UOC e investigadora del grupo GAME en declaraciones recogidas por este medio.
A la vez, «las emociones que se experimentaron durante aquel periodo excepcional incrementaron también la crispación: había miedo, tensión, preocupación por la situación sanitaria, un contexto económico de incertidumbre…», prosigue.
El verdadero perfil de la víctima
Según el último Informe sobre la evolución de los delitos de odio en España -por parte del Ministerio del Interior-, los grupos objetivos de los delitos de odio son (1º) los de enfrentamiento ideológico, con un 34,9%, (2º) los de racismo y xenofobia, con un 30,2% y (3º) los que atentan contra la orientación sexual o la identidad de género -LGBTI-, con un 16,3%.
En el último boletín de monitorización (marzo-abril de 2023) del Observatorio Español contra el Racismo y la Xenofobia (Oberaxe) indica que las redes han retirado el 55% de los contenidos denunciados. Los discursos de odio hacia las personas norteafricanas y la islamofobia copan el 60% de estos contenidos.
Referido a la orientación sexual y la identidad de género, el perfil de la víctima suele ser menor de cuarenta años, según el propio informe. Entre los 18 y los 25 años constituye el 42,5% de estos delitos.
