Le aziende dei social media devono agire con urgenza e affrontare l’odio anti-musulmano. Anche perché, fino ad ora, le principali piattaforme – e parliamo quindi di Instagram, Facebook, Twitter, TikTok e YouTube – non hanno fatto assolutamente nulla contro l’89% dei contenuti islamofobici che sono stati segnalati loro, secondo uno studio del Centro per la lotta all’odio digitale (Center for Countering Digital Hate). Nello specifico il primato negativo spetta a YouTube, che non ha eliminato nessun post e ha rimosso zero account.
I ricercatori del Centro, che è una ong internazionale senza scopo di lucro che cerca di smantellare il sistema di odio e disinformazione online e ha uffici a Londra e Washington DC, hanno segnalato analizzato centinaia di post che includevano stereotipi razzisti, narrazioni che incitano all’odio e post che glorificano gli omicidi di massa. E pensare che dopo la sparatoria alla sinagoga Tree of Life (Pittsburgh, 2018) e gli attacchi alla moschea di Christchurch (Nuova Zelanda, 2019) quattro di queste piattaforme nel 2019 si erano impegnate, con una dichiarazione congiunta insieme a Microsoft, Google e Amazon, dichiarandosi “risolute nel garantire che stiamo facendo tutto il possibile per combattere l’odio e l’estremismo che portano alla violenza terroristica”. Un nobile intento, che però è rimasto tale, visto che in media solo un contenuto su 10 di questo tipo è stato rimosso, stando ai dati. “Ancora una volta, i loro comunicati stampa dimostrano di non essere altro che vuote promesse” dichiara infatti la CEO del Centro Imran Ahmed.
Il report del Centro per la lotta all’odio digitale
Gli esperti del CCDH, utilizzando gli strumenti di segnalazione delle piattaforme stesse, hanno analizzato 530 post che presentano contenuti inquietanti, bigotti e disumanizzanti, in cui si prendono di mira le persone musulmane attraverso caricature razziste, cospirazioni e false dichiarazioni. Questi post sono stati visti almeno 25 milioni di volte. Molti dei contenuti islamofobi erano facilmente identificabili, eppure praticamente non è stato fatto nulla per rimuoverli. Instagram, TikTok e Twitter hanno permesso agli utenti di usare hashtag come #deathtoislam, #islamiscancer e #raghead (un termine offensivo per una persona che indossa un turbante, una kefiah, ecc.). I contenuti diffusi utilizzando questo tipo di hashtag hanno ricevuto almeno 1,3 milioni di reazioni.
La tabella qui sotto mostra quanti post sono stati registrati su ogni piattaforma e quanti di questi sono stati cancellati, quanti account rimossi e una percentuali delle azioni intraprese dalle piattaforme.
Cosa manca
I ricercatori del Centro per la lotta all’odio digitale suggeriscono, a corredo del report, quali possano essere le misure necessarie e i poteri da assumere da parte delle società per far sì che la catena di discriminazione e violenza islamofobica si interrompa. “La nostra esperienza come organizzazione – sostengono nel comunicato – suggerisce che a livello globale mancano tre cose nelle autorità esistenti:
1) Il potere di imporre la trasparenza sugli algoritmi (che selezionano quali contenuti vengono amplificati e quali no); l’applicazione di standard comunitari (quali regole vengono applicate e come e quando); e l’economia (dove, quando, da chi, e usando quali dati, la pubblicità, che costituisce la maggior parte delle entrate per le piattaforme di social media, viene piazzata).
2) Il potere di ritenere le piattaforme di social media responsabili a livello individuale, comunitario e nazionale per l’impatto dei contenuti che monetizzano
3) Il potere di ritenere responsabili i dirigenti dei social media per la loro condotta come amministratori di piattaforme che hanno un enorme peso nel dibattito pubblico, non solo in termini di moderazione dei contenuti, ma anche di amplificazione di questi, in termini di design istituzionale e di esperienza dell’utente, e in termini di equità nell’esperienza che fanno le persone delle comunità marginalizzate.
Le conseguenze
Qual è l’impatto dell’inazione? Quando le aziende dei social non agiscono sui contenuti di odio e violenti che appaiono sulle piattaforme, sono consapevoli che questo comporta una significativa minaccia nella realtà offline. L’odio anti-musulmano cerca di disumanizzare ed emarginare comunità di persone storicamente oggetto di minacce violente, attacchi, discriminazione e ostilità. Permettere a questi contenuti di essere promossi e condivisi sui social network, senza interventi e azioni repressive efficaci, mette ulteriormente in pericolo questa comunità determinando divisioni sociali, normalizzando comportamenti scorretti e incoraggiando attacchi e soprusi offline. “Peggio ancora – sostiene la CEO di CCDH Imran Ahmed – le piattaforme traggono profitto da questo odio, monetizzando allegramente sui contenuti, le interazioni, l’attenzione e le visualizzazioni che ne derivano. Per loro, l’odio è un buon affare”.
“Se posso, parlo a titolo personale per un momento – scrive Ahmed nella nota -. Mia madre è musulmana. È una donna buona, lavoratrice, gentile e amorevole. Merita di più da coloro che hanno il potere di proteggerla dagli attacchi amplificati dei teorici della cospirazione e dei subdoli e capaci mercanti d’odio. Eppure non riescono a fare la loro parte. Io non riesco dormire quando vedo l’ingiustizia, mi fa venire voglia di agire. Per questo, per quanto mi riguarda, non capisco come i miliardari che possiedono queste piattaforme possano dormire la notte quando sanno che potrebbero fare molto, molto di più“, conclude.
