di Nina Prenda
L’indagine, di tipo esplorativo, pubblicata dal Centro di ricerca sull’antisemitismo del Movimento di lotta contro l’antisemitismo (CAM), rivela che già entro il terzo giorno il 31% dei contenuti mostrati all’account dedicato al benessere e il 18% di quelli proposti all’account fitness contenevano forme esplicite di antisemitismo. Considerando l’intero periodo di osservazione, il 32% dei video visualizzati dall’account benessere e il 24% di quelli dell’account fitness presentavano contenuti antisemiti, espliciti o codificati.
L’algoritmo di Instagram potrebbe condurre gli utenti, nel giro di pochi giorni, da contenuti dedicati al benessere e alla crescita personale a materiale antisemita e propaganda nazista. È quanto emerge da un’indagine pubblicata dal Centro di ricerca sull’antisemitismo del Movimento di lotta contro l’antisemitismo (CAM).
Per verificare il comportamento della piattaforma, i ricercatori hanno creato due account neutrali: uno orientato ai contenuti sul benessere e uno focalizzato sul fitness. Entrambi hanno seguito esclusivamente creator popolari nei rispettivi settori e sono stati utilizzati per tre sessioni quotidiane di navigazione della durata di 45 minuti.
Per evitare di influenzare il sistema, i ricercatori si sono limitati a osservare i contenuti suggeriti, senza mettere “mi piace”, commentare o condividere alcun post. Nonostante l’assenza di interazioni attive, gli account hanno iniziato rapidamente a ricevere contenuti contenenti teorie del complotto e messaggi d’odio.
Secondo il rapporto, già entro il terzo giorno il 31% dei contenuti mostrati all’account dedicato al benessere e il 18% di quelli proposti all’account fitness contenevano forme esplicite di antisemitismo. Considerando l’intero periodo di osservazione, il 32% dei video visualizzati dall’account benessere e il 24% di quelli dell’account fitness presentavano contenuti antisemiti, espliciti o codificati.
«Nonostante i diversi punti di partenza, entrambi gli account sono stati indirizzati verso gli stessi schemi narrativi antisemiti, gli stessi stereotipi e, in alcuni casi, perfino verso gli stessi contenuti», si legge nel rapporto. Secondo gli autori dello studio, questo suggerirebbe un problema strutturale legato al funzionamento dell’algoritmo piuttosto che a singole comunità online.
Il CAM sottolinea tuttavia che la ricerca ha carattere esplorativo e non rappresenta uno studio statisticamente rappresentativo. Tra i limiti riconosciuti figurano il numero ridotto di account analizzati e la breve durata dell’osservazione. Al momento della pubblicazione del rapporto, Meta non aveva rilasciato commenti.
Gli argomenti scelti per l’esperimento non sono stati casuali. Gli studiosi ritengono infatti che alcuni settori, come il benessere, la salute alternativa e l’auto-miglioramento, possano entrare in contatto con narrazioni anti-establishment e complottiste. Temi come la sfiducia nei confronti dell’industria farmaceutica o la ricerca di presunte “verità nascoste” rappresenterebbero, secondo il rapporto, punti di contatto con contenuti più radicali.
Analogamente, alcuni ambienti online legati al fitness e alla crescita personale si intrecciano con messaggi tipici della cosiddetta “manosfera” e della narrativa della “fuga dalla matrice”, che descrivono un presunto declino della società e dei valori tradizionali.
Tra i primi contenuti suggeriti all’account dedicato al benessere figuravano video che associavano i prodotti kosher a presunte cospirazioni ebraiche o che interpretavano eventi internazionali come parte di complotti globali. Nel giro di due giorni, i suggerimenti si sono spostati verso contenuti più estremi, con influencer che citavano Adolf Hitler e accusavano gli ebrei di esercitare un controllo centralizzato sulle istituzioni.
Gli autori dello studio sostengono di aver individuato un processo di radicalizzazione articolato in cinque fasi: dai contenuti mainstream all’approccio anti-establishment, dalle teorie del complotto alle narrazioni antisemite implicite, fino all’antisemitismo esplicito. Alcuni temi ricorrenti, come la presunta corruzione dell’industria alimentare o sanitaria, avrebbero svolto il ruolo di “ponte” verso contenuti sempre più estremi.
«Non è necessario cercare contenuti antisemiti per imbattersi in essi su Instagram», ha dichiarato Oliver Marks, ricercatore associato del CAM. «Quando le piattaforme privilegiano il coinvolgimento degli utenti senza adeguate misure di protezione, rischiano di amplificare contenuti d’odio su larga scala».
Le organizzazioni che monitorano l’antisemitismo denunciano da anni una moderazione insufficiente da parte delle piattaforme social. Ad aprile, la Anti-Defamation League aveva segnalato che reti suprematiste bianche, sostenitori di gruppi terroristici e venditori di materiale nazista operavano con controlli limitati su Instagram dopo la riduzione di alcuni sistemi automatici di rilevamento dei discorsi d’odio.
Lo scorso mese, inoltre, il CAM ha riferito di aver individuato una rete composta da oltre 80 falsi “rabbini” generati dall’intelligenza artificiale e utilizzati per diffondere stereotipi antisemiti su Instagram, oltre che su YouTube e TikTok. Secondo l’organizzazione, Meta avrebbe successivamente rimosso la rete segnalata.
