Sempre più persone nel mondo utilizzano i social. Secondo una stima ufficiale delle Nazioni Unite del 2023, il numero degli utenti attivi ha raggiunto 8,01 miliardi di individui. Instagram risulta tra le piattaforme più usate per condividere foto, video, ma anche per commentare, mettere like, salvare contenuti. Ma è tutto sempre innocuo?
Video tossici a sfondo sessuale, l’inchiesta di The Wall Street Journal
Una lunga inchiesta dello stesso giornale americano di qualche anno fa, ha messo in evidenza come l’algoritmo di Instagram offra un mix di video tossici inclusi filmati a sfondo sessuale di bambini. Il Journal ha rilevato che gli algoritmi gestiti da Meta, che possiede sia Facebook che Instagram, collegano ampie comunità di utenti interessati a contenuti sessuali che riguardano spesso anche i minori. In sostanza, attraverso gli account di prova è stato rilevato che la piattaforma conteneva un mix di pornografia per adulti e materiale sessualizzante per bambini. Un’accusa pesante per la quale non si sono fatte attendere le risposte di Meta che ha istituito una task force e ampliato i suoi sistemi automatizzati per rilevare gli utenti che si comportano in modo sospetto, bloccando periodicamente decine di migliaia di questi account. Le ricerche del giornale americano sono andate aventi per mesi durante i quali sono stati creati account di prova Instagram creati da adulti per seguire ginnaste, cheerleader e altri giovani influencer. I test hanno dimostrato che seguire ‘solo’ le ragazze ha spinto Instagram a iniziare a pubblicare video da account che promuovono contenuti sessuali per adulti insieme ad annunci dei principali marchi di consumo. Gli esperti di algoritmica hanno riscontrato che partendo da un contenuto innocuo come la ginnastica, per esempio, alcuni utenti di Instagram che seguono ragazze ginnaste preadolescenti si sono trovati ad interagire con video a contenuto sessuale purtroppo anche con bambini. “I contenuti di nicchia forniscono un segnale molto più forte rispetto ai contenuti di interesse generale”, ha affermato Jonathan Stray, scienziato senior del Center for Human-Compatible Artificial Intelligence presso l’Università della California, Berkeley. I contenuti di nicchia sono definiti così perché di solito sono meno generici e sono orientati a un pubblico definito (designer, appassionati di lettura, ecc.) o a un’attività molto specifica. Una volta che Instagram individua un utente come interessato a un argomento particolare, i suoi sistemi di raccomandazione sono addestrati per indirizzargli più contenuti correlati. Dalla inchiesta è venuto fuori che la tendenza degli algoritmi di Instagram ad aggregare contenuti sulla sessualizzazione infantile da tutta la sua piattaforma fosse già nota internamente come un problema. Ma impedire al sistema di continuare a offrire contenuti nocivi agli utenti interessati – spiegano gli esperti – richiede modifiche significative agli algoritmi di raccomandazione, ovvero i sistemi di filtraggio dei contenuti molto difficili da gestire persino dagli addetti alla sicurezza della piattaforma che spesso non hanno accesso a questo tipo di sistema.
Allarme Reels: difficile gestire i contenuti
Sotto accusa ci sono anche i Reels, il servizio di Instagram che consente la condivisione di mini video (prima potevano essere solo di quindici secondi, mentre adesso si può arrivare anche fino a novanta secondi) che pone diversi problemi di sicurezza, secondo ex dipendenti di Meta. “Parte del problema – riferiscono – è che i sistemi automatizzati di applicazione delle norme hanno più difficoltà ad analizzare i contenuti video rispetto al testo o alle immagini fisse. Un’altra difficoltà nasce dal modo in cui funziona Reels: invece di mostrare contenuti condivisi dagli amici degli utenti, come spesso fanno altre parti di Instagram e Facebook, Reels promuove video da fonti che non seguono”.
Meta, proprietaria di Instagram, successivamente alla pubblicazione del report ha dichiarato di aver rimosso dalla piattaforma migliaia di hashtag utilizzati dai pedofili per mettersi in contatto con i venditori e con altri criminali sessuali e di avere introdotto nuove funzionalità per rendere ancora più difficile per gli adulti interagire con gli adolescenti.
Necessaria una educazione digitale
In conclusione, le piattaforme, ma questo ormai è un dato di fatto, possono essere anche molto insidiose o addirittura dannose, come ricerche e inchieste, periodicamente mostrano.
Se vogliamo rimanere nello specifico del caso Instagram, è importante considerare la natura particolare di questo social, che lo rende il più pericoloso in assoluto, essendo un social basato esclusivamente sull’apparenza: il suo fine è quello di mettere in mostra il proprio tenore di vita, ciò che si fa e ciò che si possiede. Si baserebbe in pratica su un meccanismo continuo di confronto sociale con gli altri in una continua manovra di sorpasso a destra. Se lo potessimo paragone a uno dei 7 vizi capitali, probabilmente sarebbe il peccato della vanità.
Mentre per esempio su Tik Tok ha un peso più importante la performance, come per esempio l’abilità nel cantare in playback o nel ballare, o su Facebook l’esternazione del proprio stato d’animo attraverso gli status, su Instagram invece domina esclusivamente la volontà di apparire, esibirsi e far percepire a tutti gli altri la loro inferiorità rispetto a ciò che siamo o possediamo.
In questa ottica, è facile imbattersi, più o meno inconsapevolmente in contenuti tossici e per questo occorre una certa consapevolezza che metta in guardia da eventuali pericoli. Così come è un dato di fatto, confermato da dati e statistiche, che i bambini utilizzino i social per molte ore al giorno e che spesso lo fanno senza la supervisione dei genitori. Non è tutto negativo quello che la rete ci offre, ovviamente, ma occorre gestire il mezzo con consapevolezza, per conoscerne il più possibile oltre che i benefici, anche gli eventuali rischi. E nel caso dei minori questa responsabilità è specialmente dei genitori. L’educazione, affascinante e sempre nuova arte, è sempre di più anche educazione digitale.
