Perché YouTube suggerisce ai bambini video di armi e sparatorie

Author: Wired

Secondo il gruppo Tech Transparency Project (TTP), l’algoritmo di raccomandazione della piattaforma sta “spingendo i ragazzi interessati ai videogiochi scene di sparatorie nelle scuole, istruzioni su come usare e modificare le armi” e persino un film sul famigerato serial killer Jeffrey Dahmer. Una conclusione a cui i ricercatori sono arrivati creando quattro nuovi account YouTube, e fingendosi bambini di 9 e 14 anni. Per circa un mese, quindi, hanno guardato le playlist di contenuti che avevano come tema videogiochi popolari quali Roblox, Lego Star Wars, Halo e Grand Theft Auto. E hanno seguito, più o meno diligentemente, i video suggeriti dall’algoritmo di YouTube.

Il risultato è stato abbastanza sconvolgente. L’algoritmo ha suggerito a tutti gli account contenuti relativi alle sparatorie e alle armi, con una frequenza maggiore – pari a circa 10 volte di più – per tutti quegli utenti che avevano già visto quello che era stato consigliato da YouTube. In particolare, secondo questa ricerca i bambini sono continuamente spinti alla visione di video che violano le norme della piattaforma, che (teoricamente) dovrebbero vietare di mostrare “contenuti violenti o cruenti destinati a scioccare o disgustare gli spettatori”. Eppure, senza un motivo ancora chiaro, l’algoritmo sta suggerendo video che mostrano i danni che una pistola può infliggere ad un corpo umano o che addirittura suggeriscono come trasformarla in un’arma automatica, oltre a una serie di altri contenuti incredibilmente violenti. Insomma, tutto fuorché quello che davvero può fare bene ad un minore di 14 anni.

La ricerca di Tech Transparency Project solleva così ancora nuove domande sull’impatto che i consigli di YouTube possono avere sulla crescita e sulla salute mentale degli utenti più giovani, soprattutto considerando il fatto che l’algoritmo non riesce davvero a fermare la diffusione di contenuti violenti o espliciti . Dal canto suo, però, un portavoce di YouTube ha fatto sapere che la piattaforma non è davvero convinta del risultato fornito dalla ricerca. “Lo studio non fornisce il contesto di quanti video complessivi sono stati consigliati agli account di prova – riferisce – e non fornisce informazioni su come sono stati impostati gli account di prova, incluso se sono stati applicati gli strumenti delle esperienze supervisionate di YouTube”. Ma i ricercatori sono stati abbastanza chiari sulla loro metodologia, e così pure su quanto hanno scoperto. Ora sta alla piattaforma risolvere il problema.