YouTube non è un posto sicuro per i bambini

YouTube ha annunciato che introdurrà un nuovo sistema per limitare i video con contenuti inappropriati ai minori, dopo un articolo sul New York Times e uno uscito su Medium che hanno segnalato la presenza sistematica di video disturbanti apparentemente identici a quelli dedicati ai bambini. Negli ultimi giorni in molti hanno segnalato infatti la presenza di video violenti, sessualmente espliciti o comunque inquietanti, mascherati da video per bambini. Alcuni di questi sono anche caricati con titoli italiani, e sono tra i primi che compaiono cercando un video adatto a un bambino: ma in certi casi sono tutto meno che adatti a un bambino.

YouTube Kids esiste dal 2015, ma non è ancora disponibile in Italia. Raccoglie oltre 11 milioni di utenti a settimana, ed è pensata per permettere ai genitori di lasciar guardare ai propri figli fino ai 13 anni video su YouTube senza doversi preoccupare che vedano contenuti violenti, volgari o disturbanti. Se la stragrande maggioranza dei video risponde a questi requisiti, ce ne sono altri che sfruttano i personaggi dei cartoni animati per illustrare scene non adatte ai bambini. Soprattutto nelle ultime settimane ci sono state segnalazioni di video che mostravano, per esempio, Spider-Man urinare nella vasca da bagno della protagonista del film Frozen, Mickey Mouse in una pozza di sangue investito da un’auto, o i personaggi di una serie di animazione in uno strip club.

I video violenti o inappropriati sono una piccola percentuale di quelli presenti su YouTube Kids, ma c’è comunque la possibilità che i bambini – lasciati soli davanti a un tablet o uno smartphone – li vedano per via della riproduzione automatica, o perché incuriositi da un titolo e un’immagine diversa dalle altre. La maggior parte ha decine di migliaia di visualizzazioni, se non milioni (ma non sappiamo quante avvenute sull’app YouTube Kids).

Ci sono anche video non adatti ai bambini caricati su YouTube Kids che non contengono personaggi di animazione, ma sono interpretati da veri attori. Una madre dello Utah ha raccontato al New York Times che suo figlio è capitato su un video nel quale due bambine asiatiche si comportavano in modo strano e ambiguo. Nel video c’è anche un adulto, con in bocca un ciuccio, che si comporta in modo infantile e inquietante. A un certo punto a una delle due viene rasata la fronte, apparentemente facendola sanguinare.

Di questo genere di video ha parlato lo scrittore e artista James Bridle in un lungo post pubblicato su Medium. Oltre ai video in cui personaggi innocui compiono azioni di violenza o tengono atteggiamenti sessualmente espliciti, c’è infatti tutto un filone di video che non presentano contenuti così evidentemente inappropriati, ma sono comunque strani e potenzialmente traumatici per un bambino. Secondo Bridle, «qualcuno o qualcosa o una combinazione di cose e persone sta usando YouTube per spaventare, traumatizzare e abusare sistematicamente dei bambini, in maniera automatica e scalabile».

Anche sullo YouTube italiano ci sono questi video: sono quelli americani, ma con un titolo italiano e caricati soprattutto da un canale chiamato “Cartoni animati per bambini”. I video del canale, che ha oltre 50mila iscritti, sono tra i primi risultati che compaiono con una ricerca “video per bambini”, ma anche in questo caso hanno contenuti che probabilmente molti genitori non riterrebbero opportuni per i propri figli. Hanno comunque tra le 150mila e le 200mila visualizzazioni. In un video a tema supereroi compare per esempio una versione piuttosto spaventosa del personaggio di Venom, mentre in un altro è rappresentata un’operazione chirurgica su un bambino, dalla cui pancia viene estratta una sirena interpretata da una bambina.

I due video partono nei momenti più strani e inquietanti
(ma lo sono più o meno sempre)

Bridle inizia la sua argomentazione spiegando che i canali di video per bambini su YouTube sono un business enorme, che raccolgono miliardi di visualizzazioni, e che si dividono in canali ufficiali (di network o di case di produzione) e in quelli non ufficiali, ma che pubblicano comunque video con i personaggi dei cartoni animati più famosi. Per fare l’esempio di Peppa Pig, tra i più popolari: i video in inglese sono caricati da un canale ufficiale e da molto altri non ufficiali; in Italia ci sono solo quelli non ufficiali, come “Il Regno dei Bambini” (il più grande), ma anche per esempio “Blog CATTOLICI”.

I video sono contenuti piratati andati in onda su Rai YoYo, e non sono inadatti ai bambini: ma provengono da una fonte di cui non sappiamo nulla. Quello dei finti video di Peppa Pig che si trasformano in cartoni violenti e inquietanti è un problema noto da tempo negli Stati Uniti, di cui si era occupato anche il sito The Outline lo scorso marzo. Nei giorni scorsi è stato rimosso per esempio un video di cui aveva parlato Bridle, e che mostrava i personaggi di Peppa Pig impegnati in un’estrazione dentale truculenta e impressionante: aveva oltre 100mila visualizzazioni.

Quella dei video evidentemente parodistici, fatti da troll probabilmente malintenzionati, è però soltanto una parte della storia: YouTube è piena di video che macinano milioni e milioni di visualizzazioni e che rientrano in una specie di zona grigia di contenuti inquietanti ma non violenti o sessualmente espliciti, in senso stretto.

Ci sono molti canali che pubblicano circa un video a settimana, e le cui produzioni consistono in canzoncine per bambini sui temi più diversi, cantate e interpretate da attori veri. Uno di questi canali, Bounce Patrol Kids, ha 1,8 milioni di iscritti, e milioni di riproduzioni per ogni video. Anche in questo caso, non presentano contenuti inappropriati, ma come scrive Bridle «c’è qualcosa di strano in un gruppo di persone che interpreta all’infinito le implicazioni di una combinazione di parole ottenute con un algoritmo». Sono molti i canali che caricano decine di video consistenti in varie declinazioni della stessa scenetta o canzone basata su combinazioni di parole.

In molti casi, i video prevedono la partecipazione di attori adulti e bambini, con risultati quantomeno ambigui. Il canale “Toy Freaks” pubblica video di un papà e delle due figlie: come ha spiegato Bridle, «è specializzato in situazioni rivoltanti, e in attività che molti, molti spettatori ritengono al confine con l’abuso e lo sfruttamento, quando non vanno completamente oltre, compresi video di bambini che vomitano e doloranti». Il canale ha 8,5 milioni di iscritti, e alcuni video hanno centinaia di milioni di visualizzazioni.

Bridle scrive di aver parlato con un amico nel campo della produzione di video, che gli ha spiegato che i filmati per bambini sono uno dei settori più redditizi per chi si occupa di animazione in computer grafica: perché gli standard sono più bassi e i contenuti sono molto replicabili. Per fare video come quelli in questione, dice, ci vogliono soltanto studi da una decina di persone. Quello che si chiede Bridle è chi ci sia dietro questi video che hanno migliaia di visualizzazioni, si presentano come cartoni di Topolino o di altri personaggi dei fumetti e nelle descrizioni dicono di essere storie buffe per bambini: ma che dentro mostrano, come in questo caso, bambini sepolti vivi, donne sequestrate e contenuti sessualmente espliciti.

Bridle ricorda che si sta parlando di bambini potenzialmente molto piccoli, di pochi anni: è un dibattito diverso da quello che riguarda l’esposizione dei teenager ai contenuti violenti e pornografici. Secondo lui si tratta di abusi, e YouTube ne è complice, perché ha messo su un sistema che porta profitto mostrando video a bambini piccoli. Recentemente, però, YouTube ha detto che impedirà ai video giudicati inappropriati, compresi quelli che usano personaggi per bambini ma mostrano contenuti per adulti, di fare soldi con la pubblicità.

YouTube ha detto che le ultime modifiche ai propri sistemi di protezione per i bambini erano in lavorazione da tempo e che non c’entrano con i due articoli, che però hanno attirato molte attenzioni sulla stampa internazionale e hanno probabilmente avuto un ruolo. Nel giro di un paio di settimane, i nuovi criteri perché un video sia segnalato come vietato ai minori di 18 anni saranno cambiati. I video rivolti ai bambini finiranno prima sul sito principale di YouTube, e soltanto qualche giorno dopo saranno ammessi a YouTube Kids, l’app specificamente rivolta ai minori di 13 anni. In quella finestra, YouTube spera che i video inappropriati saranno segnalati dagli utenti: in questi casi, infatti, saranno visti da dipendenti di YouTube, che decideranno se rispetteranno i nuovi criteri.