Non è facile rendere Internet un posto più sicuro per i bambini

Il 16 febbraio è stato presentato al Senato statunitense il Kids Online Safety Act, un disegno di legge che obbligherebbe qualsiasi piattaforma o servizio online utilizzato dai minori di 16 anni ad apportare modifiche per limitare i potenziali danni ai più giovani su Internet. È soltanto una delle diverse proposte di legge sul tema che si stanno discutendo a livello federale negli Stati Uniti: la richiesta di maggiore protezione dei minori online è uno dei rari temi su cui sia i Democratici che i Repubblicani si trovano d’accordo.

Il tema della protezione dei minori online è vecchio quasi quanto Internet stessa, ma ha attirato nuove attenzioni politiche dopo le rivelazioni dell’ex dipendente di Facebook Frances Haugen, nell’ottobre 2021. A detta di Haugen, i documenti riservati da lei resi pubblici mostravano, tra le altre cose, come l’azienda di Mark Zuckerberg fosse a conoscenza degli effetti negativi delle proprie piattaforme — specialmente Instagram — sulla salute mentale e l’immagine di sé dei più giovani.

L’accusa è stata respinta da Meta, la società che possiede Facebook, secondo la quale le ricerche interne pubblicate da Haugen sono state decontestualizzate, e la piattaforma ha anche effetti molto positivi sulle teenager. D’altronde, diversi esperti sottolineano che non siamo in possesso di dati sufficienti per comprendere davvero l’effetto delle tecnologie contemporanee sui più giovani, nel bene e nel male.

«Il problema è che la ricerca sui danni causati dal web è difficile; è difficile individuare la causalità e ottenere buone metriche» ha recentemente spiegato la professoressa Nejra Van Zalk dell’Imperial College London. «Le piattaforme online cambiano rapidamente, rendendo la ricerca rapidamente obsoleta. È anche difficile definire quali siano i danni specifici: Internet è un posto molto grande, e parlare di danni causati dal web come un unico fenomeno significa raggruppare insieme cose disparate come i disturbi alimentari, la radicalizzazione e le bolle di filtraggio».

Ciononostante, i documenti pubblicati da Haugen e il clamore mediatico che ne è seguito hanno spinto il Congresso statunitense ad affrontare la questione, prima interrogando l’uomo a capo di Instagram, Adam Mosseri, poi con tre diversi disegni di legge presentati da parlamentari appartenenti sia al partito repubblicano che a quello democratico — che al momento controlla entrambe le camere.

– Leggi anche: Gli effetti di Instagram sui più giovani

Il fatto che la specifica necessità di proteggere i minori online sia una priorità per entrambi i grandi partiti americani non è affatto scontato: come ha scritto Cecilia Kang sul New York Times, normalmente «compaiono delle linee di divisione molto luminose quando si tratta di scrivere regole che definiscano la quantità di dati che possono essere raccolti dalle piattaforme, se i consumatori possano citare in giudizio per diffamazione i siti o se le autorità di regolamentazione possano rallentare la marcia del dominio di Amazon, Apple, Google e Facebook».

Nella preoccupazione per la sicurezza dei minori online confluiscono invece una serie di fattori più viscerali. C’è il panico morale seminato dalla teoria del complotto QAnon, piuttosto diffusa negli Stati Uniti, che ha reso la lotta alla pedopornografia e al traffico di esseri umani una priorità assoluta per molti elettori (perché l’accusa – totalmente inventata – di pedopornografia rivolta a presunte élite progressiste è tra le basi della teoria). C’è poi il sospetto degli adulti verso spazi digitali che loro non frequentano e non comprendono, ma su cui i loro figli passano moltissimo tempo. Secondo il professor Laurence Steinberg, «incolpare Facebook per il malessere di un adolescente può diventare un modo conveniente per evitare altre spiegazioni più scomode ma ugualmente plausibili, come le disfunzioni familiari, l’abuso di sostanze e lo stress scolastico».

E poi c’è la una fiducia nelle aziende tech quasi completamente erosa da anni di scandali ed errori, anche specificamente legati all’oggetto della legge. Nel 2017, ad esempio, era emerso come YouTube Kids non riuscisse a identificare in tempo video particolarmente inquietanti per i bambini, che mostravano ad esempio Topolino morto in una pozza di sangue o cagnolini che prendevano fuoco dopo un incidente d’auto. Nel 2019, invece, nella versione per bambini di Facebook Messenger comparve un bug che permetteva ai bambini di partecipare a chat di gruppo con estranei.

Da allora – incalzati dal crescente scrutinio pubblico e da leggi come l’Age Appropriate Design Code britannico, che richiede ai servizi digitali che hanno utenti minorenni di rispettare degli standard minimi di privacy – le aziende si sono mosse. Sia TikTok (l’applicazione più utilizzata nella fascia 10-19 anni) che Instagram, YouTube e Google hanno introdotto nuove funzioni e linee guida per rendere più sicura la presenza dei più giovani sulle proprie piattaforme, minimizzare la circolazione di materiale pedopornografico e limitare contenuti problematici. I nuovi progetti di legge, però, chiedono di fare di più.

Il Kids Online Safety Act è stato presentato dalla senatrice Repubblicana del Tennessee Marsha Blackburn e dal Democratico Richard Blumenthal, rappresentante del Connecticut. Il disegno di legge introdurrebbe nuovi obblighi per le compagnie che offrono servizi online e che hanno tra gli utenti persone sotto i 16 anni. Si chiede alle piattaforme di prevenire la promozione di comportamenti dannosi – come suicidio, autolesionismo, abuso di sostanze e disturbi alimentari – ma anche di permettere ai minori e ai loro genitori di “controllare la loro esperienza e i dati personali”, offrendo la possibilità di rinunciare alle raccomandazioni di contenuti gestite da algoritmi, riducendo i dati che possono essere raccolti su di loro o addirittura il tempo che trascorrono sulla piattaforma.

Le compagnie interessate dovrebbero anche pubblicare una relazione annuale sui potenziali rischi per i minori dei propri prodotti e rendere più accessibili i dati in materia a ricercatori esterni. La proposta di legge chiede anche alla National Telecommunications and Information Administration, organizzazione che offre consulenza al presidente degli Stati Uniti in materia di telecomunicazioni, di capire come le piattaforme possano verificare al meglio l’età dei propri utenti.

Il disegno di legge è in attesa di essere discusso al Senato, e non è il solo. Lo scorso agosto, la rappresentante democratica della Florida Kathy Castor aveva presentato il Protecting the Information of our Vulnerable Children and Youth Act, che andrebbe ad aggiornare una legge del 1998 — il Children’s Online Privacy Protection Act (COPPA), che protegge la privacy dei minori di 13 anni online ma che è stato raramente applicato negli ultimi vent’anni — per estenderla a tutti gli adolescenti fino ai 18 anni.

– Leggi anche: Dovremmo studiare meglio gli effetti dei social network sul comportamento collettivo

Se passasse, le aziende dovrebbero ottenere un consenso molto più informato da parte dei giovani prima di raccogliere i loro dati e non potrebbero più usarli per la pubblicità mirata. Nonostante i vari sotterfugi legali usati dalle compagnie tech per evitare le conseguenze del COPPA, negli anni la legge è stata applicata anche in alcuni casi eclatanti, come quando nel 2019 la Federal Trade Commission multò YouTube per 170 milioni di dollari, portando il sito a modificare le proprie pratiche relative ai video per bambini.

A settembre, sempre Castor – insieme ad altri due Democratici, Ed Markey e Richard Blumenthal – aveva proposto alla Camera il Kids Internet Design and Safety (KIDS) Act, tentando di vietare le riproduzioni automatiche di video su siti ed app destinati a bambini e adolescenti, le notifiche push sui profili dei più giovani e l’amplificazione di contenuti relativi a sesso, violenza, gioco d’azzardo e altri materiali destinati agli adulti.
Nelle scorse settimane è stato poi ripreso anche l’EARN IT Act, un altro progetto bipartisan inizialmente presentato nel 2020 che vuole emendare la sezione 230 del Communications Act del 1934, che protegge tra l’altro gli operatori di siti web dalle ripercussioni legali di ciò che pubblicano gli utenti sul loro sito, per obbligare le piattaforme tecnologiche ad agire in modo più proattivo contro i materiali che raffigurano abusi sui minori.

L’EARN IT Act eliminerebbe queste protezioni federali per le aziende tech che “consentono consapevolmente” ai propri utenti di condividere pedopornografia sui propri servizi. Secondo la maggior parte degli esperti di sicurezza informatica, però, l’attuale formulazione della legge scoraggerebbe le aziende dall’utilizzare la crittografia end-to-end, che protegge come nessun altro sistema di cifratura i dati e le comunicazioni personali.

Le comunicazioni protette dalla crittografia end-to-end, infatti, non possono essere visionate nemmeno dalle compagnie che le ospitano o dai governi che richiedano di consultarle, e permettono a tutti (inclusi i criminali) di comunicare in sicurezza: per questo, da anni, diversi governi vi si sono opposti. A gennaio, per esempio, il Regno Unito ha speso oltre 600mila euro in una campagna per spingere Facebook a non usare la crittografia end-to-end nel proprio servizio di messaggistica, affermando che in caso contrario «14 milioni di segnalazioni di presunti abusi sessuali su minori online potrebbero andare perse ogni anno».

Interrogato in merito, il senatore Blumenthal ha a lungo affermato che l’EARN IT Act «non ha nulla a che fare con la crittografia» e che «big tech la sta usando come sotterfugio per opporsi al progetto di legge». Di recente però ha rifiutato di escludere attivamente l’utilizzo di crittografia end-to-end dai motivi per cui uno Stato potrebbe fare causa a un’azienda sulla base di questa legge.

– Leggi anche: Il Congresso statunitense contro l’“amplificazione” dei social

Quando si parla di protezione dei giovani online, la questione della crittografia end-to-end è soltanto una di quelle su cui confliggono le raccomandazioni degli esperti di diritti e sicurezza digitale e le priorità dei governi, sempre meno inclini a credere nella capacità delle piattaforme di autoregolarsi e interessati a mostrare di star facendo qualcosa per rispondere alle preoccupazioni dell’opinione pubblica. Alcuni fanno notare, ad esempio, che la spinta a favore di una verifica più capillare e accurata dell’età degli utenti richiesta da alcuni di questi progetti di legge — tra cui il Kids Online Safety Act — rappresenta una massiccia intrusione della privacy che apre la strada a una sorveglianza ancora superiore a quella attuale.

In alcuni casi, si teme che dietro agli apparenti buoni propositi si nascondano secondi fini più preoccupanti. È il caso del presidente russo Vladimir Putin, che da anni minaccia di introdurre nuove leggi per obbligare le piattaforme a rimuovere post sgraditi, e che a gennaio ha ordinato alla propria amministrazione di cominciare a lavorare a un nuovo “registro dei contenuti tossici online per proteggere i minori”. Ma anche dell’India, che da tempo esercita pressioni sulle aziende tech occidentali affinché rimuovano i contenuti critici del governo e che ora vuole promuovere “dei nuovi standard internazionali per i social network” che mettano al centro la sicurezza dei minori e la moderazione dei contenuti.

In altri casi, gli esperti esprimono dubbi rispetto alla formulazione stessa delle leggi che, attribuendo alle piattaforme la responsabilità di riconoscere e rimuovere contenuti pericolosi definendoli soltanto in modo sommario, potrebbero portare a un’eccessiva censura dei contenuti legali online. Questa critica è stata recentemente sollevata da una delle commissioni della Camera dei comuni britannica rispetto all’Online Safety Bill, un disegno di legge presentato nel maggio 2021 e che è ancora in discussione, che vorrebbe obbligare le piattaforme a limitare i contenuti “legali ma dannosi”.

«Ci sono ovviamente minacce alla sicurezza dei bambini, sia online che offline. Tuttavia, la concezione di queste minacce è profondamente situata in un panico storico, razzializzato e di genere sulla percezione dell’innocenza e della sicurezza dell’infanzia» sostiene la professoressa Jacqueline Ryan Vickery, autrice di Worried About the Wrong Things: Youth, Risk, & Opportunity in the Digital World.

«Le conversazioni sulla sicurezza online spesso vengono separate dalle conversazioni sulla sicurezza offline, quando in realtà le due sono strettamente collegate. I bambini più vulnerabili offline tendono ad affrontare la maggior parte delle minacce anche online» continua Vickery.

«È più facile, politicamente, parlare dell’esposizione dei bambini alla violenza, ai predatori, ai materiali sessuali, all’autolesionismo e via dicendo online, relegando queste minacce ad Internet nel discorso pubblico, piuttosto che avere discussioni olistiche più ampie sugli spazi e sui luoghi in cui è più probabile che i bambini subiscano più danni. Ma i dati mostrano che è più probabile che a fare del male ai bambini siano adulti di cui si fidano in luoghi di cui si fidano, piuttosto che gli sconosciuti o i coetanei, sia online che offline».