I video “deepfake” di Elon Musk truffano un sacco di persone

Per anni Elon Musk, fondatore di Tesla e SpaceX, è stato descritto come una sorta di visionario diventato miliardario grazie al suo genio e alle sue intuizioni su tecnologie avanguardistiche. Questa immagine ha mostrato molti limiti negli ultimi anni, soprattutto in seguito alle tante decisioni e posizioni controverse prese da Musk dopo l’acquisto del social network Twitter (che, per sua volontà, ha cambiato nome in X). Musk esercita però ancora un enorme ascendente su molte persone, soprattutto quelle che condividono le sue posizioni politiche conservatrici, apprezzano le figure “anticonformiste” o sono affascinate da tecnologie come blockchain, criptovalute e intelligenza artificiale.

Da mesi, gruppi di criminali informatici che operano soprattutto dall’India, dalla Russia, dalla Cina e dall’Europa orientale stanno approfittando di questo fascino per truffare le persone online. Tra Facebook e YouTube, nell’ultimo anno sono apparsi tantissimi video in cui sembra che Musk sostenga e pubblicizzi aziende che permettono di arricchirsi velocemente investendo online. In realtà si tratta di video “deepfake”, cioè prodotti grazie a software basati sull’intelligenza artificiale che modificano video pre-esistenti, facendo sostanzialmente dire e fare a una persona delle cose che non ha mai detto o fatto.

Sensity, una società che monitora la diffusione dei deepfake online, dice che Musk è senza dubbio la persona che appare più spesso in questo genere di truffe: in base alle loro analisi svolte su migliaia di video deepfake, l’imprenditore era presente in quasi il 90 per cento di tutti i video di truffe relative alle criptovalute. A maggio la Securities and Futures Commission di Hong Kong, un’autorità che supervisiona la borsa, ha chiesto al pubblico di stare attento alle truffe con Musk come protagonista, e a inizio anno l’FBI aveva avvertito gli statunitensi che le truffe basate sui deepfake erano in aumento.

Secondo Molly White, ricercatrice che studia da anni le comunità di appassionati di criptovalute e blockchain, una delle ragioni per cui Musk viene scelto come protagonista è che le persone che lo apprezzano come figura anticonformista sono spesso anche attirate dall’idea di diventare ricche in modo rapido e poco convenzionale, e quindi sono più facili da truffare. «Ci sono sicuramente persone che credono che esista un segreto per arricchirsi che viene loro nascosto», e che «l’unica cosa che devono fare sia riuscire a scoprirlo», ha detto White. Tra gli altri personaggi ricorrenti in questi video deepfake ci sono l’investitore miliardario Warren Buffett e il fondatore di Amazon Jeff Bezos.

– Leggi anche: I social network sono pieni di “fuffa guru”

Nel caso di Musk, i truffatori normalmente partono da una delle molte interviste video all’imprenditore che si possono trovare online. Poi ne clonano la voce e la leggera cadenza sudafricana con cui lui è solito parlare grazie ai software basati sull’intelligenza artificiale che lo rendono possibile, e che sono facilmente reperibili su internet anche gratis o quasi. Infine, utilizzano un altro software per modificare i movimenti della bocca di Musk, dando l’idea che stia pronunciando effettivamente le parole desiderate. Spesso aggiungono i loghi di emittenti televisive riconoscibili, per dare l’idea che Musk abbia consigliato una specifica piattaforma di trading o una specifica criptovaluta durante un’intervista seria.

Il risultato è credibile perché Musk in passato ha effettivamente parlato con grande entusiasmo del settore delle criptovalute: è particolarmente famoso il suo apprezzamento per i Dogecoin, che divennero una delle criptovalute di maggior valore al mondo nel 2021 dopo che l’imprenditore aveva pubblicato una serie di tweet più o meno scherzosi al riguardo. In precedenza aveva deciso di permettere ai clienti di Tesla di acquistare le automobili elettriche dell’azienda in bitcoin e aveva investito 1,5 miliardi di dollari in bitcoin, contribuendo a sdoganare in parte l’idea che le criptovalute potessero essere usate come moneta corrente o quanto meno come un asset, cioè come un bene duraturo da comprare quando si dispone di molta liquidità, in modo da mantenere intatto il valore del proprio denaro.

Al contempo, le tecnologie usate per produrre video deepfake sono molto migliorate negli ultimi due anni, ed è più facile quindi che uno spettatore poco attento o inesperto ci caschi. Prestando molta attenzione, però, quasi sempre ci si può accorgere che Musk in questi video ha delle movenze piuttosto robotiche, e che talvolta i movimenti della bocca non coincidono affatto con quello che dice. Molte persone, soprattutto più anziane, non sono però consapevoli del fatto che la tecnologia oggi permetta di produrre con uno sforzo minimo dei video così credibili, e rischiano di cascarci. Secondo le stime di Sensity, per produrre un deepfake di questo tipo basta una decina di euro.

– Leggi anche: Come si riconosce un video fatto con l’intelligenza artificiale

I video si possono trovare su Facebook, soprattutto tra i post sponsorizzati: sulla stessa piattaforma appaiono d’altronde truffe molto simili per il pubblico italiano che utilizzano però l’immagine di personaggi famosi come l’influencer Chiara Ferragni o la conduttrice televisiva Alessia Marcuzzi. In altri casi vengono pubblicati su YouTube, spesso con una finta scritta “LIVE” in sovraimpressione per dare la falsa sensazione che Musk stia facendo un discorso in diretta. «Funziona. E quindi continueranno a investire in queste truffe, amplificandole in quanti più paesi possibili, traducendo i testi in varie lingue e diffondendo i video per raggiungere un numero ancora maggiore di persone», ha detto al New York Times Francesco Cavalli, direttore di Sensity.

Solitamente questi video servono a pubblicizzare finti software basati sull’intelligenza artificiale che promettono di aiutare gli utenti a moltiplicare a dismisura i propri investimenti. Inizialmente si chiede loro di inviare una somma piccola, per esempio 250 dollari: man mano viene però chiesto loro di mandarne sempre di più o di dare l’accesso ai propri conti in banca a finti broker. Il New York Times racconta la storia di un uomo del Texas che ha perso 36mila dollari dopo essersi fidato di un video su YouTube in cui appariva Musk, ma soprattutto quella di un pensionato ottantaduenne, Steve Beauchamp, che ha perso più di 690mila dollari.

«Alla fine dell’anno scorso vide un video in cui Musk pubblicizzava un’opportunità di investimento rivoluzionaria che prometteva rendimenti molto rapidi. Contattò la società in questione e aprì un conto da 248 dollari», racconta l’articolo. «Era proprio la sua faccia. Ora non so se sia stata un’intelligenza artificiale a fargli dire quello che stava dicendo, davvero non lo so. Ma per quanto riguarda la sua faccia, se qualcuno mi avesse chiesto di identificarlo avrei detto sicuramente che era lui», ha detto Beauchamp.

L’uomo ricorda di essersi interfacciato con un’azienda che si faceva chiamare Magna-FX, investendo inizialmente 27mila dollari. Magna-FX gli disse per giorni che i suoi investimenti stavano aumentando velocemente di valore, e Beauchamp decise di dare loro l’accesso da remoto al suo computer in modo che lo aiutassero a spostare i fondi per investirli ulteriormente.

Al momento di prelevare i soldi che aveva, in teoria, guadagnato, gli chiesero di pagare dei finti costi di transazione e delle tasse per un totale oltre 27mila dollari. Una volta esauriti i risparmi e le carte di credito, chiesto un prestito alla sorella e aperto una linea di credito per pagare questi costi di transazione, capì di essere stato truffato e chiamò la polizia. Magna-FX, nel frattempo, aveva cancellato tutte le proprie tracce online.

Secondo la società di consulenza Deloitte, nei prossimi anni i deepfake renderanno possibili truffe per miliardi di euro, ma le piattaforme digitali dove vengono pubblicati questi video faticano ad arginare il fenomeno. A giugno il miliardario australiano Andrew Forrest ha fatto causa a Meta, l’azienda a cui appartiene Facebook, per negligenza nel modo in cui vengono gestite le sue attività pubblicitarie, dopo che a lungo un deepfake con la sua faccia era circolato sul social network «attirando utenti innocenti verso l’investimento sbagliato».

Meta dice che sta addestrando un algoritmo di moderazione dei contenuti in modo da permettergli di individuare facilmente i casi di frode sulla piattaforma, ma che la questione è complessa perché i truffatori cambiano costantemente tattica. YouTube ha detto invece di aver rimosso più di 8,2 milioni di video che violavano le sue linee guida soltanto tra gennaio e marzo di quest’anno, e che la gran parte era in violazione delle sue politiche contro lo spam.

– Leggi anche: Come riconoscere le mail che cercano di fregarvi