«Le macchine senza autista non stanno andando da nessuna parte»

Nel febbraio 2012 la rivista statunitense Wired uscì in edicola con una copertina in cui si vedeva una mano robotica impugnare la leva del cambio di un’automobile. Accanto alla foto, il titolo diceva: «La vostra prossima auto si guiderà da sola». A distanza di dieci anni dall’uscita di quell’articolo, però, la promessa di avere presto sul mercato vetture in grado di guidarsi da sole rimane piuttosto lontana, mentre nel settore è in corso un forte ripensamento delle strategie portate avanti finora.

A fine ottobre, Argo AI, una startup fondata nel 2016 da ex dipendenti di Uber e Google, ha chiuso. Nel corso degli anni, l’azienda aveva ricevuto investimenti anche da grandi case del settore automobilistico come Volkswagen e Ford, che ci avevano puntato per sviluppare il cosiddetto «livello 4» delle automobili autonome, quello in cui il guidatore può distrarsi o addirittura dormire al volante, affidandosi alle capacità della vettura di procedere da sola. Lo scorso maggio Argo aveva iniziato una sperimentazione su strada in due città degli Stati Uniti, Miami e Austin, dopo aver ottenuto l’autorizzazione dalle autorità locali. Secondo quanto riportato dalla società, alcune delle tecnologie sviluppate saranno utilizzate da Ford e Volkswagen per i rispettivi progetti nel settore.

La notizia ha attirato una certa attenzione ed è sembrata chiudere un capitolo decennale di investimenti, grandi speranze e promesse non mantenute. Il sito di news tecnologiche TechCrunch ha scritto che «è giunto il momento di ammettere che le macchine che si guidano da sole non saranno realtà». È necessario però chiarire cosa si intende quando si parla di self-driving cars, ovvero le macchine auto-guidanti: esiste una scala con cui vengono classificate questo tipo di tecnologie, dalle più semplici a quelle che, in futuro, dovrebbero permettere l’esistenza di taxi senza autista in grado di trasportare passeggeri in modo del tutto indipendente. La scala va da zero a cinque, con il livello zero che rappresenta un veicolo in grado di fornire avvisi pur non avendo controllo diretto sulla corsa, e il livello cinque, per ora teorico, in cui «non è richiesto alcun intervento umano». In quest’ultimo, il volante è un optional.

Le grandi speculazioni che avevano ispirato la copertina di Wired di dieci anni fa orbitavano attorno al quarto livello, che sembrava all’epoca molto vicino e su cui hanno investito molte aziende, tra cui, oltre alla citata Argo AI, anche Daimler, General Motors e Waymo (di proprietà di Alphabet, il gruppo di cui fa parte Google). Tra queste, Waymo è considerata tra le realtà più promettenti del campo, operando con grande cautela in zone selezionate di San Francisco: nonostante gli ottimi risultati raggiunti, è indubbio che la tecnologia dell’azienda sia ancora acerba e del tutto impreparata a un ipotetico – e futuribile, a questo punto – sbarco nel mercato di massa.

L’amministratore delegato di Ford, Jim Farley, ha detto a ottobre che «veicoli totalmente autonomi in grado di generare profitto sono ancora molto lontani e potremmo non essere noi a sviluppare quella tecnologia». Negli stessi giorni, anche RJ Scaringe, l’amministratore delegato di Rivian, azienda produttrice di automobili elettriche, ha annunciato di volersi concentrare sui livelli due e tre d’autonomia, puntando sul cosiddetto ADAS (Advanced driver-assistance system), ovvero tutti quei sistemi di antenne, sensori e allarmi che aiutano sia la guida sia il parcheggio (ma non sostituiscono il guidatore).

In mezzo a tanti ripensamenti e dichiarazioni di cautela, il caso di Tesla si distingue. Da tempo l’azienda offre il servizio “Autopilot” ai propri clienti come optional per 199 dollari al mese e continua a promettere un futuro – descritto sempre come vicino – in cui le auto dell’azienda saranno in grado di guidarsi da sole. Il capo di Tesla, Elon Musk, è noto per le sue promesse e scadenze impossibili, e sul fronte della guida autonoma è sempre stato particolarmente ottimista. Nel giugno del 2016 definì la guida autonoma «un problema ormai risolto», annunciando che mancavano solo due anni alla «autonomia completa»; nel gennaio dell’anno successivo, disse che entro sei mesi «di sicuro» l’azienda avrebbe finalmente messo in vendita il cosiddetto Full Self-Driving, ovvero la piena capacità di guida autonoma.

Non è andata così, ma non è una novità per Musk, che nel 2011 aveva assicurato che «entro dieci anni» avrebbe mandato una spedizione con passeggeri umani su Marte con la sua SpaceX. Bizzarre promesse a parte, le attuali capacità di guida assistita delle Tesla sono considerate molto buone, ma cozzano con anni di annunci sproporzionati che hanno convinto molti acquirenti di essere alla guida di automobili quasi magiche, in grado, seppure non ufficialmente, di guidarsi da sole (circolano online video che mostrano delle Tesla sfrecciare mentre guidatore e passeggeri dormono).

 

In realtà, l’Autopilot di Tesla risulta appartenere al secondo livello della scala della guida autonoma, in cui il veicolo può controllare freni, acceleratore e volante ma «il guidatore deve monitorare la guida ed essere pronto a intervenire immediatamente qualora il sistema non funzionasse correttamente». Nonostante le ottime performance del sistema Autopilot, il governo statunitense sta indagando sui rischi che il servizio rappresenta per la sicurezza stradale, e Tesla è coinvolta in diverse cause legali su questo fronte.

Secondo dati pubblicati dalla National Highway Traffic Safety Administration (NHTSA), l’agenzia governativa statunitense che fa parte del Dipartimento dei Trasporti e che si occupa della sicurezza nelle autostrade americane, i veicoli Tesla in modalità Autopilot sono stati coinvolti in 273 incidenti nell’ultimo anno. Come riportato dal Washington Post, dei 392 incidenti che hanno coinvolto automobili con sistemi di guida assistita avanzati, il 70% ha interessato veicoli Tesla. La statistica è condizionata dal fatto che le macchine Tesla sono le più diffuse tra i modelli in circolazione con questi sistemi. Oltre ad Autopilot, altri sistemi di questo tipo presenti negli USA sono il «Super-Cruise» di General Motors e il «BlueCruise» di Ford.

La NHTSA aveva già aperto un’indagine sull’azienda riguardo al fenomeno del cosiddetto “phantom braking” (frenata fantasma) con cui si indicano le ingiustificate e improvvise frenate che le Tesla Model 3 e Model Y sembrano fare, probabilmente a causa della mancanza del radar anteriore.

I principali problemi riscontrati dagli sviluppatori dei sistemi di guida autonoma riguardano il grande numero di variabili – anche umane – su cui si basa la guida di una vettura, e quanto sia difficile programmare un software in grado di tenerle tutte in considerazione, prevedendo ogni possibile errore. In un celebre video registrato a bordo di una Tesla, ad esempio, si vede il sistema di navigazione andare in confusione e visualizzare una serie di semafori inesistenti sullo schermo a bordo del veicolo. Il motivo dell’errore è bizzarro quanto difficilmente prevedibile da un programmatore: davanti al veicolo c’era un furgone che stava trasportando semafori, di cui la Tesla riconosceva correttamente la forma pur non sapendo come comportarsi.

The author posted this video in the comments. It's a truck full of traffic lights. pic.twitter.com/h2LwyL65ck

— FSD in 6 months (@FSD_in_6m) June 2, 2021

Un fenomeno piuttosto raro che però fa parte di una categoria di infiniti scenari simili, in cui le intelligenze artificiali vengono facilmente ingannate da situazioni che possono invece essere affrontate con serenità da una persona alla guida.

A fine ottobre l’agenzia di stampa Reuters ha rivelato che Tesla sarebbe sotto indagine del Dipartimento di Giustizia degli Stati Uniti proprio per come l’azienda – e il suo capo – ha pubblicizzato i servizi di guida assistita come Autopilot e FSD, una versione ancora più autonoma il cui nome stesso sta per «Full Self-Driving». Negli stessi giorni, l’azienda ha peraltro messo in vendita una nuova versione di FSD per 15mila dollari. Lo scorso settembre, poi, una class action organizzata da un gruppo di acquirenti di veicoli Tesla aveva denunciato il produttore perché il costoso sistema ADAS dell’azienda non riconosce i semafori rossi, sbaglia le curve e non riesce a muoversi nel traffico, pur costando migliaia di dollari.

La scorsa estate, la NHTSA ha inoltre pubblicato un report in cui sembra indicare che le auto Tesla siano in grado di disattivare il sistema Autopilot appena prima di uno scontro. Secondo quest’accusa – su cui è conveniente avere molta cautela poiché l’indagine è ancora in corso – il sistema sarebbe in grado di prevedere uno scontro decidendo subito prima di disattivare Autopilot, facendo così risultare l’incidente come dovuto a cause umane.

Il caso di Tesla racconta le molte difficoltà tecniche e legali che i produttori d’automobili devono affrontare per sviluppare un sistema autonomo di guida assistita, una tecnologia che può comportare enormi e inedite responsabilità legali per le aziende stesse nel caso di incidenti mortali. Negli anni scorsi, quando le aspettative legate a questa tecnologia erano ancora molto alte, si era molto discusso del “problema del carrello ferroviario” (noto anche come trolley problem o anche “problema del tram”), un noto esperimento mentale di filosofia etica in cui una persona è chiamata a decidere su quale binario dirottare un carrello ferroviario: nel primo, quello che imboccherebbe senza intervento umano, ci sono diverse persone legate ai binari che verrebbero investite; nel secondo, quello che il carrello percorrerebbe se la persona tirasse una leva, solo una. In sostanza: è più etico intervenire provocando la morte di una persona, o non intervenire provocando la morte di diverse persone? Gli algoritmi di intelligenza artificiale che sono necessari alla guida autonoma dovranno essere programmati anche per effettuare scelte simili, molto velocemente.

La tecnologia oggi a nostra disposizione però non sembra nemmeno lontanamente in grado di affrontare simili dilemmi. Lo scorso agosto un’associazione chiamata The Dawn Project aveva pubblicato dei video in cui dimostra che una Tesla con FSD attivato non sembrava in grado di distinguere la presenza di un bambino in mezzo alla strada. Il fondatore dell’associazione, Dan O’Dowd, è un programmatore che spinge per l’abolizione del Full Self-Driving di Tesla dalle strade statunitensi.

Our new safety test of @ElonMusk’s Full Self-Driving Teslas discovered that they will indiscriminately mow down children.

Today @RealDawnProject launches a nationwide TV ad campaign demanding @NHTSAgov ban Full Self-Driving until @ElonMusk proves it won’t mow down children. pic.twitter.com/i5Jtb38GjH

— Dan O'Dowd (@RealDanODowd) August 9, 2022

A dieci anni dal numero di Wired un’altra nota rivista statunitense, Bloomberg Businessweek, ha dedicato una storia di copertina alle macchine auto-guidanti. Anche in questo caso il titolo scelto è molto schietto, ma di senso opposto: «Le macchine senza guidatore non stanno andando da nessuna parte».

Dopo circa cento miliardi di dollari investiti nel settore, anche le voci più autorevoli del settore sembrano scettiche sul suo futuro. Tra queste, Anthony Levandowski si dice poco speranzoso sulle possibilità della guida autonoma. Levandowski è considerato il padre del sogno delle self-driving cars: nel 2009 co-fondò il programma segreto interno a Google (noto ora come Waymo) per la guida senza autista. Tutto, in sostanza, è nato da lui.

Nonostante il suo curriculum, persino Levandowski sembra essersi arreso all’evidenza e aver rivisto le proprie ambizioni: «Sarebbe davvero difficile trovare un’altra industria che ha investito tanti dollari in ricerca e sviluppo e ha ottenuto così poco», ha spiegato a Bloomberg Businessweek. Oggi è a capo di una startup che sviluppa camion autonomi pensati per circolare all’interno di siti industriali, in aree delimitate e caratterizzate da un traffico ridotto e molto controllato. Secondo Levandowski, sarebbe questo il massimo di guida autonoma a cui possiamo realisticamente ambire nel futuro a breve termine.