Essere uccisi da un robot

Le prime cronache del venerdì mattina dicevano che Micah Xavier Johnson, l’assassino dei poliziotti a Dallas si era suicidato. Braccato dagli agenti, chiuso nel suo ultimo nascondiglio, dopo ore di infruttuose trattative si era ucciso.

Non era vero, lo si è saputo alcune ore dopo dalle parole del comandante della Polizia di Dallas David Brown. Johnson è stato ucciso da un robot della Polizia che si è avvicinato a lui e ha fatto esplodere una bomba.

In queste ore le discussioni in USA su questo, che secondo molti è il primo caso di utilizzo offensivo di un robot sul suolo americano, sono molto accese. Riguardano un po’ tutto, dal costo del robot (80000 dollari) alla militarizzazione della polizia cittadina; riguardano soprattutto le questioni etiche, prima ancora che di opportunità strategica, della guerra immaginata come operazione chirurgica mediata dalla tecnologia, le inedite regole di ingaggio della battaglia fra esseri umani rivoluzionata da nuove forme di distanza.

Discussione ovviamente non inedita (la tecnologia ha storicamente giocato un ruolo fondamentale nell’ideazione degli strumenti offensivi, dai tempi dell’olio bollente fino ad Hiroshima) ma particolarmente affine a quella ben più recente sui droni ed il loro utilizzo.
Ma che si discuta dei bombardamenti da parte di aerei senza pilota comandati dal joystick di un militare dall’altra parte del mondo o della polizia di Dallas che manda un robot ad uccidere un sospettato, il punto maggiormente rilevante di tutta la discussione riguarda la tecnologia e la nostra saggezza.

Se tecnologia e saggezza viaggiano a velocità differenti –dice Max Tegmark del MIT in questo formidabile documentario di Motherboard – è a quel punto che nasceranno i problemi. E si tratterà di questioni per nulla inedite che riguardano oggi da un lato la ricerca pura sull’intelligenza artificiale e i robot e dall’altro la nostra capacità o incapacità di gestirne umanamente le ricadute pratiche.

Molte giustificazioni possibili e ragionevoli sono state utilizzate in queste ore a riguardo dell’utilizzo del robot killer a Dallas: la pericolosità dell’assassino, la necessità di non mettere a repentaglio ulteriori vite umane, la decisione finale, comunque e sempre nelle mani di chi quel robot comandava a distanza. E tuttavia il tema della militarizzazione delle tecnologie nel momento in cui nuovi frontiere si aprono resta un tema centrale. Se nel giro di cinque o dieci anni gli sviluppi dei sistemi di intelligenza artificiale consentiranno non solo alle auto di guidare per noi ma anche ai robot di difendere la nostra incolumità di cittadini, chi potrà essere tanto ingenuo da pensare che simili opzioni non saranno utilizzate in ambito militare anche fuori dal controllo diretto di un essere umano?

Se tecnologia e saggezza non marceranno di pari passo – dice Tegmank – sarà un po’ come abbandonare fiduciosi i nostri figli all’asilo a giocare allegramente con un paio di granate in mano. Che è un po’ quello che già adesso stiamo iniziando a fare. Le tecnologie offensive attuali disumanizzano il confronto fra assalito ed assalitore, trasformano atti di guerra in scelte da videogame: le tecnologie prossime venture consentiranno al videogame che abbiamo creato di giocare la partita da solo.