Prove digitali, bias cognitivi e algoritmi

In questi giorni mi è accaduto un fatto strano analizzando il file audio di un’intercettazione ambientale .

Le prove nei processi sono ormai principalmente file digitali, dati costituiti da byte da cui inquirenti, giudicanti e difensori estraggono informazioni. Con un atteggiamento quasi fideistico siamo tutti portati ad attribuire agli artefatti che i nostri software creano da quei byte una sorta di incontestabile e oggettiva verità.
Ciò che mi è accaduto e che ora vi racconto ha generato in me confuse riflessioni sulla prova digitale e sull’utilizzo degli algoritmi in campo giudiziario, e ho dovuto abbandonate i territori a me noti del diritto e dalla tecnologia per quelli meno noti della psicologia.

Nel verificare il frammento di un file audio relativo a una conversazione ambientale intercettata dalla Procura ho sentito chiaramente la frase oggetto d’accusa, esattamente come trascritta e verbalizzata dalla Polizia giudiziaria nei brogliacci dell’intercettazione:
“vi ho portati giù eh!….(incomp.) adesso t’ammazzo…t’ammazzo!…”.

Come quasi tutte le intercettazioni ambientali l’audio era di pessima qualità; il cliente negava di aver mai pronunciato tale frase e dopo alcuni ascolti, poiché il secondo “t’ammazzo” era in effetti poco chiaro, ho rallentato l’audio e utilizzato un banale software di equalizzazione.
Con mia sorpresa la parola pronunciata non era “t’ammazzo” ma “calmatevi”.

Potrà sembrarvi incredibile, ma appena la parola “calmatevi” si è insinuata nella testa, anche la prima parte della registrazione è cambiata. La frase pronunciata è diventata senza dubbio alcuno:
“vi ho portati fuori….adesso calmatevi… calmatevi”.

La cosa singolare è che a questo punto mi era impossibile sentire nell’audio la frase “t’ammazzo”, che pure per ben due volte avevo chiaramente udito. La parola pronunciata era calmatevi ma io, come il poliziotto addetto al brogliaccio, avevo sentito t’ammazzo, e questo nonostante i due termini siano foneticamente assai distanti.

Decisi di testare l’audio su più persone. La cosa mi ricordava la storia del vestito che cambia colore o quelle illusioni ottiche che circolano sul web.

Sottoposi la registrazione ai miei colleghi di studio e ad alcuni amici.

Chi era a conoscenza del caso o aveva letto l’annotazione di Polizia o il capo di imputazione che conteneva tra diverse condotte la minaccia “t’ammazzo”, sentiva chiaramente tale frase; non appena rivelavo l’errore, convenivano tutti, stupiti, che era “calmatevi”.

Coloro che invece non avevano idea del contesto faticavano a capire la registrazione e dopo alcuni ascolti, qualcuno capiva t’ammazzo, qualcun altro calmatevi.

Era del tutto evidente che il discrimine era il contesto. A fronte di una fonetica disturbata e oggettivamente ambigua, istintivamente il nostro cervello dava il significato di senso più aderente al contesto o alle aspettative.

Mi venne in mente Daniel Kahneman e il suo Pensieri lenti e veloci e il test di Roger N. Shepard che è più o meno questo (l’ho un po’ modificato):

Immagino anche voi abbiate letto nella casella di sinistra A B C e a destra 121314.
Se qualcuno ha letto A 13 C e 12 B 14, complimenti (o si faccia analizzare, dipende).
Nelle caselle a destra e a sinistra i due elementi centrali sono identici ed ambigui, ma la disambiguazione avviene nella nostra testa in modo del tutto inconscio, a cagione del contesto (lettere-numeri).

Del pari, nella parte centrale, io che faccio il penalista (voglio credere sia solo quello il mio bias) mi son figurato Ann che passava uno spinello al compagno e non certo una scena in riva al lago con Ann e il suo fidanzato intenti a pescare. Non so voi.

L’euristica e i bias cognitivi descritti da Daniel Kahneman mi hanno aiutato a capire ciò che è accaduto con il file audio.

L’ufficiale addetto all’ascolto stava cercando le prove di uno specifico reato e il compito assegnatogli – sentire e trascrivere solo i passaggi significativi per l’accusa tra centinaia di ore di registrazione – ha creato il primo bias di credenza e conferma, il primo pre-giudizio del tutto istintivo, che a cascata ha generato, anche grazie a quello che gli psicologi chiamano l’effetto priming, i successivi inganni della mente, nel Pubblico Ministero e in tutti coloro che hanno approcciato l’audio nella convinzione di esser di fronte alla prova oggettiva e tecnologicamente inconfutabile del reato.

Non era un semplice errore dell’Ufficiale di Polizia Giudiziaria: quella verbalizzazione e quel file avevano ingannato e continuavano a ingannare gli algoritmi su cui facciamo maggior affidamento, ovvero quelli della nostra mente.

Paradossalmente a svelare l’errore è stato un altro bias, il mio, perché necessariamente, come difensore, avevo un pregiudizio, un bias opposto a quello dell’Ufficiale di Polizia verbalizzante, favorevole all’indagato (con la differenza che del mio, di bias, ero ben consapevole). Il principio del contraddittorio, regola basilare del diritto fondamentale al giusto processo, ha funzionato da debug -o da antivirus- evitando (spero) l’ingiusta condanna.

Questa piccola vicenda e soprattutto la lettura di Pensieri Lenti e Veloci di Daniel Kahneman, che è una sorta di prontuario hacker per la ricerca dei molti bug presenti negli algoritmi della mente, hanno suscitato in me molte domande e dubbi, anche sul tema fondamentale dell’applicazione delle tecnologie digitali in campo giudiziario.
Algoritmi più o meno evoluti sono già parte dei procedimenti giudiziari e la mole di dati a disposizione degli inquirenti rende inevitabile l’utilizzo di efficienti sistemi esperti artificiali, i cui out-put influenzeranno, temo, sempre di più le decisioni dei giudici.

Può una macchina, un algoritmo evoluto, aiutare, correggere e fin anche sostituire il giudizio umano? Ma soprattutto, i nostri inevitabili bias cognitivi saranno amplificati o troveranno invece mitigazione, se non soluzione, nell’uso di sistemi esperti artificiali?

Non ho ovviamente risposte e temo che per rispondere non bastino informatici e giuristi, ma occorrano anche psicologi ed esperti di scienze cognitive, perché forse, più che l’analisi dell’algoritmo, è necessario valutare come euristica e bias cognitivi interagiscano e siano influenzati dalle nuove tecnologie. A vedere ciò che accade sui social non promette bene (e leggere Kahneman spiega molto di questo tempo), ma vale la pena approfondire il tema (non qui, tranquilli!). Magari ne avremo un vantaggio, almeno in Tribunale.