Usa: L’intelligenza artificiale sbaglia. Un innocente finisce in carcere

Il viso era il suo, l’intelligenza artificiale non aveva dubbi, ma Nijeer Parks in realtà non aveva fatto nulla. Nel febbraio del 2019 questo 31enne di Paterson, in New Jersey, va alla stazione di polizia di Woodbridge a cuor leggero. Ci sarà stato un errore, pensa, quando la donna lo chiama dicendo che i poliziotti lo cercano. In passato ha avuto qualche guaio con la legge, è stato anche in carcere per spaccio ma oggi è «pulito», fa il falegname e si guadagna da vivere come tanti. Lui però non è come tanti. Pochi minuti dopo essere entrato alla stazione di polizia sente quella frase che avrebbe voluto dimenticare: «Mani dietro alla schiena!». Sì, è in arresto, e le accuse sono pesanti: aggressione, possesso illegale di armi, uso di documenti falsi, possesso di marijuana, taccheggio, resistenza all’arresto e, ciliegina sulla torta, avrebbe tentato di investire un poliziotto con un’auto. E così va in carcere.

E’ bastata una foto

Solo dopo undici giorni in cella, quando è stato rilasciato, scopre chi è il suo accusatore: un’intelligenza artificiale. Sulla scena del crimine era stato trovato un documento falso che un testimone ha ricollegato al malvivente. La polizia a quel punto aveva messo in moto il computer che non aveva avuto dubbi: quella foto combacia con il viso di Parks. Negli Usa il «riconoscimento» effettuato da un’intelligenza artificiale può giustificare l’arresto e da qui è nato l’incubo del trentenne.

L’errore

Come è ormai certo, anche gli algoritmi più avanzati possono confondersi man mano che la pelle diventa più scura e Parks, come il vero malvivente, sono afroamericani. Il vero problema però è che negli Usa non esistono regole federali standardizzate sull’uso del riconoscimento facciale da parte delle forze dell’ordine e così sono i singoli stati e perfino le singole autorità locali a decidere in autonomia. Non c’è accordo neanche su un altro punto cruciale: se il riconoscimento facciale può essere usato solo come uno strumento d’indagine o anche come prova. Nel dubbio cinque stati per ora lo hanno fortemente limitato e quattro città lo hanno vietato. Ha iniziato San Francisco, la culla della Silicon Valley, che è stata seguita da Portland, Oakland e Boston. Anche l’Unione Europea si sta muovendo per regolamentarla e limitarla a livello continentale.

Il confronto

L’aspetto forse più difficile da digerire in questa storia è che Parks non somiglia nemmeno vagamente al ricercato. Un occhio umano riconosce subito che si tratta di persone diverse (Nella foto in alto, Parks è a destra), dai lineamenti così dissimili da non ricordare neanche due fratelli. In più il trentenne quel giorno era a 50 chilometri da dove si sono svolti i fatti. Stava spedendo dei soldi con la ragazza in Un Western Union e ha perfino la foto della ricevuta nello smartphone. Nonostante tutto però c’è voluto più di un anno per scagionarlo definitivamente e oggi che è davvero libero Parks ha solo un rimorso: nessuno gli ha ancora chiesto scusa per l’errore. «Non sono più a mio agio. Ora quando vedo la polizia sono scosso», ha detto alla Cnn, «Mi hanno dimostrato che possono rinchiudermi per qualsiasi cosa e che io non posso farci niente».

Alessio Lana

da Corriere.it