Lo Stato di polizia di Microsoft

Sorveglianza di massa, riconoscimento facciale e dati su cloud.

No, quello che segue non è un estratto del capolavoro letterario di Philip K. Dick Minority Report, ma una precisa descrizione ed analisi delle sofisticate tecnologie sviluppate per ed implementate specialmente nei dipartimenti di polizia negli USA.

Mentre prende spazio, tanto nelle discussioni quanto nelle mobilitazioni di piazze, la rivendicazione di “defund the police” – fino anche a “abolish the police” –, questo articolo di Michael Kwet, pubblicato sulla rivista The Intercept con il titolo “The Microsoft Police State: Mass Surveillance, Facial Recognition, and the Azure Cloud”, dettaglia i diversi strumenti elaborati da Microsoft per le forze dell’ordine.

Un legame, quello tra settore tecnologico e apparato repressivo, che si fa sempre più stretto grazie agli avanzati dispositivi e meccanismi per la video-sorveglianza, il riconoscimento facciale, l’analisi dati in tempo reale, senza parlare di server che permettono di memorizzare e categorizzare una mole pressoché infinita di informazioni, immediatamente disponibili e rapidamente “incrociabili”.

Un beneficio a tutto tondo per la polizia, con grandi profitti per l’azienda di Microsoft e per tutto il settore tecnologico dell’informatica applicata.

Uno sviluppo tecnologico che non è mai neutro né imparziale, tanto meno quando applicato al campo della sicurezza. Non bisogna immaginare scenari fantascientifici di “polizia preventiva” (per ritornare al riferimento iniziale a Minority Report), perché è la realtà stessa del profondo e sistematico razzismo intrinseco e strutturale nei dipartimenti di polizia statunitensi che sostiene l’uguaglianza “afro-americano = potenziale criminale”. Una discriminazione che si applica in numerose situazioni anche nei confronti delle comunità di latinos e, più in generale, a tutti i non-bianchi.

Contro questi dispositivi tecnologici, installati e diffusi in molte città, qualsiasi forma e pratica di luddismo – per quanto estremamente necessaria in particolari “momenti caldi” di piazza – non può prescindere da un attacco all’intero sistema in cui la repressione politica e sociale e la ricerca del profitto da parte di multinazionali si intrecciano, si sostengono e si rafforzano a vicenda.

Schiacciando diritti e libertà di milioni di persone.

*****

Le proteste a livello nazionale contro la polizia razzista hanno portato un nuovo sguardo sulle grandi aziende tecnologiche come Facebook, che è sotto boicottaggio da parte degli inserzionisti per i discorsi di odio diretti a persone di colore, e Amazon, chiamata ad aiutare la sorveglianza della polizia.

Ma Microsoft, che in gran parte è sfuggita alle critiche, è sommersa di servizi per le forze dell’ordine, favorendo un ecosistema di aziende che forniscono alla polizia software che utilizzano il cloud di Microsoft e altre piattaforme. La storia completa di questi legami evidenzia come il settore tecnologico sia sempre più invischiato in rapporti intimi e continui con i dipartimenti di polizia.

I legami di Microsoft con le forze dell’ordine sono stati oscurati dall’azienda, la cui risposta pubblica in seguito all’indignazione  per l’omicidio di George Floyd si è concentrata sul software di riconoscimento facciale.

Questo distoglie l’attenzione dalla piattaforma di sorveglianza di massa di Microsoft per i poliziotti, il Domain Awareness System, costruito per il Dipartimento di Polizia di New York e successivamente esteso ad Atlanta, Brasile e Singapore.

Inoltre, oscura il fatto che Microsoft ha collaborato con decine di fornitori di sorveglianza della polizia che gestiscono i loro prodotti su un “Government Cloud” fornita dalla divisione Azure dell’azienda e che sta spingendo le piattaforme per cablare le operazioni di polizia sul campo, compresi droni, robot e altri dispositivi.

Grazie alla partnership, al supporto e alle infrastrutture critiche fornite da Microsoft, un’industria ombra di piccole aziende fornisce una sorveglianza di massa alle forze dell’ordine.

Genetec offre telecamere (CCTV, Closed Circuit Television) basate su cloud e analisi di grandi banche dati per la sorveglianza di massa nelle principali città degli Stati Uniti.

Veritone fornisce servizi di riconoscimento facciale alle forze dell’ordine. E un’ampia gamma di partner fornisce attrezzature di polizia ad alta tecnologia per la Microsoft Advanced Patrol Platform, che trasforma le auto della polizia in pattuglie di sorveglianza onniveggenti. Tutto questo viene condotto insieme a Microsoft e ospitato su Azure Government Cloud.

Il mese scorso, centinaia di dipendenti Microsoft hanno presentato una petizione al loro amministratore delegato, Satya Nadella, per annullare i contratti con le forze dell’ordine, sostenere Black Lives Matter e sostenere il defunding della polizia.

In risposta, Microsoft ha ignorato la denuncia e ha invece vietato la vendita del proprio software di riconoscimento facciale alla polizia negli Stati Uniti, distogliendo lo sguardo dagli altri contributi di Microsoft alla sorveglianza della polizia.

La strategia ha funzionato: la stampa e gli attivisti hanno elogiato la mossa, rafforzando la suddetta posizione di Microsoft come leader “moral”e nella tecnologia.

Tuttavia non è chiaro per quanto tempo Microsoft sfuggirà ad una importante riconsiderazione. Le attività di polizia sono sempre più spesso svolte con la collaborazione attiva delle aziende tecnologiche, e Microsoft, insieme ad Amazon e ad altri fornitori di cloud, è uno dei principali attori in questo campo.

Poiché le partnership e i servizi che ospitano fornitori di terze parti sul cloud Azure non devono essere annunciati al pubblico, è impossibile conoscere l’entità del coinvolgimento di Microsoft nel dominio della polizia, o lo stato dei servizi di terze parti annunciati pubblicamente, includendo potenzialmente alcune delle relazioni precedentemente annunciate di seguito.

Microsoft si è rifiutata di commentare.

Microsoft: dall’intelligence della polizia al cloud Azure

Sulla scia dell’11 settembre, Microsoft ha fornito importanti contributi ai servizi di intelligence centralizzati per le forze dell’ordine. Intorno al 2009, ha iniziato a lavorare a una piattaforma di sorveglianza per la polizia di New York chiamata Domain Awareness System (DAS), che è stata presentata al pubblico nel 2012. Il sistema è stato costruito con la leadership di Microsoft insieme ai funzionari della polizia di New York.

Mentre alcuni dettagli sul DAS sono stati divulgati al pubblico, molti sono ancora mancanti. Il resoconto più completo fino ad oggi è apparso in un documento del 2017 dei funzionari della Polizia di New York.

La DAS integra diverse fonti di informazione per svolgere tre funzioni fondamentali: allerta in tempo reale, indagini e analitica della polizia.

Attraverso il DAS, la Polizia di New York osserva i movimenti personali dell’intera città. Nei suoi primi tempi, il sistema ha ingerito informazioni da telecamere a circuito chiuso, sensori ambientali (per rilevare radiazioni e sostanze chimiche pericolose) e lettori automatici di targhe (ALPR, Automatic License Plate Readers).

Dal 2010, ha iniziato ad aggiungere le registrazioni geocodificate della polizia di New York di denunce, arresti, chiamate al 911 e mandati “per dare un contesto ai dati dei sensori“. In seguito, ha aggiunto l’analisi video, il riconoscimento automatico dei percorsi, la polizia predittiva e un’applicazione per i cellulari dei poliziotti.

Entro il 2016, il sistema aveva ingerito 2 miliardi di immagini di targhe da telecamere ALPR (3 milioni di letture al giorno, archiviate per cinque anni), 15 milioni di reclami, più di 33 miliardi di registrazioni pubbliche, oltre 9.000 telecamere della polizia di New York e di privati, video di oltre 20.000 telecamere del corpo macchina e altro ancora. Per dare un senso a tutto questo, gli algoritmi di analisi individuano i dati rilevanti, anche per la polizia predittiva.

Il dipartimento di polizia di New York ha una storia di abusi e i sostenitori dei diritti civili e delle libertà come il Surveillance Technology Oversight Project dell’Urban Justice Center hanno protestato contro il sistema per motivi costituzionali, con scarso successo fino ad oggi.

Mentre il DAS ha ricevuto una certa attenzione da parte della stampa – ed è abbastanza conosciuta tra gli attivisti – c’è di più sulla storia dei servizi di polizia di Microsoft.

Nel corso degli anni, Microsoft ha fatto crescere il suo business attraverso l’espansione dei servizi cloud, in cui la capacità di memorizzazione, i server e il software in esecuzione sui server sono affittati su base metrica. Una delle sue offerte, Azure Government, fornisce hosting di dati dedicati in centri cloud esclusivamente nazionali, in modo che i dati non lascino mai fisicamente il paese ospitante. Negli Stati Uniti, Microsoft ha costruito diversi centri cloud Azure Government per l’uso da parte di organizzazioni locali, statali e federali.

All’insaputa della maggior parte delle persone, Microsoft ha una divisione “Public Safety and Justice” con personale che in precedenza lavorava nelle forze dell’ordine. Questo è il vero cuore dei servizi di polizia dell’azienda, anche se ha operato per anni lontano dall’opinione pubblica.

I servizi di sorveglianza della polizia di Microsoft sono spesso opachi, perché l’azienda vende poco in altri comparti rispetto ai propri prodotti di polizia. Offre invece una serie di servizi “general purpose” Azure cloud, come strumenti di machine learning e di analisi predittiva come Power BI (Business Intelligence) e Cognitive Services, che possono essere utilizzati dalle forze dell’ordine e dai fornitori di servizi di sorveglianza per costruire il proprio software o le proprie soluzioni.

L’auto di pattuglia di Microsoft basata sulla sorveglianza IoT

Una ricca gamma di offerte basate sul cloud di Microsoft è in piena mostra con un concetto chiamato “The Connected Officer“. Microsoft colloca questo concetto come parte dell’Internet of Things (IoT), in cui i gadget sono collegati a server online e quindi resi più utili. “The Connected Officer”, ha scritto Microsoft, “porterà l’IoT alla polizia”.

Con l’IoT, agli oggetti fisici vengono assegnati identificatori univoci e i dati vengono trasferiti in rete in modo automatizzato. Se un agente di polizia estrae una pistola dalla fondina, ad esempio, può essere inviata una notifica attraverso la rete per avvertire gli altri agenti del pericolo. I Real Time Crime Centers potrebbero quindi localizzare l’agente su una mappa e monitorare la situazione da un centro di comando e controllo.

Secondo questo concetto, una moltitudine di dati di sorveglianza e di sensori IoT viene inviata su un “hot path” per un rapido utilizzo nei centri di comando e su un “cold path” per essere utilizzata successivamente dagli analisti di intelligence alla ricerca di modelli.

I dati vengono trasmessi attraverso il prodotto Azure Stream Analytics di Microsoft, memorizzati sul Azure, e migliorati da soluzioni di analisi Microsoft come Power BI – fornendo una serie di punti in cui Microsoft può guadagnare.

Mentre il “Connected Officer” era un esercizio concettuale, la soluzione di pattugliamento del mondo reale dell’azienda è la Microsoft Advanced Patrol Platform (MAPP). MAPP è una piattaforma IoT per i veicoli delle pattuglie della polizia che integra sensori di sorveglianza e registrazione di database sul cloud Azure, tra cui “invio di informazioni, indicazioni stradali, cronologia dei sospetti, un lettore di targhe ad attivazione vocale, un elenco delle persone scomparse, bollettini dei crimini basati sulla localizzazione, rapporti sui turni e altro ancora”.

Il veicolo MAPP è dotato di attrezzature di fornitori terzi che trasmettono i dati di sorveglianza nel cloud Azure per le forze dell’ordine. Montata sul tetto, una telecamera ad alta risoluzione a 360 gradi trasmette video in diretta ad Azure e al portatile all’interno del veicolo, con accesso disponibile anche su un telefono cellulare o su un computer remoto.

Il veicolo è dotato anche di un lettore automatico di targhe in grado di leggere 5.000 targhe al minuto – sia che l’auto sia ferma o in movimento – e di effettuare un controllo incrociato con un database in Azure e gestito dal meccanismo AutoVu di Genetec per il lettore di targhe. Una telecamera di prossimità sul veicolo è progettata per avvisare gli agenti quando il loro veicolo viene avvicinato.

Il pattugliamento dei cieli è affidato ad un drone fornito dal partner Microsoft Aeryon Labs, lo SkyRanger, per fornire video in streaming in tempo reale. Aeryon Labs fa ora parte del gigante della sorveglianza FLIR Systems.

Secondo Nathan Beckham di Microsoft Public Safety and Justice, i droni del veicolo “lo seguono e ne vedono una visione più ampia”. I droni, scrive DroneLife, possono “fornire viste aeree alla piattaforma dati integrata, permettendo agli agenti di valutare le situazioni in corso in tempo reale o di raccogliere prove forensi dalla scena del crimine”.

Anche i robot della polizia fanno parte della piattaforma MAPP. Prodotti di ReconRobotics, ad esempio, “integrat[i] con il programma del veicolo di pattugliamento di Microsoft per il programma futuro” nel 2016. Microsoft afferma che ReconRobotics fornisce al proprio veicolo MAPP un “piccolo, leggero ma potente robot” che “può essere facilmente dispiegato e controllato a distanza dagli agenti di pattuglia per fornire informazioni in tempo reale ai responsabili delle decisioni”.

Un altro partner Microsoft, SuperDroid Robots, ha anche annunciato che fornirà al veicolo MAPP di Microsoft due robot di sorveglianza telecomandati compatti, il MLT “Jack Russell” e il LT2-F “Bloodhound”, quest’ultimo in grado di salire scale e ostacoli.

Anche se sfoggia un’insegna Microsoft sul cofano e sulla portiera, il veicolo fisico che l’azienda utilizza per promuovere MAPP non è in vendita da Microsoft, e probabilmente non vedrete in giro auto con il marchio Microsoft. Piuttosto, Microsoft fornisce MAPP come piattaforma attraverso la quale trasformare le auto della polizia esistenti in veicoli di sorveglianza dell’IoT: “Si tratta di essere in grado di prendere tutti questi dati e metterli nel cloud, di essere in grado di fornire quei dati con i loro dati, e di iniziare a farne informazioni rilevanti”, ha detto Beckham.

In effetti, Microsoft afferma che “l’auto sta diventando il centro nevralgico delle forze dell’ordine”. Secondo Beckham, le informazioni raccolte e memorizzate nel cloud Azure aiuteranno gli agenti a “identificare i soggetti cattivi” e a “far sì che gli agenti siano consapevoli dell’ambiente che li circonda”. Come esempio, ha detto, “speriamo che con l’apprendimento automatico e l’intelligenza artificiale in futuro, si possa iniziare a creare una corrispondenza del percorso” con i veicoli MAPP che forniscono dati per aiutare a trovare i “soggetti cattivi”.

Lo scorso ottobre, la polizia sudafricana ha annunciato la collaborazione di Microsoft con la città di Durban per una polizia intelligente del XXI secolo. La versione di Durban della soluzione MAPP include un ALPR a 360 gradi per la scansione delle targhe e una telecamera di riconoscimento facciale della società cinese di videosorveglianza Hikvision per l’uso quando il veicolo è fermo (ad esempio, parcheggiato ad un evento).

Secondo il notiziario sudafricano ITWeb, la polizia metropolitana utilizzerà la soluzione MAPP “per scoraggiare le attività criminali basate sull’analisi dei dati attraverso modelli predittivi e algoritmi di machine learning”. Il veicolo è già stato lanciato a Città del Capo, dove Microsoft ha recentemente aperto un nuovo centro dati Azure.

Proprio come gli Stati Uniti (ma con alcune dinamiche diverse), il Sudafrica affronta il flagello della brutalità della polizia che colpisce in modo sproporzionato le persone di colore. Il Paese ha avuto il suo “momento George Floyd” durante la recente chiusura per Covid-19, quando l’esercito e la polizia hanno brutalmente picchiato il quarantenne Collins Khosa nella povera cittadina di Alexandra, portandolo alla morte – per una pinta di birra.

Un’inchiesta militare ha “scoperto” che la morte di Khosa non era legata alle ferite riportate per mano delle autorità; la famiglia di Khosa e molti altri in Sudafrica hanno respinto la revisione come un insabbiamento.

La soluzione MAPP sarà utilizzata per la polizia a “tolleranza zero”. Per esempio, il portavoce della polizia metropolitana di Durban, Parboo Sewpersad, ha detto che il lancio mira a punire “il gettare rifiuti, bere e guidare, e bere e camminare” durante i festeggiamenti estivi.

È difficile determinare dove altro possa essere dispiegato il veicolo MAPP. Il lancio in Sudafrica suggerisce che Microsoft vede l’Africa come un luogo dove sperimentare le sue tecnologie di sorveglianza della polizia.

Microsoft: alimentare le telecamere a circuito chiuso e l’intelligence della polizia in città

Oltre al cablaggio dei veicoli della polizia, la videosorveglianza fornisce un’altra fonte di profitto per Microsoft, in quanto è caricata con pacchetti di dati da trasmettere, archiviare ed elaborare – guadagnando tariffe in ogni fase del percorso.

Quando si costruisce una rete CCTV ricca di telecamere, le città e le aziende utilizzano solitamente un Video Management System (VMS) per fare cose come visualizzare i feed di più telecamere su un pannello video o offrire la possibilità di cercare tra i filmati.

Un fornitore leader di VMS, Genetec, offre il VMS di base integrato nel Domain Awareness System di Microsoft. Partner stretto di Microsoft da oltre 20 anni, le due aziende lavorano insieme per integrare i servizi di sorveglianza sul cloud Azure.

Alcune delle forze di polizia cittadine di più alto profilo utilizzano Genetec e Microsoft per la videosorveglianza e l’analitica.

Attraverso una partnership pubblico-privata chiamata Operation Shield, la rete di telecamere di Atlanta è cresciuta da 17 telecamere del centro città a una vasta rete di 10.600 telecamere che i funzionari sperano possano presto coprire tutti i quadranti della città. Genetec e Microsoft Azure alimentano la rete di telecamere a circuito chiuso.

Il 14 giugno, il capo della polizia di Atlanta, Erika Shields, si è dimessa dopo che i poliziotti della polizia hanno sparato e ucciso un uomo di colore di 27 anni, Rayshard Brooks. Il mese scorso, sei agenti della polizia di Atlanta sono stati accusati di aver usato una forza eccessiva contro i manifestanti della violenza della polizia.

Nel 2019, il direttore operativo della Atlanta Police Foundation Marshall Freeman mi ha detto che la fondazione aveva appena completato un “lancio a livello di dipartimento” per Microsoft Aware (Domain Awareness System). Freeman ha detto che il Dipartimento di Polizia di Atlanta usa il machine learning di Microsoft per correlare i dati e prevede di aggiungere l’analisi video di Microsoft. “Possiamo sempre continuare a tornare a Microsoft e far espandere la tecnologia ai costruttori e continuare a costruire la piattaforma”, ha aggiunto.

A Chicago, 35.000 telecamere coprono la città con una rete di sorveglianza. Il sistema attualmente utilizza Genetec Stratocast e il servizio della Genetec Federation, che gestisce l’accesso alle telecamere attraverso una rete federata di telecamere a circuito chiuso – una rete di reti di telecamere, per così dire.

Nel 2017, Genetec ha costruito su misura la piattaforma Citigraf per il Dipartimento di Polizia di Chicago – la seconda forza di polizia del paese – come un modo per dare un senso alla vasta gamma di dati del dipartimento.

Alimentata da Microsoft Azure, Citigraf ingerisce informazioni dai sensori di sorveglianza e dalle registrazioni del database. Utilizzando dati storici e in tempo reale, esegue calcoli, visualizzazioni, allarmi e altri compiti per creare una “profonda consapevolezza della situazione” per il corpo della polizia dipartimentale. Microsoft sta collaborando con Genetec per costruire un “motore di correlazione” per sfruttare al meglio i dati di sorveglianza.

Le forze di polizia di Chicago hanno una brutale storia di razzismo, corruzione e persino due decenni di tortura dei sospetti. Durante le proteste di violenza della polizia in seguito all’omicidio di Floyd, la polizia di Chicago ha attaccato e picchiato i manifestanti, tra cui cinque manifestanti neri fino al ricovero ospedaliero.

La città di Detroit usa Genetec Stratocast e Microsoft Azure per alimentare il loro controverso Project Green Light. Lanciato nel 2016 in tandem con un nuovo Real Time Crime Center, il progetto permette alle imprese locali – o ad altri enti partecipanti, come le chiese e le case popolari – di installare videocamere nei loro locali e di trasmettere i segnali di sorveglianza al Dipartimento di Polizia di Detroit. I partecipanti possono mettere un “semaforo verde” accanto alle telecamere per avvertire il pubblico – che è nero all’80% –- che “siete sorvegliati dalla polizia”.

Nel 2015, il Dipartimento di Polizia di Detroit ha dichiarato, “sta arrivando il giorno in cui la polizia avrà accesso alle telecamere ovunque, permettendo alla polizia di pattugliare virtualmente quasi ogni zona della città senza mai metterci piede”.

Il vice capo del Dipartimento di Polizia di Detroit David LeValley mi ha spiegato che prima di creare il nuovo centro di comando, il dipartimento ha inviato una squadra di persone in diverse altre città degli Stati Uniti, tra cui New York, Chicago, Atlanta, Boston, e il centro della Drug Enforcement Administration a El Paso, Texas, per esaminare i loro centri di intelligence. “Il nostro Real Time Crime Center è un centro di intelligence onnicomprensivo, non è solo il Project Green Light”, ha spiegato.

L’espansione della sorveglianza della polizia a Detroit è stata rapida. Oggi, il Project Green Light ha circa 2.800 telecamere installate in oltre 700 località, e si stanno aggiungendo due Real Time Crime Center (RTCC) più piccoli, un trend di sviluppo in città come Chicago. LeValley mi ha detto che questi RTTC faranno cose come il “riconoscimento dei percorsi” e i “rapporti per gli incidenti critici”.

Sulla scia dell’omicidio di George Floyd, gli attivisti di Detroit hanno ricaricato i loro sforzi per abolire il Project Green Light nella lotta contro la sorveglianza della polizia, che le comunità locali, come Tawana Petty ed Eric Williams, ritengono razzista. Quest’anno, due uomini di colore, Robert Julian-Borchak Williams e Michael Oliver, sono stati ingiustamente arrestati dopo essere stati erroneamente identificati dalla tecnologia di riconoscimento facciale del Dipartimento di Polizia di Detroit (DPD).

Nakia Wallace, una co-organizzatrice di Detroit Will Breathe, mi ha detto che il Project Green Light “pre-criminalizza” le persone e “dà alla polizia il diritto di tenervi d’occhio se pensano che siate colpevoli” e “molestare le comunità nere e afro-americane”. “Collegare insieme le telecamere” in vaste aree è “iper-sorveglianza” e “deve essere fermato”, ha aggiunto.

La “funzione che il [DPD] serve”, ha detto Wallace, è “la protezione della proprietà e della supremazia bianca”. “Sono iper-militarizzati, e anche sulla scia di questo, la gente continua a morire in città” perché “non hanno alcun interesse per il sostentamento dei cittadini di Detroit”. Invece di militarizzare, dobbiamo “smettere di fingere che i poveri neri siano intrinsecamente criminali e cominciare a guardare ai servizi sociali e alle cose che impediscono alle persone di entrare in una vita di criminalità”.

In un post del 2017 sul blog, Microsoft si è vantata della partnership con Genetec per il DPD, affermando che il Progetto Green Light è “un grande esempio di come le città possono migliorare la sicurezza pubblica, la qualità della vita dei cittadini e la crescita economica con le tecnologie di oggi”.

Microsoft fornisce la tecnologia di riconoscimento facciale

Mentre Microsoft ha alimentato i centri di intelligence e le reti di CCTV nell’ombra, l’azienda si è concentrata pubblicamente sulle norme di riconoscimento facciale. L’11 giugno, Microsoft si è unita ad Amazon e IBM nel dire che non venderà la sua tecnologia di riconoscimento facciale alla polizia fino a quando non ci saranno regolamenti in vigore.

Si tratta di una trovata pubblicitaria che ha confuso il modo in cui il rapporto di Microsoft con la polizia funziona tecnicamente ed eticamente, in diversi modi.

In primo luogo, mentre la stampa critica occasionalmente il Domain Awareness System di Microsoft, la maggior parte dell’attenzione alla polizia di Microsoft si concentra sul riconoscimento facciale. Questo è sbagliato: Microsoft sta fornendo software per alimentare una varietà di tecnologie di polizia che minano i diritti e le libertà civili – anche senza il riconoscimento facciale.

In secondo luogo, il riconoscimento facciale è una caratteristica notevole di molti sistemi di videosorveglianza e dei Real Time Crime Centers che Microsoft alimenta. Le città di New York, Atlanta, Chicago e Detroit sono tra quelle che utilizzano i servizi Microsoft per raccogliere, archiviare ed elaborare i dati di sorveglianza visiva utilizzati per il riconoscimento facciale. I servizi Microsoft sono parte integrante di molti sistemi di sorveglianza per il riconoscimento facciale della polizia.

In terzo luogo, almeno una società di riconoscimento facciale, Veritone, è stata lasciata fuori dalla conversazione. Un partner Microsoft, la società di intelligenza artificiale della California meridionale, offre un software basato sul cloud chiamato IDentify, che funziona sul cloud di Microsoft e aiuta le forze dell’ordine a segnalare i volti dei potenziali sospetti.

In una nota del 2020 al Consumer Electronics Show, parlando a fianco dei dirigenti di Microsoft, Deloitte e Oracle, l’amministratore delegato di Veritone, Chad Steelberg, ha affermato che grazie al software IDentify di Veritone su Azure, i poliziotti hanno aiutato a catturare “centinaia e centinaia di sospetti e criminali violenti”. Il prodotto Redact di Veritone accelera i procedimenti giudiziari, e Illuminate permette agli investigatori di “selezionare le prove” e di ottenere “intuizioni di rilevamento delle anomalie”.

In un recente webinar, Veritone ha spiegato come IDentify sfrutta i dati che la polizia ha già a disposizione, come i registri degli arresti. Se una persona viene rilevata e non ha riscontri noti, il software IDentify può tracciare un profilo dei sospetti creando un “database di persone di interesse” che “vi permetterà di salvare semplicemente i volti sconosciuti in questo database e di monitorarli continuamente nel tempo”.

Veritone dichiara di implementare i servizi in “circa 150 località”, ma non indica quali utilizzano IDentify. Nel 2019 ha lanciato un test pilota con il Dipartimento di Polizia di Anaheim.

Microsoft elenca Veritone IDentify come prodotto per il riconoscimento facciale delle forze dell’ordine nel suo deposito online delle app. Il video promozionale sul sito web di Microsoft pubblicizza la capacità di IDentify: “[…] confrontare le banche dati dei trasgressori conosciuti e delle persone di interesse con le prove video per identificare rapidamente e automaticamente i sospetti da indagare. È sufficiente caricare le prove dai sistemi di sorveglianza, dalle telecamere del corpo e altro ancora. […] Ma soprattutto, non siete incatenati alla vostra scrivania! Scattate una foto e identificate i sospetti mentre siete di pattuglia, per verificare le dichiarazioni e preservare le indagini in corso”.

Veritone è stato un convinto difensore della sua tecnologia di riconoscimento facciale. Nel maggio 2019, la società ha twittato: “La tecnologia di riconoscimento facciale di Amazon sta sovraccaricando la polizia locale in Oregon. Sapevate che Veritone IDentify può fare un salto di qualità sfruttando il potere dei database delle prenotazioni statali per scoprire più velocemente le piste sospette?”.

In un video promozionale con Microsoft, Jon Gacek di Veritone ha dichiarato: “Potete capire perché in Veritone siamo entusiasti di essere strettamente legati al team di Microsoft Azure. La loro visione e la nostra è molto comune”.

Fumo, specchi e direzione sbagliata

Nonostante le affermazioni contrarie, Microsoft fornisce servizi di riconoscimento facciale alle forze dell’ordine attraverso partnership e servizi a società come Veritone e Genetec, e attraverso il suo Domain Awareness System.

La strategia di pubbliche relazioni di Microsoft è progettata per fuorviare il pubblico distogliendo l’attenzione dai suoi servizi ad ampio raggio per la polizia. Invece, il presidente e responsabile legale di Microsoft, Brad Smith, esorta il pubblico a concentrarsi sulla regolamentazione del riconoscimento facciale e sulla questione del software di riconoscimento facciale di Microsoft, come se gli altri software e servizi offerti, le partnership, i concetti e il marketing non fossero parte integrante di un intero ecosistema di sistemi di riconoscimento facciale e di sorveglianza di massa offerti dalle aziende più piccole.

Stimati studiosi Microsoft, come Kate Crawford, co-fondatrice del think tank finanziato da Microsoft, AI Now Institute, hanno seguito questo programma. Crawford ha recentemente elogiato le telecamere di riconoscimento facciale di Microsoft e ha criticato aziende come Clearview AI e Palantir, ignorando il Microsoft Domain Awareness System, le partnership di sorveglianza di Microsoft e il ruolo di Microsoft come fornitore di servizi di riconoscimento facciale.

Crawford e AI Now, co-fondatrice di Meredith Whittaker, hanno condannato la polizia predittiva, ma non hanno spiegato il fatto che Microsoft gioca un ruolo centrale nella polizia predittiva per la polizia. La Crawford non ha risposto ad una richiesta di commento.

Microsoft e i suoi sostenitori possono affermare di essere un fornitore di cloud “neutrale” e spetta ad altre aziende e dipartimenti di polizia decidere come utilizzare il software Microsoft. Eppure queste aziende stanno collaborando con Microsoft, e Microsoft viene pagata per gestire i loro servizi di sorveglianza di massa e di riconoscimento facciale sul cloud Azure – servizi che colpiscono in modo sproporzionato le persone di colore.

Se questi clienti Microsoft offrissero servizi di traffico sessuale sul cloud Azure, Microsoft chiuderebbe sicuramente i loro conti. E poiché le forze dell’ordine acquistano le tecnologie di sorveglianza utilizzando i dollari dei contribuenti, il pubblico paga di fatto Microsoft per la propria sorveglianza di polizia.

Se gli attivisti costringessero società come Microsoft, Amazon, Google, IBM e Oracle a porre fine alle partnership e ai servizi infrastrutturali per conto di terzi che effettuano la sorveglianza della polizia, allora i fornitori di cloud dovrebbero riconoscere di essere responsabili di ciò che viene fatto nelle loro banche dati. Andando avanti, gli attivisti potrebbero premere per sostituire la proprietà aziendale dell’infrastruttura digitale e dei dati con la proprietà della comunità a livello locale.

La posta in gioco in questo momento è molto alta.

Andrea Mencarelli – Michael Kwet (The Intercept)

da Contropiano