Alle Olimpiadi del 2024 uso senza precedenti di droni e algoritmi di sorveglianza

Da diversi giorni, gli algoritmi di sorveglianza sono utilizzati dalla RATP (metrò) e dalla SNCF (Ferrovie dello stato) in più di cinquanta stazioni dell’Île-de-France. I droni sono autorizzati a sorvolare alcune località della Seine-Saint-Denis per più di un mese. Un utilizzo di queste tecnologie mai visto prima nella sua quantità e durata.

di Clément Le Foll da mediapart – traduzione a cura di Salvatore Turi Palidda

I passeggeri dei trasporti parigini saranno sotto stretta sorveglianza durante i Giochi Olimpici e Paralimpici (JOP). Per garantire la sicurezza di questo evento, la Questura di Parigi ha pubblicato pochi giorni fa due decreti che autorizzano la RATP a utilizzare algoritmi di sorveglianza in quarantasei stazioni dal 22 luglio al 12 agosto, e la SNCF in undici stazioni dal 25 luglio al agosto 13. Il software Cityvision della start-up francese Wintics avrà lo scopo di provare a rilevare la presenza di bagagli abbandonati, un’eccessiva densità di persone, un movimento di folla o un’intrusione in un’area vietata al pubblico. “Circa duecento telecamere a Parigi e nell’Île-de-France beneficeranno dell’assistenza algoritmica”, dice a Mediapart la questura di Parigi. Dietro i loro schermi, le forze dell’ordine e gli operatori video della RATP e della SNCF analizzeranno poi gli allarmi emessi dal software. “La macchina non prende alcuna decisione da sola: si limita a segnalare un rilevamento tramite un allarme visivo sullo schermo a beneficio degli operatori umani”, aggiunge la questura. Vietati fino a poco tempo fa, questi algoritmi di sorveglianza sono stati testati a partire dal 19 maggio e dalla promulgazione della legge sui “Giochi Olimpici”. Fino a marzo 2025, durante eventi sportivi e culturali, la polizia, la gendarmeria ma anche i servizi di sicurezza della SNCF e della RATP potranno accoppiare queste intelligenze artificiali (AI) alle telecamere per rilevare otto situazioni predefinite, compresa la presenza di oggetti abbandonati o portare un’arma.

Prima di questo ampio utilizzo durante i JOP, diversi test venivano effettuati durante i concerti del gruppo Depeche Mode e Taylor Swift o una partita di calcio tra Paris Saint-Germain e Olympique Lyonnais. Dal 1 al 9 giugno, due telecamere poste all’ingresso del torneo di tennis Roland-Garros sono state dotate di queste IA. Il loro scopo era identificare un’eccessiva densità di folla. “C’è anche la questione del post-Olimpiadi”, si chiede Elia Verdon, dottorando in diritto pubblico e informatica e direttore scientifico dell’Osservatorio di sorveglianza della democrazia. La durata dell’esperimento durerà fino a marzo 2025, ben dopo i Giochi Olimpici. Questa potrebbe essere un’opportunità per alcuni comuni di utilizzarlo durante altri eventi, come i mercatini di Natale. Conosciamo l’interesse di alcune comunità per questi strumenti. » Approfittando della sperimentazione concessa nel quadro della legge JO, il presidente della regione Auvergne-Rhône-Alpes, Laurent Wauquiez, ad esempio, ha votato a favore dell’utilizzo di queste IA per monitorare i treni e le scuole superiori della regione, come Reporterre rivelato. Ascoltato dal Senato il 17 gennaio 2024, il delegato interministeriale ai Giochi Olimpici, Michel Cadot, ha assicurato che questa videosorveglianza algoritmica sarà “dispiegata in modo limitato […], in aree ad alta densità, ad esempio nel centro di Parigi intorno ai siti”.

Noémie Levain, avvocato dell’associazione per la difesa delle libertà digitali La Quadrature du Net (di cui l’Osservatorio Repressione ha pubblicato vari articoli), ritiene invece che i decreti recentemente pubblicati dimostrino un aumento dell’utilizzo. “Il numero di stazioni interessate è sproporzionato, tra cui alcune che non hanno un rapporto diretto con l’evento, come Nation e République, che sono generalmente luoghi di raccolta o di partenza e di arrivo delle manifestazioni. »

Efficacia messa in discussione

Negli ultimi mesi diversi documenti hanno denunciato anche le difficoltà operative incontrate da questi algoritmi. Nell’ottobre 2022, i deputati Philippe Gosselin e Philippe Latombe hanno partecipato, nell’ambito di una missione conoscitiva, a un esperimento infruttuoso di queste tecnologie, effettuato dalla SNCF alla Gare du Nord. Due programmi software dovevano rilevare il porto di un’arma, una delle situazioni che fanno parte dell’attuale esperimento. Il primo presentava un “tasso di rilevamento quasi pari a zero e decine di falsi allarmi”, mentre il secondo ha avuto un successo più che relativo, con un tasso di successo del 28%. All’inizio di aprile, un rapporto del Senato dedicato alla sicurezza dei Giochi Olimpici ha anche qualificato l’efficacia di queste tecnologie. “Rispetto alle prospettive espresse in occasione della votazione sulla legge sulle Olimpiadi, siamo lontani dall’obiettivo prefissato”, ha ammesso in una conferenza stampa la senatrice LR Agnès Canayer, una degli autori del rapporto. “La protezione video aumentata non sarà ottimale al momento delle Olimpiadi, ma le Olimpiadi saranno un ottimo terreno di gioco per sperimentarla.» Questo desiderio di testare queste IA su larga scala, prima ancora di aver dimostrato il loro interesse, preoccupa Katia Roux, advocacy officer di Amnesty International. “Questi algoritmi sono estremamente invasivi. Valuteranno le situazioni analizzando i dati corporei e comportamentali, che sono dati personali protetti.

Temiamo che limiteranno il diritto di protesta o la libertà di espressione, poiché sapere di essere monitorati può portare le persone colpite all’autocensura.» Nella sua risposta a Mediapart, la questura di Parigi ha precisato: “Non possono utilizzare alcun dato biometrico, non implementano alcuna tecnica di riconoscimento facciale e non possono effettuare alcuna riconciliazione, interconnessione o connessione automatizzata con altri trattamenti di dati personali. » Le telecamere sono viste come qualcosa di molto tecnico, e non politico, che neutralizza qualsiasi dibattito e controllo dei cittadini. Alexandre Schon, membro del comitato di vigilanza cittadina delle Olimpiadi del 2024 A fine giugno la Commissione consultiva nazionale sui diritti umani (CNCDH) ha emesso un parere sulla sorveglianza degli spazi pubblici, concentrandosi in particolare sulla sperimentazione di algoritmi di sorveglianza durante i Giochi Olimpici.

In questo rapporto di trenta pagine, il CNCDH lancia l’allarme sui rischi di discriminazione indotti dalla tecnologia. “Nel caso in cui il software sia stato programmato per identificare situazioni preoccupanti, i programmatori sottoporranno alla macchina un certo numero di immagini precedentemente raccolte dai sistemi video e selezionate in base alla loro pertinenza allo scopo previsto. La macchina potrebbe quindi essere indotta ad associare un certo livello di rischio a determinate caratteristiche ricorrenti in queste immagini (ad esempio l’uso di un cappuccio)», osserva il parere. Di fronte a questi avvertimenti, il Ministero dell’Interno ha nominato una commissione per valutare questo esperimento algoritmico di videosorveglianza. Presieduto dall’ex rappresentante di etica del Ministero degli Interni Christian Vigouroux, è composto in particolare dai senatori Jérôme Durain e Nadine Bellurot, dal direttore generale della polizia nazionale Frédéric Veaux, dal direttore della RATP Jean Castex, dal prefetto di polizia Laurent Nuñez e la presidente della regione Île-de-France Valérie Pécresse. “Per il momento abbiamo avuto due riunioni plenarie e assisteremo alle varie sperimentazioni in loco durante le Olimpiadi. Le cose stanno lentamente andando a posto”, dice un membro di questo comitato. Al di là degli algoritmi di sorveglianza, il parere del CNCDH sottolinea la necessità di rafforzare i controlli sui sistemi di videosorveglianza, che “sono diventati in gran parte comuni a partire dagli anni 2000”. Per garantire la sicurezza dei Giochi Olimpici, il Ministero dell’Interno ha sovvenzionato decine di città per l’installazione di nuove telecamere, triplicando i crediti del Fondo interministeriale per la prevenzione della delinquenza e della radicalizzazione per i prossimi cinque anni (FIPDR), sostegno finanziario ai comuni che intendono attrezzarsi.

A Marsiglia (Bocche del Rodano), 1 milione di euro è stato destinato all’installazione di 330 telecamere nel 2022.

A Saint-Denis (periferia di Parigi), secondo l’ultimo rapporto di orientamento di bilancio, tra il 2020 e il 2024, il comune ha investito 6,7 milioni di euro in video sorveglianza (era passato a destra ma alle politiche è a sinistra). “Esiste una visione molto tecno-soluzionista delle telecamere”, ritiene Alexandre Schon, membro del comitato di vigilanza dei cittadini delle Olimpiadi del 2024 a Saint-Denis. Sono visti come qualcosa di molto tecnico, e non politico, che neutralizza qualsiasi dibattito e controllo da parte dei cittadini. »

Durante queste due settimane olimpiche, Seine-Saint-Denis non sarà solo sotto l’occhio delle telecamere fisse. All’inizio di luglio, la questura di Parigi ha pubblicato diversi decreti che autorizzano l’uso dei droni. A Le Bourget, dove si trova il media center, otto di questi “uccelli digitali” potranno sorvolare la città, oltre a quelli di Blanc-Mesnil e Dugny, fino al 9 settembre. Lo stesso numero di droni è autorizzato a sorvolare Saint-Denis, l’Île-Saint-Denis e il 18° arrondissement di Parigi dal 24 luglio – e fino al 12 agosto. “I droni ci permettono di offrire una visione abbastanza diversa e interessante della situazione.

Secondo il feedback che ho avuto, sono stati molto utili durante le manifestazioni contro i megabacini lo scorso fine settimana [21 e 22 luglio 2024 – ndr], poiché hanno permesso di avere una visione d’insieme, evitando che la polizia fosse circondata dai manifestanti. e agricoltori”, il giudice Philippe Latombe, ex deputato ed ex membro del collegio della CNIL (Commissione nazionale dell’informatica e delle libertà). Yoann Nabat, docente-ricercatore presso l’Università di Bordeaux e membro dell’Osservatorio di Sorveglianza della Democrazia, vede un utilizzo unico di queste tecnologie nei Giochi Olimpici. “Sono già stati tutti utilizzati occasionalmente: droni nelle manifestazioni, videosorveglianza algoritmica durante le competizioni sportive, body scanner negli aeroporti, codici QR durante la pandemia. Ma questa è la prima volta che queste tecnologie di sorveglianza vengono combinate durante lo stesso evento, i Giochi Olimpici.»

Osservatorio Repressione è una Aps-Ets totalmente autofinanziata. Puoi sostenerci donando il tuo 5×1000 

News, aggiornamenti e approfondimenti sul canale telegram e canale WhatsApp