Lo sottolinea la Commissione consultiva nazionale sui diritti umani “Rischi per le libertà” causati dalla videosorveglianza algoritmica (VSA), in un avviso pubblicato martedì sulla Gazzetta Ufficiale, a meno di un mese dai Giochi Olimpici di Parigi.
VSA, testato in Francia nell’ambito dei Giochi Olimpici (26 luglio – 11 agosto), consiste in un software associato a telecamere di sorveglianza per identificare eventi ritenuti sospetti o a rischio, prima di allertare un operatore in tempo reale.
Il CNCDH ha problemi in particolare “due osservazioni” quanto a “l’impatto della VSA sui diritti e sulle libertà fondamentali”in una lunga recensione su “sorveglianza dello spazio pubblico”.
Tra gli otto “eventi predeterminati”definita dalla “legge JO” dell’aprile 2023, che la VSA deve rilevare, si prevede di associare “un avviso per una direzione anomala del traffico pedonale”ad esempio una persona che cammina contro la direzione della folla.
Per la Commissione questa disposizione costituisce “una concezione eccessivamente standardizzata dell’ordine pubblico” ed “espone quindi il sistema a segnalazioni inappropriate che possono portare ad arresti indebiti”.
La Commissione è preoccupata anche per il “coinvolgimento senza precedenti di attori privati”
Il CNCDH ritiene inoltre che “sarà difficile garantire un controllo concreto” delle garanzie previste dalla legge, in particolare in mancanza di risorse sufficienti destinate alla Commissione nazionale per l’informatica e le libertà (CNIL) e teme che i cittadini sviluppino “una sensazione di maggiore sorveglianza” durante i Giochi.
La commissione è preoccupata anche per la“coinvolgimento senza precedenti di attori privati – i progettisti di software – nell’esercizio di una missione sovrana” e possibilità “discriminazioni” indotto.
VSA si basa su un software progettato per “identificare situazioni preoccupanti”, “la macchina potrebbe quindi essere indotta ad associare un certo livello di rischio a determinate caratteristiche ricorrenti” telefono “indossare un cappuccio”avverte la Commissione.
Nella situazione, questo software è configurato per concentrarsi “ad esempio sul tipo di veicolo da rilevare” ma, teme la commissione, “un agente incaricato del suo utilizzo all’interno del centro di vigilanza urbana potrebbe indirettamente prendere di mira alcune categorie di popolazione che circolano sulle strade pubbliche”.
E “monitorare l’assenza di bias sembra attualmente un pio desiderio”deplora tuttavia il CNCDH “sarebbe possibile portare alla luce la discriminazione prodotta dal suo utilizzo” e quindi, “Adottare tutte le misure adeguate per porre rimedio a questa situazione”.
