Come saranno sorvegliate le Olimpiadi di Parigi 2024

Author: Wired

Lo stesso potrebbe avvenire con questo tipo di sistemi di sorveglianza. Immaginiamo un individuo disabile che possa avere problemi motori che non lo facciano camminare “normalmente” per i parametri dell’algoritmo, potrebbe essere segnalato come soggetto degno di attenzione, da sottoporre a controllo approfondito. Questo è esattamente il motivo per cui il Parlamento europeo ha inserito tra i suoi emendamenti quello che prevede una valutazione dell’impatto dei sistemi di AI sui diritti fondamentali. In tal modo, prima di essere usato, il sistema dovrà tenere in considerazione anche i punti di vista dei soggetti che potrebbero essere vittima di tali sistemi.

Alcune salvaguardie

La buona notizia è che comunque la situazione è seguita da vicino dalla CNIL, l’autorità garante francese per la protezione dei dati personali, che resta una delle più attive e attente in Europa. Nel programma da poco pubblicato su interazione tra protezione dei dati e AI, è previsto un affiancamento della CNIL a quelle aziende che saranno coinvolte nell’offerta di queste tecnologie per le Olimpiadi 2024. La CNIL sarà poi aggiornata periodicamente dal governo sull’uso di queste tecnologie.

Non mancano, nell’articolo 7 della legge, una serie di salvaguardie, inclusa una valutazione di impatto sui dati personali e istruzioni sulla limitazione del trattamento dei dati personali. Si dice poi, al comma 6, che tali tecnologie “svolgono esclusivamente una segnalazione di attenzione, strettamente limitata all’indicazione del/i predeterminato/i evento/i che sono stati programmati per rilevare. Non producono altro risultato e non possono, di per sé, fondare alcuna decisione individuale o atto penale”. La norma sembrerebbe dunque dirci che offrono solamente un aiuto, ma non farebbero scattare arresti in assenza di ulteriori verifiche. Non dovrebbe meravigliare una tale previsione, ma è quanto successo negli Stati Uniti nel 2020, come rivelato dal New York Times, quando un uomo di colore fu arrestato perché un sistema di riconoscimento facciale usato dalla polizia lo aveva identificato come l’autore di un furto. Accusa poi rivelatasi priva di ogni fondamento.

Sorveglianza e business

Tuttavia, non mancano le voci critiche. Secondo Rosamunde Elise Van Brakel, professoressa all’università VUB di Bruxelles, dove coordina il corso Legal, Ethical and Social Issues of Artificial Intelligence e la VUB Research Chair in Surveillance Studies, “è importante sottolineare che, nel giudizio della corte sulla legge, le preoccupazioni “all’antica” sulla privacy, che riguardano la protezione dei cittadini dall’eccessivo potere dello stato, non vengono prese in considerazione e focalizzando l’attenzione sulla sola legge sulla protezione dei dati si apre la porta alla sorveglianza.” Van Brakel mette dunque in guardia dal fatto che, usando solo il GDPR e i dati personali come punto di riferimento, si potrebbe non tener conto di altri mezzi, in apparenza meno invasivi, che porterebbero comunque all’effetto di sorvegliare le persone.

Immaginiamo una partita di calcio considerata a rischio, potremmo seguire tutti i tifosi che escono dallo stadio con la maglia delle due tifoserie e tracciarne gli spostamenti in città. Basterebbe il sospetto di possibili disordini a giustificare una tale invasione della privacy? E se la polizia sapesse che un sospetto appartiene alla comunità LGBTQ+, potrebbe essere sufficiente per individuare tutti quelli che portano alle Olimpiadi una bandiera arcobaleno? È forse presto per dirlo e per giudicare sin da ora l’operato della polizia, ma non lo è per porsi queste domande e porre maggiore attenzione, sin da subito, su come sarà applicata questa norma e sui possibili abusi cui potrà portare. Del resto, è già successo in passato anche in Europa, nonostante la normativa vigente in materia di protezione dei dati personali.

Se però sull’altro piatto della bilancia ci sono forti investimenti del governo, volti a far diventare la Francia il primo paese in Europa sull’intelligenza artificiale, ecco che sarà più facile chiudere un occhio, visto che tanto alla fine “non abbiamo nulla da nascondere”.