NUTesla | The Informant

Author: Marco Romandini Wired

Il futuro più inquietante dell’intelligenza artificiale potrebbe scaturire da un pezzetto di cervello di un topo tenuto ex vivo e attaccato a dei micro elettrodi. È studiandone le sue reazioni agli stimoli che infatti gli scienziati del Cnr fiorentino insieme ai colleghi dell’Università di Tel Aviv hanno scoperto che gran parte dell’attività cerebrale è controllata da pochi neuroni organizzati in unità funzionali denominate clique, in grado di categorizzare e generalizzare l’informazione in concetti.

Era il 2014. Quel funzionamento è stato tradotto in un algoritmo e dato in pasto all’intelligenza artificiale dagli scienziati dell’azienda israeliana Cortica, che hanno così creato un sistema in grado di percepire le intenzioni di un soggetto osservandone micro espressioni e comportamenti. Cortica entrerà in funzione in India grazie a una partnership con il Best Group per analizzare l’enorme flusso di dati delle telecamere a circuito chiuso nelle aree pubbliche.

È solo l’ultimo sviluppo della Crime Prediction, che lontana dalle visioni delle precog di Minority Report, è già realtà. Seppur con tutti i suoi limiti.

Se trovate questo futuro inquietante dovrete farci l’abitudine. La tecnologia sta infatti muovendo passi da gigante in questa direzione per difendere le future Smart City metropolitane che vedranno riversarsi al loro interno la stragrande maggioranza delle persone, dando vita a scenari più o meno fantascientifici di cui abbiamo già parlato. Le smart city non si dovranno difendere solo dagli attacchi fisici ma anche e soprattutto informatici grazie all’onnipresenza del sistema IoT, al momento ancora un colabrodo in fatto di sicurezza, capace di regalare passatempi ingegnosi ad hacker maliziosi nella migliore delle ipotesi e soluzioni creative a malintenzionati per guadagnarci qualcosa nella peggiore.

Ecco perché al concetto di smart city si affianca sempre più quello di Safe City, con soluzioni di Business intelligence e Predictive analytics indirizzate alla sicurezza pubblica che hanno lo scopo di predire calamità naturali, azioni terroristiche o criminali, incidenti a infrastrutture critiche. Tra le aziende leader del settore c’è la svedese Hexagon Safety & Infrastructure con il suo Intergraph Business Intelligence per la sicurezza pubblica, in grado di monitorare e analizzare un’enorme quantità di dati per prevedere l’evoluzione di uno scenario.

“Non può esistere Smart City senza Safe City”, mi dice Angelo Gazzoni, country manager per l’Italia di Hexagon. “A Hexagon – mi spiega – abbiamo come obiettivo un ecosistema autonomo connesso (Ace), cioè un insieme di sistemi che si connettono in maniera autonoma sfruttando l’intelligenza artificiale e la tecnologia di edge computing che permette di spostare verso la periferia (i sensori) la capacità analitica, convogliando così nell’elaborazione centrale soltanto l’informazione raffinata. Nel caso delle forze dell’ordine ciò consente di portare nel centro decisionale di una sala di gestione delle emergenze informazioni utili per la salvaguardia delle persone, permettendo di agire in anticipo, predire un crimine o una catastrofe”.

Come si può predire un crimine? “ Integrando dati che arrivano dall’esterno, informazioni dei sensori, sentiment analysis, lo storico delle chiamate“, spiega Gazzoni, “è possibile verificare dei trend, quindi intercettare la fase nascente di qualcosa sta accadendo. Con software georiferiti evoluti si vanno a integrare sulla mappa  le ricorrenze e le incidenze di episodi già accaduti, ottenendo così indicazioni statistiche su dove un crimine potrebbe di nuovo accadere. Analizzare l’incidenza di un determinato tipo di reato in una specifica zona della città può permettere da un lato di migliorare l’analisi e dall’altro di gestire meglio il presidio di determinate zone. Si possono trovare correlazioni prima impossibili da fare, ad esempio un quartiere in cui si riscontrano molti casi di infrazione stradale potrebbe essere legato a un nascente spaccio di droga. E il sistema centrale permette anche di utilizzare sensori mobili come robot e droni di pattugliamento”.

Un problema che è emerso all’estero, riguardo quest’ultimo caso, è che in determinati contesti si è riscontrato un pregiudizio razziale delle stesse intelligenze artificiali sulle minoranze etniche e quindi anche sui quartieri da loro abitati. Se la cosa può sembrare strana, in realtà non lo è: la conoscenza di un’intelligenza artificiale dipende infatti dai dati assimilati nel machine learning, e questi dati sono selezionati dai programmatori. Prova ne è Norman, la prima intelligenza psicopatica creata dal Mit. Per Gazzoni il software di Hexagon non ha questi problemi: “Dal nostro punto di vista è il dato che determina l’informazione, non è una scelta soggettiva”.

Un altro problema, forse il maggiore, è quello della privacy. Tra i sensori che avranno il compito di trasmettere l’informazione ci sono le telecamere, implementate con tecnologie di face-detecting e face-recognition per incrociare i volti con quelli contenuti nei database (Hexagon sta utilizzando un sistema di questo tipo nell’aeroporto di Baltimora). Un occhio onnipresente che in casi di governi autoritari potrebbe diventare un incubo orwelliano, mettere in pericolo la stessa democrazia.

Pensiamo ad esempio al caso di avversari politici o giornalisti ribelli a un regime, ma anche solo di gente comune che non potrebbe muovere un passo senza essere sorvegliata. Ultimamente aveva suscitato parecchie polemiche ad esempio la collaborazione per i grandi concerti tra Live Nation e Blink Identity, società texana che mette a disposizione dei propri clienti una tecnologia militare di face-recognition in grado di riconoscere un soggetto in mezzo secondo anche se non sta direttamente guardando in camera.

Addio al biglietto, implementata la sicurezza, ma a che costo? Gazzoni riconosce il problema per la privacy ma crede che la salvaguardia delle persone sia più importante: “L’intelligenza artificiale –  dice – sta diventando invasiva in ogni ambito della nostra vita, è bene che lo faccia anche nella sicurezza. La privacy riguarda un aspetto legislativo, la sicurezza delle persone viene prima della privacy. Si tratta soltanto di sfruttare la tecnologia già presente. Oggi ci sono già telecamere ogni 10 metri, basta renderle funzionali”.

Oltre ai crimini, un sistema del genere può comunque essere utilizzato per evitare catastrofi naturali. “Ad esempio, nel caso di un’alluvione, se uno streaming di dati meteo avverte che c’è la pioggia in aumento, è possibile simulare l’evoluzione del fenomeno e capire quali saranno le aree più colpite per preparare un’azione preventiva”, spiega Gazzoni. Ovviamente servono sensori più progrediti, in grado di comunicare con il sistema centrale come telecamere, sensori idrogeologici, sensori per rilevare la presenza di Co2 che facciano capire la situazione in corso, quali sono le zone più colpite, dove sono le risorse a disposizione per realizzare uno strumento di previsione dello scenario evolutivo.

In Italia, rivela Gazzoni, Hexagon aveva già intavolato discorsi con esponenti di realtà regionali (probabilmente Lombardia, visto che si fa scappare un sorriso quando glielo chiedo) per fornire i suoi sistemi alle forze di polizia locale, interessate al dispatching di risorse, all’analisi di incidenti e ai reati. Attualmente sono in cantiere dei progetti con grandi infrastrutture,  città metropolitane, di cui però non vuole svelare di più per la delicatezza dell’argomento: “Abbiamo un progetto che vedrà la luce subito dopo l’estate. Stiamo pensando a un primo periodo di sperimentazione su piccola scala per poi espandere l’azione. Diciamo che queste tecnologie saranno di pubblico dominio sul territorio nazionale per questo autunno”.

Secondo Gazzoni è solo questione di tempo prima che questi sistemi diventeranno onnipresenti, almeno nelle grandi realtà. “Le città metropolitane – dice – stanno prendendo sempre più in considerazione il tema della sicurezza per garantire l’incolumità delle persone che utilizzano i servizi. Speriamo che in un futuro prossimo queste situazioni non rimangano isolate ma che le diverse realtà, i diversi sistemi possano comunicare tra loro per risolvere i problemi in modo congiunto, coordinato ed efficace. Le tecnologie già ci sono, bisogna solo fare ulteriori investimenti e definire il modello organizzativo, la catena di comando in caso di pericolo e di emergenza”.

C’è da chiedersi se in futuro potremmo trovare a capo di questa catena di comando la stessa intelligenza artificiale o se sarà sempre l’uomo ad avere l’ultima parola sulla vita di una persona o sull’evoluzione di una situazione; la mano a premere il pulsante, come nella sala droni di una base Usaf. L’ultima conferenza del Security Summit di Roma sull’intelligenza artificiale si è conclusa con un appello corale degli scienziati: non chiamatela intelligenza.

Troppo dipendente ancora dal “cibo” che il programmatore le dà in pasto, dalle sue scelte, dalle sue preferenze, dai suoi pregiudizi. “Oggi l’ultima parola dell’uomo – dice Gazzoni – può avere ancora senso. Magari tra dieci anni avremo macchine che prenderanno le decisioni da sole”. Sarebbe un buon modo per scaricare responsabilità e sensi di colpa. Nel frattempo se siete in giro per il mondo e avete qualche tic strano, state attenti, un’intelligenza artificiale potrebbe interpretarlo male.