La società ha sviluppato funzionalità come la ricerca di individui in base all’età, al sesso e al tono della pelle
Il software IBM è stato sviluppato e testato su telecamere di sorveglianza attraverso la Lower Manhattan Security Initiative (nella foto).
IBM ha utilizzato segretamente le riprese delle telecamere CCTV di NYPD per sviluppare una tecnologia di sorveglianza che potesse cercare individui basati su caratteristiche corporee come l’età e il tono della pelle. Questo è secondo un rapporto di The Interceptche cita documenti aziendali confidenziali, nonché interviste con ex ricercatori IBM e funzionari della polizia di New York.
Sebbene l’IBM pubblicizzi la capacità del suo software di analisi video di cercare individui che utilizzano tratti come l’età e l’etnia, la società non ha mai divulgato il proprio uso del metraggio di sorveglianza di New York per sviluppare questa tecnologia. La misura in cui l’IBM ha lavorato con il NYPD e la segretezza con cui lo ha fatto, è un esempio preoccupante di aziende tecnologiche che collaborano con i governi per costruire sistemi di sorveglianza senza supervisione pubblica.
LA TECNOLOGIA DI SORVEGLIANZA DOVREBBE ESSERE SVILUPPATA E DISPIEGATA IN SEGRETO?
La capacità di nuove tecnologie come l’intelligenza artificiale di potenziare la sorveglianza è da anni preoccupante per i difensori della privacy. Non solo sappiamo che tali sistemi possono essere di parte dal punto di vista razziale (nel senso che sono inclini a fare più errori nell’individuare individui con particolari colori della pelle), ma non esiste una legislazione chiara in vigore per regolare il loro uso .
Secondo il racconto di The Intercept , il NYPD ha acquisito per la prima volta il software di analisi video di IBM tramite la controllata Microsoft Vexcel nel 2007. La tecnologia ha iniziato a testare nel centro di comando antiterrorismo di New York, parte della Lower Manhattan Security Initiative, nel marzo 2010. NYPD Il portavoce Peter Donald ha dichiarato a The Intercept che il software era in esecuzione su “meno di cinquanta” delle 512 telecamere del centro in quel momento.
Entro il 2012, secondo quanto riferito, IBM avrebbe “testato il software di analisi video sui corpi e sui volti dei newyorkesi, catturando e archiviando i propri dati fisici mentre camminavano in pubblico”. L’azienda ha quindi utilizzato questo filmato per migliorare la sua funzionalità di ricerca, consentendo agli operatori di costruire funzioni per trovare le persone in base all’età, al sesso, al colore dei capelli, ai peli del viso e al tono della pelle.
Il NYPD afferma di non aver mai usato queste caratteristiche, sperando di evitare il “suggerimento di apparizione di qualsiasi tipo di profilo tecnologico razziale”. Un portavoce ha detto a The Intercept, “Mentre gli strumenti che presentavano funzionalità di ricerca di tono della pelle o della razza sono stati offerti al NYPD , sono stati esplicitamente rifiutati dal NYPD “.
Tuttavia, l’ex ricercatore IBM Rick Kjeldsen, che ha affermato di aver lavorato al progetto NYPD tra il 2009 e il 2013, afferma che questo è fuorviante. “Non avremmo esplorato [la funzionalità di ricerca] se la polizia di New York ci avesse detto:” Non vogliamo farlo “, ha detto Kjeldsen a The Intercept . “Nessuna azienda spende soldi dove non c’è interesse per il cliente.”
Kjeldsen afferma che un certo numero di ricercatori IBM coinvolti nel progetto erano preoccupati per il potenziale uso improprio della tecnologia. Aggiunge che una delle sue principali obiezioni è stata la mancanza di divulgazione pubblica su come questi strumenti potenzialmente invasivi potrebbero essere implementati. “Ecco dove abbiamo bisogno della conversazione”, ha detto Kjeldsen. “Questo è esattamente il motivo per cui la conoscenza di questo dovrebbe diventare più ampiamente disponibile – in modo che possiamo capirlo.”
Il NYPD afferma di aver smesso di utilizzare la tecnologia di IBM nel 2016. Quando contattato da The Verge , IBM non ha risposto a domande specifiche, ma ha rilasciato una dichiarazione affermando che “rimane assolutamente impegnata a far avanzare responsabilmente le nuove tecnologie”.
