IBM non offrirà più, svilupperà o ricerca la tecnologia di riconoscimento facciale
Il CEO di IBM afferma che dovremmo rivalutare la vendita della tecnologia alle forze dell’ordine
IBM non offrirà più software di analisi o riconoscimento facciale per scopi generici, ha dichiarato oggi il CEO di IBM Arvind Krishna in una lettera al Congresso . Inoltre, la società non svilupperà o effettuerà più ricerche sulla tecnologia, afferma IBM a The Verge . Krishna ha inviato la lettera a Sens. Cory Booker (D-NJ) e Kamala Harris (D-CA) e Rep. Karen Bass (D-CA), Hakeem Jeffries (D-NY) e Jerrold Nadler (D-NY).
“IBM si oppone fermamente e non perdonerà l’uso di alcuna tecnologia di [riconoscimento facciale], inclusa la tecnologia di riconoscimento facciale offerta da altri fornitori, per la sorveglianza di massa, la profilazione razziale, le violazioni dei diritti umani e delle libertà di base o qualsiasi scopo che non sia coerente con il nostro valori e principi di fiducia e trasparenza “, ha detto Krishna nella lettera. “Riteniamo che sia giunto il momento di avviare un dialogo nazionale su se e come la tecnologia di riconoscimento facciale dovrebbe essere impiegata dalle forze dell’ordine nazionali”.
IL SOFTWARE DI RICONOSCIMENTO FACCIALE È STATO ESAMINATO PER PROBLEMI CON PREGIUDIZI RAZZIALI E PROBLEMI DI PRIVACY
Il software di riconoscimento facciale è notevolmente migliorato nell’ultimo decennio grazie ai progressi dell’intelligenza artificiale. Allo stesso tempo, la tecnologia, poiché è spesso fornita da società private con scarsa regolamentazione o supervisione federale, ha dimostrato di soffrire di pregiudizi in termini di età, razza ed etnia, che possono rendere gli strumenti inaffidabili per l’applicazione della legge e sicurezza e maturi per potenziali violazioni dei diritti civili.
Nel 2018, le ricerche di Joy Buolamwini e Timnit Gebru hanno rivelato per la prima volta la misura in cui molti sistemi commerciali di riconoscimento facciale (inclusi quelli di IBM) erano distorti. Questo lavoro e i successivi studi della coppia hanno portato a critiche mainstream di questi algoritmi e tentativi continui di correggere i pregiudizi.
Uno studio del National Institute of Standards and Technology del dicembre 2019 ha rilevato “prove empiriche dell’esistenza di una vasta gamma di accuratezza attraverso le differenze demografiche nella maggior parte degli attuali algoritmi di riconoscimento facciale che sono stati valutati”, ad esempio. La tecnologia è stata anche messa a fuoco per il suo ruolo nelle violazioni della privacy.
In particolare, lo studio del NIST non ha incluso la tecnologia di Amazon, che è una delle poche grandi aziende tecnologiche a vendere software di riconoscimento facciale alle forze dell’ordine. Eppure Rekognition, il nome del programma, è stato anche criticato per la sua precisione. Nel 2018, l’American Civil Liberties Union ha scoperto che Rekognition ha erroneamente abbinato 28 membri del Congresso a volti scelti tra 25.000 foto pubbliche, ad esempio.
Un’altra società, Clearview AI, è stata sottoposta a un attento esame a partire dall’inizio di quest’anno, quando è stato scoperto che il suo strumento di riconoscimento facciale, costruito con oltre 3 miliardi di immagini compilate in parte da siti di social media, era ampiamente utilizzato da società del settore privato e le forze dell’ordine. Da allora Clearview è stato emesso numerosi ordini di cessazione e desistere ed è al centro di numerose cause legali sulla privacy . A gennaio a Facebook è stato anche ordinato di pagare $ 550 milioni per risolvere una causa di azione collettiva per l’uso illegale della tecnologia di riconoscimento facciale.
IBM ha cercato di aiutare con il problema della distorsione nel riconoscimento facciale, rilasciando un set di dati pubblici nel 2018 progettato per aiutare a ridurre la distorsione come parte dei dati di allenamento per un modello di riconoscimento facciale. Ma IBM è risultata essere la condivisione di un insieme di dati di formazione separata di quasi un milione di foto nel gennaio 2019 tratto da Flickr senza il consenso dei soggetti – anche se le foto sono state condivise con una licenza Creative Commons. IBM ha dichiarato a The Verg e in una dichiarazione all’epoca che il set di dati sarebbe stato accessibile solo da ricercatori verificati e includeva solo immagini che erano pubblicamente disponibili. La società ha anche affermato che le persone possono rinunciare al set di dati.
Nella sua lettera, Krishna ha anche sostenuto la riforma della polizia, sostenendo che un maggior numero di casi di cattiva condotta della polizia dovrebbe essere posto sotto la giurisdizione del tribunale federale e che il Congresso dovrebbe apportare modifiche alla dottrina dell’immunità qualificata, tra le altre misure. Inoltre, Krishna ha affermato che “dobbiamo creare percorsi più aperti ed equi affinché tutti gli americani acquisiscano competenze e formazione commerciabili” e ha suggerito al Congresso di prendere in considerazione la possibilità di ridimensionare il modello scolastico P-TECH a livello nazionale e di ampliare l’idoneità per Pell Grants.
