Il riconoscimento facciale ha bisogno di essere regolato

COME DOVREMMO REGOLARE IL RICONOSCIMENTO FACCIALE?
Abbiamo chiesto agli esperti

Il riconoscimento facciale è ovunque – aeroporti , stazioni di polizia e costruito nelle più grandi piattaforme cloud del mondo – con poche regole federali per governare il modo in cui viene utilizzato. Questo è vero da anni, ma una serie di storie imbarazzanti negli ultimi mesi ha portato a casa esattamente quanto pericolosa possa essere la tecnologia nelle mani sbagliate, e ha portato a nuove richieste di regolamento. Persino Microsoft, uno dei maggiori fornitori, ha chiesto al Congresso di porre qualche tipo di restrizione su come e dove la tecnologia può essere utilizzata.

Una legge di riconoscimento facciale veramente efficace dovrebbe affrontare diversi problemi contemporaneamente. Molti algoritmi di riconoscimento facciale mostrano ancora tassi di errore più elevati per afro-americani, donne e giovani , suggerendo che i sistemi potrebbero troncare pregiudizi sociali. Al di là del pregiudizio, il puro potere del riconoscimento facciale come strumento di sorveglianza ha portato alcuni gruppi a chiedere una moratoria sull’uso della polizia. E ora che la tecnologia è accessibile a chiunque abbia un account sviluppatore cloud, i problemi di privacy del settore privato sono ancora più difficili da ignorare.

Ciò lascia ai riformatori una domanda difficile: come possiamo risolvere il riconoscimento facciale? Abbiamo posto la domanda a cinque figure di spicco su entrambi i lati della lotta politica.

È TEMPO DI REGOLARE IL RICONOSCIMENTO FACCIALE?
Alvaro Bedoya, direttore esecutivo del Centro per la privacy e la tecnologia di Georgetown Law. Il progetto Perpetual Lineup del Centro include un modello di leggeper la regolamentazione del riconoscimento facciale, incentrato sulla limitazione dell’accesso della polizia alla patente di guida e ai database delle foto segnaletiche.

Regoliamo la privacy commerciale su qualsiasi numero di altre tecnologie. Carte di credito, li regoliamo. Record di e-health, li regoliamo. Le tue abitudini di visione del cavo, protette. Le tue abitudini di noleggio video, protette. Quindi, questa idea che solo perché è una tecnologia, non dovremmo regolamentarla, non si adatta alla totalità del panorama della privacy commerciale degli Stati Uniti. Non è mai stato un argomento nella privacy commerciale dire al Congresso: “Oh, questa è una tecnologia. Sono solo quelli e zero. Non dovresti davvero regolarlo. “Ed è già regolamentato per 1 su 8 americani. In Illinois e Texas, la regola è ottenere il permesso. Quindi esiste un precedente sia per il modo in cui abbiamo regolamentato la privacy commerciale in passato, sia per come oggi regoliamo il riconoscimento facciale. E penso che la semplice regola per ottenere il permesso delle persone abbia un senso.

Oltre a questo, mi piacerebbe vedere le regole in materia di bias e test di accuratezza. Probabilmente vuoi protezioni per i bambini. Probabilmente non dovrebbe essere usato su persone che hanno 18 o più giovani. Probabilmente vuoi proibizioni su aree sensibili come ospedali, cliniche o scuole, dove anche se qualcuno è autorizzato, non dovresti ancora usarlo.

Guarda le telecamere di sorveglianza. Di solito non hai telecamere di sorveglianza nei bagni. Puoi averli tutti in tutto il negozio, li avrai all’ingresso, all’uscita, nei corridoi, alla cassa. Ma non li hai in bagno perché capiamo tutti che registrare le persone nel bagno è una cattiva idea.

Brian Brackeen, CEO della società di riconoscimento facciale Kairos, un esplicito difensore della regolamentazione nel settore.

Non vedo l’ora che arrivi il regolamento. Siamo grandi fautori del regolamento, tornando al gruppo di lavoro NTIA. C’è bisogno di regolamentazione in questo spazio, sia per le forze dell’ordine che per le aziende private in determinati casi d’uso. Non siamo nemmeno contrari ai requisiti di consenso. Soprattutto nell’uso del settore privato, esiste una relazione tra il nostro cliente e l’individuo, quindi dovrebbero essere in grado di ottenere il consenso. Nel nostro caso, abbiamo molti clienti bancari. Stiamo verificando una transazione utilizzando il volto del cliente. C’è ovviamente una relazione lì, e c’è un valore per il cliente nel non essere oggetto di frode. Quindi, per il nostro caso d’uso, non c’è problema a ottenere il consenso. Ma quando sei su Facebook o sei Amazon e lo stai usando per il governo o stai provando ad esca-e-passa dalle foto che hai già, è una cosa diversa. Ed è per questo che erano così contrari.

Ciò di cui abbiamo bisogno è il processo NTIA con un’incudine sopra la nostra testa. Dobbiamo dire: “Stiamo regolamentando nel quarto trimestre. Questo è il primo trimestre, quindi hai un anno per darci le migliori pratiche. “Quindi portiamo le persone in una stanza a lavorare su questi problemi con quel requisito sopra le nostre teste. Penso che ci sia una volontà da entrambe le parti, repubblicani e democratici.

Evan Selinger, professore di filosofia al Rochester Institute of Technology. Insieme al professore di legge Woodrow Herzog, Selinger ha chiesto il divieto totale dell’uso del riconoscimento facciale , sia in casi di uso pubblico che privato, per la preoccupazione che la tecnologia sia normalizzata.

L’importante domanda da porsi è: cosa serve per mettere il pubblico a bordo con una massiccia infrastruttura di riconoscimento facciale? La risposta è la normalizzazione. Fai abituare le persone a usare sempre la tecnologia. Non limitarti a metterli a loro agio con la tecnologia di riconoscimento facciale, ingegnerizzarne il desiderio. Crea abitudini che inducano le persone a credere di non poter vivere senza la tecnologia di riconoscimento facciale nelle loro vite. Questo è ciò che fa il lato consumatore della tecnologia di riconoscimento facciale: farlo sembrare banale e indegno di preoccupazione. Facendo sì che le persone vedano la tecnologia del riconoscimento facciale come nulla di straordinario, viene fatta una discussione su valore e rischio.

Benji Hutchinson, vicepresidente delle operazioni federali al NEC America. Principale fornitore di contratti federali per il riconoscimento facciale, NEC ha resistito alle richieste di restrizioni federali sulla tecnologia.

Non crediamo in una moratoria completa sulla tecnologia, e non crediamo che ci sia un bisogno bruciante di sovra-legislazione. Molte delle posizioni che stiamo vedendo provengono da aziende tecnologiche che sono nuove nello spazio. E direi che queste grandi aziende sono un po ‘alle calcagna. Stanno cercando di fare tutto ciò che possono fare per assicurarsi che non perdano i contratti che hanno e fanno la cosa giusta. Non li biasimo del tutto, ma non sono necessariamente d’accordo con l’approccio.

Le persone dimenticano i benefici. Ciò viene soffocato. Questa è una tecnologia di grande successo che è stata utilizzata per fermare gli attacchi terroristici. È stato usato per togliere i criminali dalla strada. Ci consente di viaggiare senza carta e senza attritoquando attraversiamo gli aeroporti. Riduce le linee e i tempi di attesa. Rende le vite delle persone migliori. E penso che quei benefici si perdano in tutta la negatività.

LA POLIZIA DOVREBBE USARE IL RICONOSCIMENTO FACCIALE?
Kade Crockford, direttore del programma Technology for Liberty presso l’ACLU del Massachusetts. L’ACLU ha chiesto una moratoria sull’uso del riconoscimento facciale da parte del governo .

La nostra preoccupazione principale è che la polizia negli Stati Uniti oggi funzioni senza un controllo o una responsabilità efficaci. C’è un vero deficit di fiducia. E in quell’ecosistema, è davvero difficile vedere come qualsiasi requisito legale possa essere applicato in un modo che possa davvero proteggere le persone.

Se la polizia vuole condurre un’intercettazione, deve andare da un giudice e ottenere un ordine di intercettazione telefonica, che è come un super-mandato. E prendono l’ordine di intercettazione telefonica verso una compagnia telefonica. Secondo la legge federale, la compagnia telefonica non è autorizzata a divulgare informazioni in assenza di tale ordine di intercettazione telefonica. Quindi c’è una sorta di protezione integrata lì. La compagnia telefonica potrebbe essere ritenuta responsabile se consente alla polizia di intercettarti senza un ordine e l’effettiva infrastruttura che facilita la sorveglianza non è in possesso delle forze dell’ordine. Appartiene a questa terza parte, la compagnia telefonica. Quindi c’è un controllo integrato lì.

Non abbiamo una pista parallela per la sorveglianza facciale. Quello che le forze dell’ordine vogliono, e quello che sembra che Amazon stia cercando di spingere i dipartimenti di polizia a livello nazionale, è la creazione di questa infrastruttura all’interno del dipartimento di polizia. Semplicemente non abbiamo la società civile o l’infrastruttura governativa per garantire che le forze dell’ordine non ne abusino.

Brackeen: la polizia ha sia la domanda che la risposta. Quando faccio applicazioni bancarie e commerciali, i miei clienti non hanno database di foto di tutti, quindi non possono semplicemente mettere una fotocamera davanti a un negozio e conoscere tutti quelli che passano. Ma se sono la città di Orlando e ho la patente di guida di tutti oltre all’accesso al database dell’FBI, posso mettere una telecamera su Main Street e conoscere tutti quelli che passano. Quindi il governo ha un’abilità che va oltre le altre persone.

Poi c’è il problema di parzialità. Se hai uno strumento come una pistola stordente e ti ho detto che la pistola stordente funziona solo sulle donne, allora non permetteresti alla polizia di usarla, per ovvi motivi. Gli strumenti di polizia devono essere equi in tutte le persone, e questo è vero per l’intelligenza artificiale in generale. Voglio arrivare in un posto dove la polizia può usare uno strumento come questo e farlo equo. Ma avrei ancora diverse limitazioni a tale uso.

IL RICONOSCIMENTO FACCIALE PUÒ SUPERARE I PREGIUDIZI RAZZIALI?
Bedoya: L’idea che questa tecnologia venga usata per catturare i taccheggiatori quando è documentato che non funziona altrettanto bene per i giovani ed è documentato che non funziona altrettanto bene per gli afro-americani è semplicemente pazzesco. Ogni ricercatore che guarda questo scopre che c’è qualche pregiudizio di qualche tipo. È più folle nel contesto delle forze dell’ordine, ma è ancora piuttosto pazzo nel contesto del settore privato. Quindi questa è una cosa fondamentale che mi piacerebbe vedere.

Brackeen: questo non è un problema irrisolvibile. È un problema di dati, non un problema con la tecnologia. Stiamo aggiornando noi stessi i nostri algoritmi e possiamo rimuovere i bias, almeno fino a un certo punto. Penso che l’attuale oltraggio sia, siamo una piccola azienda, ma stiamo facendo il lavoro necessario per essere migliori. Una società come Amazon ha sempre avuto le risorse per fare meglio. Ma, in realtà, non lo sono, e stanno vendendo al governo.

Hutchinson: Se parli con qualsiasi grande giocatore nello spazio di riconoscimento facciale, tutti diranno che abbiamo metodologie di test molto rigorose. E questo include individui etnici in un database eterogeneo. Cerchiamo la diversità e la testiamo nei nostri algoritmi. Spendiamo milioni di dollari all’anno cercando i tassi di errore che si verificano con diversi tipi di facce. E quei diversi tipi di facce possono significare molte cose diverse. Persone con background diversi, provenienti da diverse regioni del mondo, diverse sfumature, facciamo tutto questo test. Non pubblichiamo molti risultati, ma è assolutamente nel nostro interesse assicurare che si tratti di un algoritmo a basso errore. Il fatto è che la matematica non è parziale, non è razzista. Se alcune aziende hanno algoritmi di fascia bassa e non hanno messo la R & R

Crockford: C’è un problema con gli algoritmi e i dati sull’allenamento sono distorti, ma questo non è l’unico problema con pregiudizi in questa tecnologia. L’altro problema è che la polizia usa i file di foto segnaletiche come database di confronto, e le foto segnaletiche sono di per sé distorte a causa del grado in cui la polizia è stata promulgata in modo sproporzionato nel corso della storia e fino al presente.

Vediamo arresti sproporzionati di persone di colore e di colore in quasi ogni categoria di reato minore, sia che si tratti di guidare con una licenza sospesa o una registrazione scaduta, possesso di stupefacenti, piccoli furti, sconfinamenti, condotta disordinata. Il pregiudizio negli arresti di marijuana è semplicemente sorprendente. Ancora oggi, il 90% delle persone arrestate per reati di marijuana a New York sono neri o marroni. E questo non perché i bianchi non fumino in pentola in pubblico a New York City. È solo perché i bianchi non vengono quasi mai arrestati per quel crimine. Quindi questo è un pregiudizio, e usando quel database e fingendo che sia una tecnologia neutra, codifica quel pregiudizio.