Amazon sta guardando
Il gigante di Internet sta collegando case, quartieri e città con telecamere e microfoni e alimentando i servizi di intelligence della nazione. Siamo sicuri di poterci fidare?
Sarà Oremus da medium
Quando si pensa di Amazon, si potrebbe pensare di shopping di confronto dal tuo divano, l’acquisto esattamente quello che vuoi, per meno di paghereste presso il negozio. Potresti pensare a un addetto alla consegna che lascia un pacco alla tua porta, in perfetto orario, e come se ci fosse qualcosa di sbagliato puoi rispedirlo per un rimborso completo. Potresti pensare di chiedere ad Alexa di suonare una canzone o uno show televisivo o accendere le luci, e la meraviglia di come tutto funzioni (di solito ). Potresti pensare a uno sconto dei membri Prime sugli avocado di Whole Foods, che Amazon ha acquisito nel 2017.
La reputazione di Amazon di servire i propri clienti con prezzi bassi e efficienza spietata potrebbe aiutare a spiegare perché, in un sondaggio dopo l’indagine, la società con base a Seattle è la marca più preziosa , anzi la più amata d’ America . Uno studio recente ha rilevato che Amazon è la seconda istituzione più affidabile di qualsiasi tipo negli Stati Uniti, davanti a Google, la polizia e il sistema dell’istruzione superiore, e che trascina solo l’esercito americano. In un momento in cui una serie infinita di privacy e scandali elettorali ha lasciato la reputazione di Facebook in rovina fumante, e Google è stata intaccata dalla radicalizzazione di YouTube e dai problemi di moderazione dei contenuti, Amazon è più forte che mai.
Ma l’immagine pubblica di Amazon come un “tutto-negozio” allegramente affidabile smentisce il vasto e segreto behemoth che è diventato – e come i prodotti che sta costruendo oggi potrebbero erodere la nostra privacy non solo online ma anche nel mondo fisico. Anche se le aziende tecnologiche rivali riesaminano le loro pratiche sui dati , ripensano le loro responsabilità e chiedono nuove regole , Amazon sta raddoppiando i dispositivi di sorveglianza, declinando la responsabilità su come viene utilizzata la sua tecnologia e respingendo le preoccupazioni sollevate da accademici, media, politici e i suoi dipendenti.
“Speriamo tutti che non stiano facendo un panopticon”, afferma Lindsey Barrett, procuratore dello studio presso l’Institute for Public Representation di Georgetown Law. Il mese scorso, l’istituto, in qualità di consulente di un gruppo di 19 gruppi di sorveglianza, ha invitato la Federal Trade Commission a indagare su Amazon per presunte violazioni della legge federale che tutela la privacy online dei minori. Tra le altre preoccupazioni, hanno scoperto che l’altoparlante smart Echo Dot Kids Edition di Amazon ha conservato le registrazioni vocali dei bambini e i dati personali anche dopo che i genitori hanno provato a eliminarli. Amazon ha accusato almeno una parte del problema di un bug del software , che a suo dire ha risolto.
Mentre il risultato di quel caso rimane da vedere, la denuncia rappresenta solo la punta dell’iceberg. L’Amazzonia di oggi percorre vaste aree della rete pubblica; utilizza l’intelligenza artificiale per scriccolare dati per molte delle più grandi aziende e istituzioni del mondo, compresa la CIA; traccia le abitudini di acquisto degli utenti per creare profili dettagliati per la pubblicità mirata; e vende diffusori e schermi con tecnologia AI collegati a cloud per le nostre case. Ha acquisito un’azienda che realizza router Wi-Fi mesh che hanno accesso al nostro traffico Internet privato. Attraverso la controllata Ring di Amazon, mette le telecamere di sorveglianza sui campanelli di milioni di persone invitandole a condividere il filmato con i loro vicini e la polizia su un social network incentrato sulla criminalità. Sta vendendo sistemi di riconoscimento facciale alla polizia e alle compagnie private.
“Amazon sta essenzialmente vendendo paura”.
L’Amazon di domani, come delineato in brevetti, offerte contrattuali e materiali di marketing, potrebbe essere ancora più onnipresente. Immagina le telecamere dei campanelli così onnipresenti che non puoi camminare per strada senza attivare avvisi ai tuoi vicini e alla polizia. Immagina che queste telecamere abbiano sistemi di riconoscimento facciale integrati e possano lavorare insieme come una rete per identificare le persone ritenute sospette. Immagina le telecamere di sorveglianza Ring su auto e droni di consegna, i monitor Baby Ring nei vivai e i dispositivi Amazon Echo ovunque, dalle scuole agli hotel agli ospedali. Ora immagina che tutti questi altoparlanti e display alimentati da Alexa possano riconoscere la tua voce e analizzare i tuoi schemi vocali per dire quando sei arrabbiato, malato o considerando un acquisto. Una richiesta di brevetto del 2015 è stata segnalata la scorsa settimana dal Telegraphdescrisse un sistema che Amazon chiamava ” sorveglianza come servizio “, che sembra un termine appropriato per molti dei prodotti che sta già vendendo.
Dietro a tutto c’è una società i cui leader troppo spesso vedono le preoccupazioni sulla privacy come esagerate, il dissenso interno come insignificante e il potenziale abuso di tecnologie di Amazon come problema di qualcun altro.
“Solo perché la tecnologia potrebbe essere usata impropriamente non significa che dovremmo vietarla e condannarla”, ha detto Andy Jassy, a capo del settore cloud di Amazon, alla Conferenza sul Codice all’inizio di questo mese. Ha suggerito che vietare i sistemi di riconoscimento facciale, che possono essere potenti strumenti di sorveglianza ma tendono a discriminare le persone di colore, sarebbe come bandire e-mail o coltelli – due pezzi di tecnologia, uno nuovo e uno molto vecchio, che potrebbero essere impiegati anche per bene o male. “Potresti usare un coltello in modo surrettizio”, disse.
Tutto ciò che Amazon sta costruendo, va detto, ha il potenziale per essere usato per sempre. Le sue camme del campanello possono catturare i portici dei pirati ; il suo software di riconoscimento facciale può aiutare le autorità a rintracciare i sospetti ; Alexa può essere utile in casa in una miriade di modi (di solito ). Ma quando metti insieme i pezzi, gli occhi e le orecchie della cloud-connected della società possono assumere una dimensione orwelliana che rende Facebook e Google – le due aziende tecnologiche che tendono ad apparire più grandi nella paura della privacy dei consumatori – sembrano modeste al confronto.
Orecchie nel soggiorno
Iniziamo con i dispositivi basati sulla tecnologia Alexa dell’azienda, come Amazon Echo, Echo Dot ed Echo Show, che sono diventati l’elemento base delle case intelligenti. Mettono microfoni collegati a Internet, sempre attivi e, in alcuni casi, telecamere, all’interno della cucina, del salotto o della camera da letto. Per il paranoico, solo questo potrebbe essere un motivo per evitarli: perché rischiare di aprire un portale permanente tra Internet e gli spazi più intimi della tua famiglia? Ma oltre 100 milioni di acquirenti li hanno abbracciati, confidando in Amazon per proteggere le loro registrazioni nel processo.
Amazon dice che i dispositivi Echo iniziano a registrare solo quando sentono una parola sveglia preimpostata, come “Alexa”. Sfortunatamente, il sistema è tutt’altro che infallibile: quasi tutti gli utenti di Alexa sono stati colti di sorpresa quando i dispositivi ricordano la parola sveglia e improvvisamente si attiva. Alexa spesso raccoglie e archivia frammenti di conversazione per errore, e in almeno un’occasione, Amazon ha spedito per sbaglio quelle registrazioni a un estraneo casuale . Non aiuta che Amazon abbia trascurato le funzionalità di riservatezza dei dati che includono gli altoparlanti intelligenti rivali. È più difficile eliminare le tue registrazioni da un eco che da Google Home o Apple HomePod e Amazon è stato lento a mettere un otturatore fisico sulla fotocamera di dispositivi come l’Echo Show per proteggersi dalla registrazione accidentale. (Anche quello di Facebook ne ha uno.)
Per un’azienda che sta conducendo una rivoluzione nel rapporto tra uomo e macchina, l’atteggiamento di Amazon nei confronti delle paure della privacy a volte è sembrato sprezzante. In un’intervista dello scorso anno sul podcast di Slate If Then , ho chiesto ad Al Lindsay, vicepresidente di Amazon di Alexa Engine Software, di nominare una preoccupazione relativa alla privacy dei dati di Amazon che riteneva fosse valida, o una sfida relativa alla privacy che il suo team stava lavorando sopra. Ha detto che non poteva pensare a uno solo .
Ma i cani da guardia fuori da Amazon ne hanno trovati alcuni. Ad aprile, Bloomberg ha riferito che Amazon impiega migliaia di appaltatori umani in uffici in tutto il mondo per ascoltare le registrazioni di ignari utenti di Alexa. L’obiettivo non è la sorveglianza, ma piuttosto uno sforzo per migliorare il software del dispositivo. Questa è una pratica comune tra le aziende che addestrano l’IA – gli utenti umani di assistenti digitali intelligenti come Alexa e Siri fanno parte del processo di formazione, che lo sappiano o meno – ma Amazon non ha rivelato esplicitamente la meccanica del sistema agli utenti. Siri di Apple e Assistente di Google utilizzano anche revisori umani, ma adottano misure per rendere anonime le registrazioni degli utenti, mentre le registrazioni di Alexa sono legate al numero di account di ciascun utente, al numero di serie del dispositivo e al nome.
Poi c’è l’accusa che l’Echo Dot Kids Edition di Amazon abbia violato la legge federale sulla protezione della privacy online dei bambini, o COPPA . Oltre a conservare le informazioni personali dei bambini anche dopo che i genitori hanno tentato di eliminarli, il dispositivo presumibilmente memorizzava tali informazioni a tempo indeterminato e utilizzava un metodo imperfetto di consenso dei genitori. Barrett dell’Istituto per la Rappresentanza pubblica ha affermato che ha trovato difficile credere che un’azienda così vasta possa commettere violazioni della privacy così semplici su un dispositivo esplicitamente destinato e commercializzato ai bambini.
Per questa storia, la società ha inviato una dichiarazione che indica che ha protocolli rigorosi per proteggere la privacy e la sicurezza dei clienti e ha osservato che i clienti possono rivedere ed eliminare le loro registrazioni in qualsiasi momento nell’app Alexa o visitando l’Online Alexa Privacy Hub .
Se consideri che Amazon sta mettendo i dispositivi di Alexa su macchine , camere d’albergo , aule scolastiche e perfino su ospedali per bambini , è curioso che la società non stia facendo più di un giro di pubbliche relazioni in materia di privacy e sicurezza. Sembrava che potesse cambiare finalmente il mese scorso, quando Amazon pubblicizzò una suite di nuove funzionalità per la privacy di Alexa , inclusa la possibilità di dire ” Alexa, cancella tutto quello che ho detto oggi .” Ma la funzione si rivelò piuttosto bizantina: Invece di cancellare le tue registrazioni la prima volta che hai chiesto, Alexa ti avrebbe indirizzato ad aprire l’app Alexa sul tuo smartphone e a navigare una lunga serie di opzioni di menu. Dopo tutto ciò, è possibile eliminare le registrazioni solo a voce da un solo giorno, non da un periodo di tempo più lungo. L’eliminazione di tutto è una procedura in otto passaggi che richiede l’app Alexa. E Amazon non offre ancora la possibilità di cancellare automaticamente le tue registrazioni, come fa Google .
Finora Amazon ha smesso di pubblicare annunci vocali in Alexa, il che può aiutare a rafforzare la sua immagine di azienda che vende prodotti a te, piuttosto che renderti il prodotto. Ma ciò non significa che il tuo Echo non stia raccogliendo e monetizzando i dati su di te. Tiene già traccia dei tuoi acquisti e delle tue scelte musicali da utilizzare nei consigli sui prodotti. E mentre non ha attirato lo stesso scrutinio di Google o di Facebook, il business della pubblicità digitale di Amazon è in piena espansione: ora è il terzo più grande dietro al duopolio. Si prevede che Amazon realizzerà circa il 10% del mercato statunitense di $ 130 miliardi nel 2019, secondo una stima recente.
Occhi per strada
Poi c’è Ring, la startup “smart doorbell” che Amazon ha acquisito per $ 1 miliardo all’inizio del 2018. Mentre altri giganti di Internet per lo più limitano il loro snooping al comportamento online degli utenti, Ring consente ad Amazon – e tu – di monitorare le azioni degli altri nel mondo reale. I suoi dispositivi connessi Wi-Fi, montati fuori dalle porte di case e aziende, sondano continuamente un raggio di 30 piedi, catturando video ogni volta che rilevano il movimento. Gli utenti possono guardare il filmato in tempo reale e possono pagare una tassa per archiviare e guardare le registrazioni.
Quelle capacità di sorveglianza non sono nuove: le imprese e le ville hanno da tempo avuto costosi sistemi di telecamere di sicurezza. Ma allo stesso modo in cui il commercio online esisteva prima che Amazon lo portasse alle masse, Ring ha integrato questo servizio inserendo le telecamere del campanello in un semplice pacchetto da $ 200 e commercializzandole in modo aggressivo ai normali proprietari di case e ai dipartimenti di polizia. Amazon è ora il giocatore dominante nel mercato delle telecamere campanello, parte del mercato delle telecamere di sorveglianza domestiche che un analista prevede che valga 10 miliardi di dollari entro il 2023.
Non contento di consentire agli utenti di sorvegliare i propri cantieri frontali, Ring ha trasformato le sue telecamere in reti da posta semi-pubbliche tramite un’app chiamata Neighbours . I vicini di casa consentono ai proprietari di suoneria di caricare, condividere e commentare i rispettivi filmati di sorveglianza e offre loro la possibilità di renderli disponibili alla polizia. “Gli avvisi della community di Ring aiutano a mantenere sicuri i quartieri incoraggiando la comunità a lavorare direttamente con la polizia locale su casi attivi”, ha detto Amazon in una nota.
Quella caratteristica ha vertiginoso alcune forze dell’ordine. Un rapporto di CNET ha scoperto che i dipartimenti di polizia da Houston a Hammond, in Indiana, collaborano con Amazon e offrono ai cittadini anelli scontati, incoraggiandoli a condividere filmati sui vicini. Grazie a Ring, “la nostra township è ora interamente coperta da telecamere”, ha detto a CNET un comandante della polizia a Bloomfield, nel New Jersey .Il capo della polizia di Mountain Brook, Alabama, ha detto al sito che l’accesso al filmato dei residenti via Neighbours ha dato al suo dipartimento l’equivalente della copertura di telecamere di sicurezza della città, praticamente per nulla. Amazon non richiede agli utenti di condividere filmati con la polizia, ma il suo portale per le forze dell’ordine rende facile per i funzionari richiedere filmati da qualsiasi utente dato – una richiesta che molte persone probabilmente troveranno scomoda da rifiutare. Gli utenti rimangono tecnicamente anonimi nell’app, anche se la loro posizione generale è evidente. Ring ha dichiarato a OneZero che si impegna a proteggere la privacy degli utenti e ha notato che non supporta i programmi che richiedono ai clienti di condividere filmati con la polizia in cambio di sconti sul dispositivo.
Potresti pensare che una gigantesca compagnia tecnologica che si sta muovendo verso una sorveglianza fisica e letterale in un momento di maggiore preoccupazione per la privacy online potrebbe calpestare leggermente. Nel caso di Amazon, ti sbaglieresti. Il fondatore di Ring Jamie Siminoff – che originariamente aveva lanciato l’idea per la sua startup su Shark Tank - la messaggistica interna della compagnia è stata militante. Nel 2016, Siminoff ha distribuito magliette con stampa mimetica ai dipendenti e dichiarato guerra ai “criminali sporchi”.
Ma la sicurezza della società, almeno prima dell’acquisizione di Amazon, a volte è apparsa lassista: in incidenti separati, è stato rilevato che Ring registrava le password WiFi dei clienti in chiaro e inviava pacchetti di dati audio da 20 millisecondi ai server in Cina , dove il governo controlla in modo aggressivo il traffico Internet. Ring si è mosso rapidamente per risolvere questi due problemi e non ci sono prove che abbiano causato danni. A partire dal 2016, Ring ha anche fornito ai dipendenti di ricerca e sviluppo in Ucraina l’accesso alle registrazioni video personali degli utenti per l’analisi, secondo un rapporto del 2018 di The Information . Amazon ha successivamente dichiarato a The Interceptche la pratica era limitata ai video condivisi pubblicamente sull’app Neighbors, ma ha rifiutato di dire quando tale politica ha avuto effetto. “Come società di sicurezza in missione per ridurre il crimine nei quartieri, la sicurezza è al centro di Ring e guida tutto ciò che facciamo”, ha detto Ring a OneZero in una dichiarazione. “Nessuno può visualizzare le registrazioni video di un utente a meno che l’utente non lo consenta o le condivida.”
Amazon ha abbracciato l’ethos di lotta al crimine di Ring. ” Non riesco a pensare a una missione più nobile “, ha detto il vice presidente dei dispositivi di Amazon, Dave Limp, a un evento nel settembre 2018. All’inizio di quest’anno, Ring ha inserito annunci Facebook mirati che mostravano residenti di Mountain View, in California, filmati di sorveglianza reali di un donna che sembrava stia cercando di entrare in una macchina.
“Amazon sta essenzialmente vendendo paura”, afferma Chris Gilliard, professore di inglese al Macomb Community College che ricerca usi discriminatori della tecnologia. “Stanno vendendo l’idea che una società più sorvegliata sia più sicura.” Ma ciò dipende dal fatto che tu sia la persona che viene sorvegliata. Gilliard crede che Ring e Neighbours possano effettivamente rendere la società meno sicura per le persone di colore, che sono sproporzionatamente identificate come “sospette” sui social network con un componente di un orologio di quartiere. In passato, un residente poteva dire a un vicino di casa o chiamare la polizia se vedeva una persona che pensavano fosse fuori posto, “ma probabilmente non lo avrebbero trasmesso all’intero quartiere”, dice. “Ora lo sono.”
Cervelli nel cloud
Anche se la maggior parte delle persone pensa ancora ad Amazon principalmente come rivenditore online, la maggior parte dei suoi profitti ora proviene da Amazon Web Services, i cui server cloud alimentano quasi la metà di Internet , secondo alcune stime. Per i siti web più piccoli, AWS serve principalmente come fornitore di infrastrutture. Ma per alcune delle più grandi istituzioni e società del mondo, AWS inoltre esplora e analizza dati, decodifica testo e immagini, fa previsioni e raccomandazioni.
Questi clienti includono importanti forze dell’ordine e agenzie di intelligence , come il Dipartimento per la sicurezza interna, il Dipartimento della Difesa e la CIA. Amazon ha istituito una divisione speciale di AWS nel 2017 per gestire l’intelligence governativa segreta. I clienti di AWS includono anche Palantir, la società di big data di Silicon Valley co-fondata da Peter Thiel, che fornisce software per l’immigrazione e l’applicazione doganale degli Stati Uniti, o ICE. (Amazon ha anche riferito di aver fatto un pitch direttamente all’ICE .) Ora AWS sta gareggiando con Microsoft Azure per un gigantesco contratto da 10 miliardi di dollari per portare il Pentagono sul suo cloud, dopo che Google si è ritirata sotto la pressione dei propri dipendenti.
Il servizio più controverso di AWS è Rekognition , una piattaforma che utilizza l’apprendimento automatico per analizzare immagini e riprese video. Tra le altre funzionalità, Rekognition offre la possibilità di associare i volti trovati nelle registrazioni video a una raccolta di volti in un database, nonché la tecnologia di analisi facciale che può individuare le caratteristiche e le espressioni del viso. Un rapporto del 2018 dell’American Civil Liberties Union (ACLU) ha evidenziato come Amazon abbia commercializzato le sue capacità di riconoscimento facciale per le forze dell’ordine e abbia avviato collaborazioni con la polizia a Orlando, in Florida e nella contea di Washington, nell’Oregon.
In una conferenza per sviluppatori a Seul, secondo NPR, Ranju Das di Amazon ha spiegato che la polizia di Orlando ha ” telecamere in tutta la città ” che il metraggio di streaming per Amazon analizza in tempo reale. Può quindi confrontare le facce del video di sorveglianza con una raccolta di foto segnaletiche in un database per ricostruire il luogo di una “persona di interesse”. Un rapporto CNET di marzo descriveva come l’ufficio dello sceriffo della contea di Washington usava il riconoscimento per identificare e arrestare un taccheggio sospettare.
Un problema ben documentato con il software di riconoscimento facciale è imprecisione, in particolare quando si tratta di identificare persone di colore. In un test del 2018 condotto dall’ACLU, Rekognition ha erroneamente trovato fiammiferi per 28 membri del Congresso a mugshots di sospetti criminali. I membri del congresso del colore erano sovrarappresentati tra le false partite. Amazon sostiene che lo studio è fuorviante in diversi modi, perché ha utilizzato una soglia di confidenza per le corrispondenze che è inferiore a AWS raccomanda e ha utilizzato una versione obsoleta del software Rekognition.
L’idea di costruire strumenti per l’intelligenza artificiale e il riconoscimento faccia a faccia di artisti come Palantir e ICE non si sposa bene con alcuni dipendenti e azionisti di Amazon – specialmente in un momento in cui gli immigrati vengono separati dalle loro famiglie e i bambini che attraversano il confine sono negato i diritti umani fondamentali. Un dipendente anonimo dell’Amazon ha scritto a Medium lo scorso autunno che circa 450 lavoratori hanno firmato una lettera al CEO Jeff Bezos invitando la società a ritirare Palantir e interrompere la fornitura di Rekognition ai dipartimenti di polizia. “Le aziende come la nostra non dovrebbero essere nel business di facilitare la sorveglianza autoritaria”, ha scritto l’impiegato. In un’intervista di accompagnamento, l’impiegato ha detto che la lettera era stata accolta dai leader di Amazon con ” silenzio radio “.
Ciò non sorprende, dato che il vicepresidente dell’AWS, Teresa Carlson, ha promosso l’ impegno costante della compagnia per gli usi militari e polizieschi del riconoscimento facciale in una conferenza sulla sicurezza nel luglio 2018. Gizmodo ha riferito nel novembre 2018 che il CEO di AWS Andy Jassy ha riaffermato la commercializzazione della società di Riconoscimento alle forze dell’ordine in una riunione interna. Ha interpretato la tecnologia come ampiamente positiva, evidenziando il lavoro di un’organizzazione che utilizza il software per aiutare a trovare e salvare le vittime della tratta di esseri umani. Jassy ha aggiunto che se Amazon scoprisse che i clienti violavano i suoi termini di servizio oi diritti costituzionali delle persone, avrebbe smesso di lavorare con loro. Ma quando a Carlson è stato chiesto in precedenza se Amazon avesse tracciato linee rosse o linee guida sul tipo di lavoro di difesa che avrebbe fatto, la sua risposta è stata chiara: “Non abbiamo tracciato nessuna riga lì”.
In un post sul blog del febbraio 2019 , Amazon ha suggerito che sarebbe stato aperto a una qualche forma di legislazione nazionale sul riconoscimento facciale per promuovere la trasparenza e il rispetto dei diritti civili, tra gli altri obiettivi. Ciò ha seguito le richieste molto più dirette di Microsoft per la regolamentazione della tecnologia nel 2018. Ma dove Microsoft ha fatto una dura argomentazione morale per controllarla, evocando immagini di una distopia del 1984, Amazon ha costantemente difeso il suo uso. “Negli oltre due anni in cui abbiamo offerto Amazon Rekognition, non abbiamo ricevuto alcuna segnalazione di abuso da parte delle forze dell’ordine”, ha dichiarato la società nel post del blog.
Sorveglianza come servizio
Le domande di brevetto non possono dirti che cosa sta per costruire un’azienda. Spesso, gli avvocati di un’azienda stanno solo cercando di coprire quante più basi possibili, nel caso in cui qualche aspetto della loro proprietà intellettuale possa un giorno diventare rilevante per gli affari. Ma i brevetti possono ancora rivelare quello che una determinata azienda pensa che il suo ambiente competitivo possa assomigliare agli anni a venire. E se le domande di brevetto di Amazon ci dicono qualcosa, è che la società vede l’espansione delle capacità di sorveglianza come una parte importante del suo futuro.
Alcuni di questi ruotano attorno ad Alexa e al riconoscimento vocale. Un’applicazione del 2017 descrive un algoritmo “voice sniffer” in grado di individuare le parole chiave per la pubblicità mirata da una conversazione tra amici. Un altro propone di dedurre la salute o lo stato emotivo delle persone da tosse, raffreddore o tono di voce – di nuovo, con pubblicità mirata come potenziale caso d’uso.
Amazon ha anche alcune grandi idee per il futuro di Ring. All’inizio di questo mese, Quartz ha riferito che Amazon ha ricevuto marchi per dispositivi che potrebbero coprire telecamere montate su auto o su baby monitor, o ” sistemi di sorveglianza domestici e aziendali “. Un brevetto separato presentato nel 2015 chiarisce che Amazon ha pensato lungo queste linee da molto tempo prima dell’acquisto di Ring: descriveva un sistema tramite il quale i droni di consegna dei pacchi potevano essere assunti dai clienti per sorvolare un bersaglio specificato e sparare filmati di spionaggio. Amazon ha definito l’idea ” sorveglianza come servizio”. ”
È dubbio che persino Amazon possa mai lanciare un prodotto con un nome o una funzione piuttosto spudoratamente distopico. Ma c’è un altro set di brevetti, non sigillato nel novembre 2018, che suona come qualcosa su cui la società potrebbe effettivamente lavorare. Descrivono come una rete di telecamere che condividono i dati possa essere utilizzata in tandem con il software per identificare automaticamente le persone i cui volti appaiono in un database di persone sospette. Come riportato dalla CNN , sembra molto simile a una tabella di marcia per incorporare il riconoscimento facciale con l’app Ring and the Neighbours. Un avvocato ACLU lo ha descritto come una “inquietante visione del futuro” in cui le persone non possono nemmeno camminare per strada senza essere seguiti dai loro vicini.
In una dichiarazione a OneZero , Ring ha ribadito che una domanda di brevetto non implica necessariamente un prodotto in fase di sviluppo. “Stiamo sempre innovando per conto dei vicini per rendere i nostri quartieri migliori, luoghi di vita più sicuri, e questo brevetto è una delle tante idee per migliorare i servizi che offriamo”, ha affermato la società.
Altoparlanti intelligenti, assistenti vocali AI, videocamere campanello e riconoscimento facciale in spazi pubblici hanno tutti i lati positivi. Offrono comodità, tranquillità e il potenziale per risolvere i crimini che altrimenti potrebbero rimanere irrisolti. Ma mettili tutti insieme – con una grande azienda che controlla tutti i dati e collabora strettamente con la polizia e i servizi segreti – e hai il potenziale per un apparato di sorveglianza su una scala che il mondo non ha mai visto.
Supponendo che nessuno impedirà a Amazon di costruire questa rete, la domanda diventa se possiamo fidarci che la società sia responsabile, premurosa e attenta nel progettare i suoi prodotti e custodire le copiose quantità di dati che raccolgono – e se possiamo fidarci di tutto entità che utilizzano la tecnologia di Amazon per farlo in modo responsabile.
La nuvola su tutti noi
In contrasto con Facebook, che ha speso negli ultimi anni scusandosi per scusarsi della privacy e impegnandosi a riparare se stesso – ma in modo inefficace – o Apple, che ha reso la privacy un esplicito punto di vendita, Amazon ha finora mostrato scarsa preoccupazione per le implicazioni etiche della sua tentacolare sorveglianza funzionalità. Mentre Microsoft sta rifiutando di vendere la tecnologia di riconoscimento facciale alla polizia, e Google non vende affatto la sua tecnologia di riconoscimento facciale , Amazon lo sta vendendo ai reparti di polizia di tutto il paese.
Nel caso rimanessero dubbi sulla posizione di Amazon – o sulla mancanza di uno – sulle responsabilità sociali coinvolte nello sviluppo delle sue tecnologie di sorveglianza, il CTO Werner Vogels lo ha messo a riposo ad un evento aziendale a maggio. In un’intervista con la BBC, Vogels ha spiegato che non è compito di Amazon garantire che i suoi sistemi di riconoscimento facciale siano utilizzati in modo responsabile. ” Questa non è la mia decisione di fare “, ha detto. “Questa tecnologia viene utilizzata per sempre in molti luoghi. È nella direzione della società decidere realmente quale tecnologia è applicabile in quali condizioni. “
Quel tono è in cima. Ad una conferenza tecnica a San Francisco nell’ottobre 2018, Bezos inquadrava i contratti militari della compagnia come parte di un dovere patriottico. E ha paragonato lo sviluppo della sua azienda di strumenti di sorveglianza ad alta tecnologia all’invenzione di libri, che secondo lui sono stati usati sia per il bene che per il male. “L’ultima cosa che vorremmo fare è fermare il progresso delle nuove tecnologie “, ha detto Bezos, secondo un rapporto della CNN. Si potrebbe sperare che l’ultima cosa che Amazon vorrebbe fare sia sviluppare nuove tecnologie che causino danni, ma a quanto pare è meno preoccupante per i suoi dirigenti che ostacolare l’innovazione.
Bezos suonò una breve nota di preoccupazione, solo per respingerlo nello stesso respiro: “Sono preoccupato che alcune di queste tecnologie saranno molto utili per i regimi autocratici per rafforzare il loro ruolo … Ma non è nuovo, è sempre stato così. E lo scopriremo. “
L’idea che la marcia dell’innovazione sia inevitabile e che non spetti alle aziende guidare come vengono usate le nuove tecnologie che creano, è stata incarnata nelle strategie delle aziende tecnologiche da decenni. È implicito nell’ethos di “muoversi velocemente e rompere le cose”, nella convinzione che è meglio per gli innovatori chiedere perdono che per il permesso. Ma dal momento che i costi sociali di queste innovazioni sono cresciuti piattaforme più pesanti, un tempo trasgressive come Facebook, Google e Twitter – sollecitate dai loro stessi dipendenti – sono arrivate ad accettare il punto di vista che sono effettivamente responsabili, almeno in una certa misura, per l’impatto dei loro prodotti sulla società, e che hanno qualche potere di modellarlo in modo proattivo.
Amazon, a quanto pare, non si è unito a loro in questa visione.
Gilliard, il ricercatore che ha studiato come Ring e Neighbours potrebbero influenzare le minoranze, dice che sospetta che Amazon non sarà in grado di mantenere un atteggiamento così blasé verso l’impatto dei suoi prodotti – intenzionale o non intenzionale – molto più a lungo. “Amazon non ha ancora avuto il suo momento di Cambridge Analytica,” mi ha detto.
Che aspetto potrebbe avere quel momento per Amazon? Gilliard esitò per un momento e poi abbozzò uno scenario ipotetico. Ha notato che il servizio di consegna a domicilio di Amazon consente ai responsabili delle consegne di lasciare i pacchi all’interno dei garage dei clienti, utilizzando una serratura intelligente. (Inizialmente aveva provato a farli cadere dentro le porte della gente .) Gilliard immagina una persona di colore Amazon che entra nel garage di un cliente, e il cliente riceve un avviso di una persona sospetta da uno dei prodotti di Amazon, come Ring o i vicini app. La situazione potrebbe diventare brutta. “Spero davvero che questo non accada: penso che qualcuno si farà del male”, ha detto Gilliard. “Un impiegato dell’Amazon sta per farsi male, arrestato, aggredito”.
In assenza di un fiasco imponente e dominante, o di un’improvvisa crisi di coscienza da parte dei dipendenti e dei dirigenti di Amazon, la migliore difesa contro il superamento della sorveglianza da parte dell’azienda potrebbe essere la regolamentazione. A maggio, San Francisco è diventata la prima grande città degli Stati Uniti a vietare il riconoscimento facciale . I difensori della tecnologia hanno trovato l’azione prematura e drastica. Ma il dipendente anonimo di Amazon, la cui identità è stata verificata da Medium, ha avvertito che se non interveniamo presto, ” il danno sarà difficile da annullare”È altrettanto difficile immaginare che i dipartimenti di polizia rinuncino all’accesso all’app di Neighbors, una volta che si sono affidati a questo, a meno che non siano obbligati a farlo. E mentre uno potrebbe sperare che Amazon si fermerebbe prima di mettere il riconoscimento facciale in campanelli – o su macchine, o su droni – i suoi leader non ci hanno dato alcuna indicazione che vedono un problema con esso.
L’Amazon ha già superato le barriere della fiducia sociale. È stato lanciato come libreria online nel 1995, ad appena un anno dal primo acquisto online nella storia di Internet. Amazon, insieme a eBay, ha contribuito a convincere il pubblico che usare la propria carta di credito online non era così folle come pensavano gli scettici.
Anche se la società si è espansa in direzioni apparentemente incongrue, ha mantenuto una rigorosa attenzione alla semplificazione dei processi che prima erano ingombranti, dalla consegna rapida ed economica al controllo di dispositivi intelligenti tramite la voce. Puoi vedere lo stesso impulso al lavoro nel modo in cui Rekognition automatizza l’oneroso compito di confrontare il volto di un singolo criminale criminale con centinaia di migliaia di foto segnaletiche in un database, o come Ring lo rende in grado di allertare i vicini e la polizia quando succede qualcosa di sospetto la tua strada Ma vale la pena chiederci, prima di rendere la sorveglianza facile ed onnipresente come un acquisto Amazon con un solo clic, se la società potrebbe essere meglio tenere certe attività un po ‘macchinose dopo tutto.
Aggiornamento: una versione precedente di questa storia ha identificato erroneamente la categoria di mercato in cui Amazon, tramite Ring, è il giocatore dominante. È il giocatore dominante nel mercato delle videocamere campanello. Una versione precedente identificava erroneamente una funzionalità gratuita di Ring come funzione a pagamento. Gli utenti possono guardare filmati dal vivo gratuitamente, o memorizzare e guardare le registrazioni a pagamento. Una versione precedente non chiariva la natura precisa dell’accesso della polizia al sistema Ring. Hanno accesso ai filmati Ring condivisi tramite l’app Neighbors.