I documenti trapelati mostrano come Astro Robot di Amazon tiene traccia di tutto ciò che fai
Le riunioni trapelate mostrano che il robot farà molto affidamento sul riconoscimento facciale e sul comportamento degli utenti, ma le fonti che hanno lavorato su Astro affermano che il robot è difettoso.
Di Matthew Gault
Di Joseph Cox
Da VICE
Il nuovo robot di Amazon chiamato Astro è progettato per tracciare il comportamento di tutti nella tua casa per aiutarlo a svolgere i suoi compiti di sorveglianza e aiuto, secondo i documenti di sviluppo interni trapelati e le registrazioni video delle riunioni di sviluppo del software Astro ottenute da Motherboard. Il sistema di riconoscimento delle persone del sistema è gravemente difettoso, secondo due fonti che hanno lavorato al progetto.
I documenti, che utilizzano in gran parte il nome in codice interno di Astro “Vesta” per il dispositivo, forniscono informazioni approfondite sul design del robot, sulla filosofia di Amazon, su come il dispositivo tiene traccia del comportamento dei clienti e sui diagrammi di flusso di come determina chi è uno “straniero” e se dovrebbe intraprendere ogni sorta di “attività investigativa” contro di loro.
Sentinella
Nel suo video di annuncio, Amazon afferma che Astro è progettato per dare “tranquillità” ai suoi proprietari. Innanzitutto, Astro è un dispositivo di sorveglianza che tiene traccia di te e di chiunque entri in casa tua. Quando un utente acquista il robot da $ 999, ai clienti viene chiesto di “registrare” il proprio volto e la propria voce, nonché i volti e le voci di chiunque sia probabile che si trovi in una casa, in modo che Astro possa sapere chi dovrebbe essere lì.
Uno dei file di documentazione interna presentati in una riunione di sviluppo e ottenuti da Motherboard descrive come Astro pattuglia la casa di un proprietario e cerca di identificare le persone che incontra. Altri file fanno riferimento a “Sentry”, i componenti e il software che controllano le funzioni di sicurezza del dispositivo. Il software Sentry include l’integrazione con le videocamere Ring e Alexa Guard , il servizio di sicurezza domestica di Amazon.
Il documento della riunione spiega il processo in un modo molto più schietto di quanto suggerisca il marketing carino di Amazon.
“Vesta pattuglia lentamente e in modo intelligente la casa quando ci sono persone sconosciute, spostandosi da un punto di scansione all’altro (la posizione e la posa migliori in un dato spazio per guardarsi intorno) cercando e ascoltando attività insolite”, si legge in uno dei file. “Vesta si sposta in un punto di scansione predeterminato e si mette in posa per scansionare qualsiasi stanza, guardando oltre gli ostacoli sul suo cammino. Vesta completa una pattuglia completa quando completa la scansione di tutti i punti di scansione sulla planimetria.”
“Astro è terribile e quasi sicuramente si butterà giù da una rampa di scale se se ne presenterà l’opportunità.”
Se il robot rileva ciò che pensa sia qualcosa fuori dall’ordinario, come vedere una persona che non riconosce, o un suono come un vetro che si rompe o un allarme antincendio, indagherà ulteriormente anche seguendo una persona non identificata in casa, il file legge.
“Sentry è necessario per indagare su qualsiasi persona non riconosciuta rilevata da essa o per eventi audio in determinate condizioni”, si legge in un file. “Sentry dovrebbe prima provare a identificare la persona se non viene ancora riconosciuta per 30 secondi [secondi]. Quando la persona viene identificata come sconosciuta o se sono trascorsi 30 secondi, Sentry dovrebbe iniziare a seguirla fino a quando la modalità Sentry non viene disattivata.”
Un diagramma di flusso presentato durante l’incontro spiega esattamente cosa succede quando Astro rileva una “presenza” e come è progettato per “indagare su estranei”. Se un utente ha disabilitato “indagine su estraneo”, il robot ignorerà un estraneo. Se è impostato su “Modalità sentinella” o su una modalità di pattuglia, si avvicinerà allo sconosciuto o lo seguirà e inizierà una serie di “attività di indagine”, che Amazon descrive come “una serie di azioni che Sentry intraprende per indagare sull’audio o sulla presenza mentre registrazione.” In genere, se Astro avvia un’indagine, seguirà lo sconosciuto, registrerà audio e video e quindi caricherà automaticamente una registrazione che l’utente potrà visualizzare in seguito.
Un utente può dire al robot di avviare o interrompere una pattuglia tramite un’app complementare o pronunciando una frase specifica ad alta voce, come “Eco, chiedi a astro di avviare il monitoraggio della casa” o “Alex smetti di muoversi”.
ANNUNCIO
L’utente può anche mettere il robot in un’impostazione “Away”, per segnalare che l’utente non è in casa e ha bisogno che il robot pattuglia periodicamente da solo. L’utente può quindi trasmettere in live streaming e visualizzare ciò che il robot vede su un altro dispositivo, come il telefono, mentre non è a casa. Gli utenti possono anche avviare videochiamate bidirezionali tramite l’app complementare e il robot.
“Quando vesta completa un ciclo completo di pattuglia, viene creato un programma per la prossima pattuglia, pubblica un’ora l’ora dell’attività di pattuglia corrente”, si legge in uno dei file.
Un robot imperfetto
Gli sviluppatori che hanno lavorato su Astro affermano che le versioni del robot su cui hanno lavorato non hanno funzionato bene.
“Astro è terribile e quasi sicuramente si butterà giù da una rampa di scale se se ne presenterà l’opportunità. Il rilevamento della persona è inaffidabile nella migliore delle ipotesi, rendendo ridicola la proposta di sicurezza interna”, ha detto una fonte che ha lavorato al progetto. “Il dispositivo sembra fragile per qualcosa con un costo assurdo. L’albero si è rotto su diversi dispositivi, bloccandosi in posizione estesa o retratta, e non c’è modo di spedirlo ad Amazon quando ciò accade”.
“Lo stanno anche spingendo come dispositivo di accessibilità, ma con i tralicci che si rompono e la possibilità che in un dato momento si suicida su una rampa di scale, è, nella migliore delle ipotesi, assurdità e marketing e, nella peggiore, potenzialmente pericoloso per chiunque faccia affidamento su di esso per scopi di accessibilità”, ha detto la fonte.
Un’altra fonte che ha lavorato al progetto ha menzionato la privacy e la navigazione come preoccupazioni principali. “Per quanto riguarda le mie opinioni personali sul dispositivo, è un disastro che non è pronto per il rilascio”, hanno detto. “Si rompono da soli e quasi sicuramente cadranno dalle scale nelle case degli utenti del mondo reale. Inoltre, è anche (secondo me) un incubo per la privacy che è un atto d’accusa nei confronti della nostra società e del modo in cui scambiamo la privacy per comodità con dispositivi come Vesta”.
La fonte ha anche confermato che le capacità di riconoscimento facciale di Astro funzionano male, il che è preoccupante per un dispositivo progettato principalmente per seguire le persone in giro e determinare se sono estranee o meno.
Il robot si integrerà anche strettamente con il sistema di sicurezza Ring di Amazon, anche rispondendo a “eventi Ring” come il suddetto allarme antincendio e pattugliando automaticamente quando il sistema di sicurezza è impostato su assente.
Kristy Schmidt, senior PR manager per dispositivi e servizi di Amazon, ha detto a Motherboard in un’e-mail che per quanto riguarda il riconoscimento della persona, “oltre a consultarci con diversi Amazon Scholar specializzati in visione artificiale, abbiamo anche consultato un esperto esterno in pregiudizi algoritmici, Ayanna Howard, preside dell’Ohio State University College of Engineering, per rivedere i passi che abbiamo adottato per migliorare l’equità di questa funzionalità”, ripetendo quanto affermato da Amazon in un post sul blog in cui si discuteva della funzione di identificazione visiva dell’azienda.
“Queste caratterizzazioni delle prestazioni, dell’albero e dei sistemi di sicurezza di Astro sono semplicemente imprecise. Astro ha superato test rigorosi sia sulla qualità che sulla sicurezza, comprese decine di migliaia di ore di test con i partecipanti alla versione beta. Ciò include test completi sul sistema di sicurezza avanzato di Astro, che è progettato per evitare oggetti, rilevare scale e fermare il dispositivo dove e quando necessario”, ha aggiunto Schmidt in un’e-mail.
“Amazon è stata premurosa nella progettazione, test e potenziamento dei propri approcci in base a dati e feedback al fine di ridurre al minimo i pregiudizi dalla loro funzione di identificazione visiva. Hanno definito obiettivi di prestazioni rilevanti per i casi d’uso dei loro prodotti, addestrato i loro modelli su un ampio volume di dati incredibilmente diversi e hanno condiviso con me dettagli sufficienti sui loro metodi in uno sforzo genuino per garantire che la funzione non solo funzioni statisticamente bene per tutti i loro clienti, ma continui anche a migliorare nel tempo per conto di quei clienti”, Il dottor Howard ha detto, secondo una citazione fornita da Schmidt.
Seguendo i clienti ovunque
Affinché Astro, che secondo Amazon “migliorerà la vita dei clienti in un modo in cui l’elettronica di consumo tradizionale non può”, per funzionare bene, il robot deve raccogliere dati sul tuo comportamento e sulla tua casa.
“Vesta ha bisogno di imparare il comportamento dei clienti”, afferma un documento che spiega la filosofia della “robotica sociale” di Amazon.
“L’obiettivo è rendere Vesta un ‘robot intelligente’ e consentire alcune interazioni semplici ma magiche con le persone”, afferma il documento di robotica sociale. Per fare ciò, Astro deve mappare completamente la casa di un utente, creando una mappa termica di “strozzature” e aree ad alto traffico in cui è probabile che il robot rimanga bloccato o “luoghi in cui sarà facilmente colpito dagli umani” come corridoi, portoni e la cucina.
UNA MAPPA DELLA CASA DI UN UTENTE, CON “STROZZATURE” IN ROSSO
Astro dovrebbe imparare nel tempo, il che significa che deve tenere traccia di ciò che gli umani stanno facendo, dove stanno andando e dove è probabile che si radunino.
“È, nel migliore dei casi, un’assurdità e un marketing assurdi e, nel peggiore dei casi, potenzialmente pericoloso per chiunque faccia affidamento su di esso per scopi di accessibilità”.
“La mobilità nel dispositivo deve funzionare perfettamente. Sto dicendo perfetto qui perché se non funziona perfettamente, non possiamo aspettarci che la robotica sociale sia benvenuta [nelle case delle persone]”, afferma uno sviluppatore che ha lavorato su Vesta in una riunione.
Per essere perfetto, Astro deve “apparire ‘intelligente’ agli utenti”, “ha bisogno di interagire bene con le persone, tenendo conto delle norme sociali”, ha bisogno di monitorare e imparare dal comportamento dei clienti e “ha bisogno di avere un certo livello di autonomia . È disponibile quando necessario e “vuole” essere intorno agli umani ma non sotto i piedi.”
Schmidt ha detto a Motherboard che “abbiamo progettato Astro per gestire gran parte dell’elaborazione dei dati sul dispositivo, comprese le immagini e i dati grezzi del sensore che elabora mentre si sposta all’interno della tua casa. Questo aiuta Astro a rispondere rapidamente al suo ambiente. Inoltre, la tua visuale L’ID è memorizzato sul dispositivo e Astro utilizza l’elaborazione sul dispositivo per riconoscerti.”
I programmatori di Amazon hanno anche affermato in una riunione di aver determinato le distanze ottimali da cui Astro dovrebbe interagire con i clienti. Ad esempio, nella maggior parte dei casi dovrebbe essere “socialmente distante”, ovvero da 1 a 1,5 metri di distanza da un utente. Tuttavia, “quando un utente acquista qualcosa da Amazon, il dispositivo sa che lo [schermo] deve essere visibile. A 40 centimetri di distanza” dal cliente.
