Gli autisti a contratto affermano che gli algoritmi li interrompono via e-mail, anche quando non hanno fatto nulla di sbagliato.
Stephen Normandin ha trascorso quasi quattro anni a correre per Phoenix consegnando pacchi come autista a contratto per Amazon.com Inc. Poi un giorno ha ricevuto un’e-mail automatica. Gli algoritmi che lo seguivano avevano deciso che non stava facendo bene il suo lavoro.
Il 63enne veterano dell’esercito è rimasto sbalordito. Era stato licenziato da una macchina.
Normandin afferma che Amazon lo ha punito per cose al di fuori del suo controllo che gli hanno impedito di completare le sue consegne, come complessi di appartamenti chiusi a chiave. Ha detto di aver preso il licenziamento duramente e, orgoglioso di una forte etica del lavoro, ha ricordato che durante la sua carriera militare ha aiutato a cucinare per 250.000 rifugiati vietnamiti a Fort Chaffee in Arkansas.
“Sono un tipo vecchio stile e do ogni lavoro al 110%”, ha detto. “Questo mi ha davvero sconvolto perché stiamo parlando della mia reputazione. Dicono che non ho fatto il lavoro quando so dannatamente bene di averlo fatto.
L’esperienza di Normandin è una svolta rispetto alla previsione decennale secondo cui i robot sostituiranno i lavoratori. In Amazon, le macchine sono spesso il capo: assume, valuta e licenzia milioni di persone con poca o nessuna supervisione umana.
Amazon è diventato il più grande rivenditore online del mondo in parte esternalizzando le sue operazioni tentacolari ad algoritmi, set di istruzioni per computer progettate per risolvere problemi specifici. Per anni, l’azienda ha utilizzato algoritmi per gestire i milioni di commercianti di terze parti sul suo mercato online, attirando lamentele secondo cui i venditori sono stati cacciati dopo essere stati falsamente accusati di vendere merci contraffatte e aumentare i prezzi.
Sempre più spesso, l’azienda sta cedendo le sue operazioni di risorse umane anche alle macchine, utilizzando software non solo per gestire i lavoratori nei suoi magazzini, ma per supervisionare i conducenti a contratto, le società di consegna indipendenti e persino le prestazioni dei suoi impiegati. Le persone che hanno familiarità con la strategia affermano che l’amministratore delegato Jeff Bezos ritiene che le macchine prendano decisioni in modo più rapido e accurato rispetto alle persone, riducendo i costi e offrendo ad Amazon un vantaggio competitivo.
Amazon ha avviato il suo servizio di consegna Flex in stile concerto nel 2015 e l’esercito di autisti a contratto è diventato rapidamente una parte fondamentale della macchina di consegna dell’azienda. In genere, i conducenti Flex gestiscono i pacchi che non sono stati caricati su un furgone Amazon prima che l’autista se ne vada. Invece di far aspettare il cliente, i conducenti Flex assicurano che i pacchi vengano consegnati lo stesso giorno. Gestiscono anche un gran numero di consegne di generi alimentari in giornata dalla catena Whole Foods Market di Amazon. Gli autisti Flex hanno aiutato Amazon a canticchiare durante la pandemia ed erano fin troppo felici di guadagnare circa $ 25 all’ora facendo la spola con i pacchetti dopo che i loro concerti Uber e Lyft si erano esauriti.
Ma nel momento in cui accedono, i conducenti Flex scoprono che gli algoritmi stanno monitorando ogni loro mossa. Sono arrivati alla stazione di consegna quando hanno detto che l’avrebbero fatto? Hanno completato il loro percorso nella finestra prescritta? Hanno lasciato un pacco in piena vista dei pirati del portico invece di nascondersi dietro una fioriera come richiesto? Gli algoritmi di Amazon scansionano il flusso di dati in entrata per i modelli di prestazioni e decidono quali conducenti ottengono più percorsi e quali sono disattivati. Il feedback umano è raro. I conducenti ricevono occasionalmente e-mail automatizzate, ma per lo più sono lasciati ossessionati dalle loro valutazioni, che includono quattro categorie: Fantastico, Ottimo, Giusto o A rischio.
Bloomberg ha intervistato 15 conducenti Flex, tra cui quattro che affermano di essere stati erroneamente licenziati, così come ex manager di Amazon che affermano che il sistema in gran parte automatizzato non è sufficientemente in sintonia con le sfide del mondo reale che i conducenti affrontano ogni giorno. Amazon sapeva che delegare il lavoro alle macchine avrebbe portato a errori e titoli dannosi, hanno affermato questi ex manager, ma ha deciso che era più economico fidarsi degli algoritmi piuttosto che pagare le persone per indagare su accensioni errate purché i driver potessero essere sostituiti facilmente.
Finora, Amazon non ha avuto problemi a trovare appaltatori Flex. Secondo AppAnnie, a livello globale, circa 4 milioni di conducenti hanno scaricato l’app, di cui 2,9 milioni negli Stati Uniti. E più di 660.000 persone negli Stati Uniti lo hanno scaricato nei primi cinque mesi di quest’anno, con un aumento del 21% rispetto allo stesso periodo dell’anno fa, secondo SensorTower, un altro app tracker.
All’interno di Amazon, il programma Flex è considerato un grande successo, i cui benefici superano di gran lunga i danni collaterali, ha affermato un ex ingegnere che ha contribuito alla progettazione del sistema. “I dirigenti sapevano che questo avrebbe cagato nel letto”, ha detto questa persona. “In realtà è così che la mettono nelle riunioni. L’unica domanda era quanta cacca volevamo che ci fosse.”
In una dichiarazione, la portavoce di Amazon Kate Kudrna ha definito aneddotiche le affermazioni dei conducenti di trattamento inadeguato e licenziamento ingiusto e ha affermato che non rappresentano l’esperienza della stragrande maggioranza dei conducenti Flex. “Abbiamo investito molto in tecnologia e risorse per fornire ai conducenti visibilità sulla loro posizione e idoneità a continuare a consegnare e indagare su tutti i ricorsi dei conducenti”, ha affermato.
In qualità di appaltatori indipendenti, i conducenti Flex hanno poco ricorso quando ritengono di essere stati disattivati ingiustamente. Non c’è un congedo amministrativo retribuito durante un ricorso. I conducenti possono pagare $ 200 per portare la loro controversia all’arbitrato, ma pochi lo fanno, considerandolo una perdita di tempo e denaro.
Quando Ryan Cope è stato disattivato nel 2019, non si è preoccupato di discutere né ha preso in considerazione il pagamento dell’arbitrato. A quel punto, Cope aveva già deciso che non c’era modo di soddisfare le richieste degli algoritmi. Percorrendo miglia lungo tortuose strade sterrate fuori Denver nella neve, spesso scuoteva la testa incredulo che Amazon si aspettasse che il cliente ricevesse il pacco entro due ore.
“Ogni volta che c’è un problema, non c’è supporto”, ha detto Cope, che ha 29 anni. “Sei tu contro la macchina, quindi non ci provi nemmeno”.
Quando i conducenti sfidano le valutazioni negative, non possono dire se stanno comunicando con persone reali. Le risposte spesso includono solo un nome o nessun nome e le risposte in genere si applicano a una varietà di situazioni piuttosto che a un problema specifico. Anche se viene allegato un nome, è molto probabile che una macchina abbia generato le prime risposte via e-mail, secondo le persone che hanno familiarità con la questione.
Quando i manager umani vengono coinvolti, in genere conducono una revisione frettolosa, se mai ne fanno una, perché devono soddisfare i propri standard di prestazione. Un ex dipendente di un call center di supporto per i conducenti ha affermato che decine di lavoratori stagionali part-time con poca formazione sono stati assegnati a supervisionare i problemi di milioni di conducenti.
“Amazon non si preoccupa”, ha detto l’ex dipendente di Amazon. “Sanno che la maggior parte delle persone riceverà i propri pacchi e il 2 o il 3% che non lo riceverà riceverà qualcosa alla fine”.
Amazon ha automatizzato le sue operazioni sulle risorse umane più della maggior parte delle aziende. Ma l’uso di algoritmi per prendere decisioni che influiscono sulla vita delle persone è sempre più comune. Le macchine possono approvare le domande di prestito e persino decidere se qualcuno merita la libertà vigilata o se deve rimanere dietro le sbarre. Gli esperti di informatica hanno chiesto che le normative impongano alle aziende di essere trasparenti su come gli algoritmi influenzano le persone, fornendo loro le informazioni di cui hanno bisogno per segnalare e correggere gli errori. I legislatori hanno studiato la questione, ma sono stati lenti nell’emanare norme per prevenire danni. A dicembre, il senatore Chris Coons, democratico del Delaware, ha introdotto l’ Algorithmic Fairness Act. Richiederebbe alla Federal Trade Commission di creare regole che garantiscano che gli algoritmi vengano utilizzati in modo equo e che coloro che sono interessati dalle loro decisioni siano informati e abbiano l’opportunità di correggere gli errori. Finora la sua proposta non è andata da nessuna parte.
Neddra Lira, di Arlington, in Texas, ha iniziato a effettuare consegne tramite l’app Amazon Flex nel 2017. Autista di scuolabus di 42 anni e madre di tre figli, ha accettato il lavoro secondario durante le vacanze e le estati per guadagnare denaro extra, che pagava le lezioni di ginnastica di sua figlia. Quando la pandemia ha colpito e le scuole sono state chiuse, Lira si è rivolta a Flex come sua principale fonte di reddito, consegnando pacchi e generi alimentari da Whole Foods. Le piaceva la flessibilità e l’opportunità di intascare circa $ 80 per un percorso di quattro ore, dopo aver sottratto la benzina per il suo crossover Chevrolet Trax.
Lira stima di aver consegnato circa 8.000 pacchi e di aver ottenuto una valutazione “ottima” per la maggior parte del tempo. Gli algoritmi di Amazon valutano i conducenti in base alla loro affidabilità e qualità di consegna, misurata principalmente dal fatto che siano arrivati a ritirare i pacchi in tempo, se abbiano effettuato le consegne entro la finestra prevista e se abbiano seguito le richieste speciali dei clienti. Le metriche flessibili si concentrano principalmente sulla puntualità, a differenza dei servizi di chiamata in corsa come Uber e Lyft, che danno la priorità anche a cose come la pulizia dell’auto o la cortesia del conducente. Inoltre, i passeggeri di Uber e Lyft sanno quando sono bloccati nel traffico, quindi i conducenti hanno meno probabilità di essere penalizzati per circostanze al di fuori del loro controllo.
Un cliente Amazon non ha idea degli ostacoli che i conducenti Flex incontrano sulla strada per la loro residenza, e nemmeno gli algoritmi che li cronometrano. Lira dice che a volte c’erano così tanti autisti in fila fuori dalla stazione di consegna, che ha aspettato fino a un’ora per recuperare i suoi pacchi, mettendola in ritardo sul programma prima ancora di iniziare il suo percorso. Quando ha notato un chiodo nella sua gomma, Amazon non si è offerta di venire a recuperare i pacchi, ma le ha chiesto di restituirli alla stazione di consegna. Lira aveva paura che la gomma si sgonfiasse ma obbedì per proteggerla in piedi. Nonostante abbia spiegato la situazione, la sua valutazione è scesa a “a rischio” da “ottima” per aver abbandonato la rotta e ha impiegato diverse settimane per riprendersi.
Più volte, Lira è stata rassicurata sul fatto che la sua valutazione fosse buona. Una tipica e-mail è arrivata il 1 ottobre. “La tua posizione è attualmente ottima, il che significa che sei uno dei nostri migliori partner di consegna”, ha detto il messaggio firmato “Madhu S.” Ma il giorno successivo, “Bhanu Prakash” ha inviato un’e-mail per dire che aveva violato i termini di servizio di Flex. “Di conseguenza, non sei più idoneo a partecipare al programma Amazon Flex e non potrai accedere all’app Amazon Flex.”
Lira è stata fornita un indirizzo e-mail e invitata a presentare ricorso contro la risoluzione entro 10 giorni. Lo ha fatto e ha chiesto perché è stata disattivata in modo da poter dire all’assistenza driver Flex cosa è andato storto. Non ha mai avuto ulteriori dettagli. Ha seguito il 18 ottobre, spiegando che era una madre single licenziata dal suo lavoro regolare a causa della pandemia e che Flex era l’unica cosa che la teneva a galla. Lira ha ricevuto quella che sembra essere una risposta automatica da “The Amazon Flex Team” scusandosi per il ritardo e assicurandole che la sua situazione sarebbe stata indagata dal team appropriato.
Tre giorni dopo, il 21 ottobre, ha ricevuto un messaggio da “Margaret” che diceva “stiamo ancora esaminando il tuo ricorso”. Poi, una settimana dopo, il 28 ottobre, un’e-mail firmata “SYAM” diceva: “Abbiamo esaminato le tue informazioni e dato un’altra occhiata alla tua cronologia. La nostra posizione non è cambiata e non ripristineremo il tuo accesso al programma Amazon Flex… Ti auguriamo successo nei tuoi sforzi futuri.”
Senza il concerto di guida, Lira ha iniziato a lottare finanziariamente. Ha smesso di pagare il mutuo e la sua auto è stata sequestrata due giorni dopo Natale con i regali donati per i suoi figli ancora dentro. Lira è stata costretta a prendere un sussidio governativo per pagare le bollette di luce, gas e acqua. Alla fine ha ricominciato a guidare lo scuolabus e ha usato la maggior parte di un assegno di stimolo alla pandemia per riavere la sua auto, pagando $ 2.800 in pagamenti mancati, recupero e spese di deposito.
“Semplicemente non era giusto”, ha detto Lira. “Ho quasi perso la mia casa.”
Gli ingegneri informatici che hanno progettato Flex hanno lavorato duramente per renderlo equo e considerare variabili come ingorghi e problemi di accesso agli appartamenti che il sistema non è in grado di rilevare, hanno affermato ex dipendenti. Ma nessun algoritmo è perfetto, e alle dimensioni di Amazon anche un piccolo margine di errore può essere considerato un enorme successo interno e infliggere ancora molto dolore ai conducenti. I driver Amazon Flex consegnano circa il 95% di tutti i pacchetti in tempo e senza problemi, secondo una persona che ha familiarità con il programma. Gli algoritmi esaminano quel 5% rimanente per i modelli problematici.
Gli algoritmi Flex sono iniziati come strumenti contundenti e sono stati perfezionati nel tempo. All’inizio, secondo una persona che ha familiarità con la situazione, i progettisti hanno fissato un periodo di tempo troppo stretto per i conducenti per arrivare alla stazione di consegna. Non erano riusciti a tener conto della natura umana. I conducenti desiderosi di lavoro promettevano di arrivare entro una certa ora quando erano troppo lontani per farcela. Il difetto ha portato i buoni driver a fallire, ha detto la persona, ed è stato risolto solo dopo un crollo diffuso delle valutazioni. Il sistema utilizza anche il GPS per decidere quanto tempo occorre per raggiungere un indirizzo specifico, ma a volte non tiene conto del fatto che la navigazione su una strada rurale nella neve richiede molto più tempo rispetto all’attraversamento di una strada suburbana in una giornata di sole.
Il sistema ha funzionato bene per Normandin per anni. Nativo dell’Arizona, che in precedenza consegnava pizze la sera e giornali al mattino, conosceva tutte le scorciatoie e le strozzature del traffico. Ha anche guidato per Uber e Lyft, ma ha assunto più lavoro Flex durante la pandemia quando la domanda di corse è diminuita ed è diventato più rischioso trasportare passeggeri che trasportare pacchi.
Normandin ha goduto di valutazioni stellari e gli è stato persino chiesto se gli piacerebbe addestrare altri piloti. Aveva un sistema ben affinato: smistare i pacchi prima di lasciare la stazione, mettere le sue prime consegne sul sedile anteriore, i successivi numerosi pacchi sul retro e infilare l’ultimo lotto in profondità nella parte posteriore della sua Toyota Corolla del 2002. Normandin è stato disabile dal punto di vista medico per più di un decennio a causa di un disturbo allo stomaco e problemi alla schiena che gli impediscono di stare seduto o in piedi in un posto per periodi prolungati. Gli piaceva il lavoro da concerto perché poteva lavorare poche ore alla volta.
Poi, a partire dallo scorso agosto, Normandin ha avuto una serie di battute d’arresto che secondo lui erano al di fuori del suo controllo. Amazon gli ha assegnato alcune consegne prima dell’alba nei complessi di appartamenti quando i loro cancelli erano ancora chiusi, una lamentela comune tra i conducenti Flex. L’algoritmo ordina ai conducenti in tali casi di consegnare i pacchi all’ufficio principale, ma nemmeno quello era aperto. Normandin ha chiamato il cliente come da istruzioni, una possibilità ardua perché la maggior parte delle persone non risponde alle chiamate da numeri sconosciuti, soprattutto la mattina presto. Ha chiamato l’assistenza del conducente, che non è riuscita nemmeno a contattare il cliente. Nel frattempo, il tempo stringeva e l’algoritmo prendeva nota.
“Ci sono molte cose che gli algoritmi non prendono in considerazione e la mano destra non sa cosa sta facendo la mano sinistra”, ha detto Normandin.
Più o meno nello stesso periodo, gli è stato chiesto di consegnare i pacchi a un armadietto Amazon in un complesso di appartamenti, ma non è riuscito ad aprirlo. Dopo 30 minuti al telefono con l’assistenza gli è stato detto di restituire i pacchi alla stazione di consegna. Poi la sua valutazione è crollata. Normandin ha chiamato di nuovo l’assistenza per spiegare che il responsabile era un armadietto malfunzionante e gli è stato detto che il problema sarebbe stato risolto. “Non l’hanno mai aggiustato”, ha detto, “e ci sono volute sei settimane per far risalire la mia valutazione”.
Il 2 ottobre, Normandin si è svegliato alle 3 del mattino, si è fatto una doccia e ha preso il telefono per trovare un percorso Flex, ma non è riuscito ad accedere. Ha controllato la sua e-mail e ha trovato un messaggio generico di Amazon firmato da “Gangardhar M”. Diceva che la posizione di Normandin era “scesa al di sotto di un livello accettabile” e che era stato licenziato.
Quindi ha iniziato un processo familiare a chiunque si fosse trovato intrappolato in un ciclo automatizzato del servizio clienti, tranne che in questo caso Normandin non stava cercando un rimborso per un prodotto danneggiato. Stava lottando per riavere il suo lavoro.
Offrendo i 10 giorni standard di Amazon per presentare ricorso, Normandin ha inviato un’e-mail al supporto Flex e ha chiesto che la sua risoluzione fosse annullata. Ha spiegato che aveva già segnalato ad Amazon circostanze al di fuori del suo controllo e gli era stato promesso che le infrazioni non sarebbero state imputate a lui
Normandin ha ricevuto una risposta il giorno successivo da “Pavani G”, ringraziandolo per “aver fornito più contesto sulla tua storia con Amazon Flex”. Normandin ha risposto a quell’e-mail con ulteriori informazioni e ha ricevuto la stessa identica risposta promettendo di esaminare il problema, ma questa volta è stata firmata da “Bitan Banerjee”. L’e-mail si impegnava a fornire una risposta entro sei giorni. Sette giorni dopo, “Arnab” ha inviato un’e-mail per scusarsi per il ritardo e ha promesso un aggiornamento il prima possibile.
Nel frattempo, Normandin non guadagnava soldi. Contava sulla vendita annuale del Prime Day di Amazon, che era stata posticipata a ottobre, per guadagnare i soldi di cui aveva bisogno per pagare le bollette. Senza risposta entro il 19 ottobre, Normandin ha inviato di nuovo un messaggio ad Amazon, questa volta copiando Bezos.
“Chiedo dettagli specifici su come è stata raggiunta questa decisione per la disattivazione del mio account”, ha scritto. “Sono fiducioso che dopo un’attenta revisione della mia intera cronologia di consegna come autista Amazon Flex mostrerò una storia coerente di prestazioni ai massimi livelli, di una persona ragionevole e prudente”.
Circa 12 ore dopo, ha ricevuto una risposta che lo informava che Bezos aveva ricevuto l’e-mail e aveva incaricato “Taylor F” di ricercare il problema e rispondere per suo conto. Il 23 ottobre, Normandin ha ricevuto un’e-mail da “Raquel” del team di supporto di Amazon Flex per informarlo che stavano ancora esaminando il suo ricorso. Gli ex dipendenti di Amazon che hanno lavorato su Flex hanno affermato che passare a Bezos è una tattica comune tra i conducenti disattivati, ma raramente li aiuta.
Il verdetto è arrivato il 28 ottobre da “SYAM”, lo stesso nome nel messaggio finale a Lira. L’e-mail non rispondeva direttamente alle affermazioni di Normandin, ma riconosceva le sfide del lavoro, dicendo: “Comprendiamo che ogni partner di consegna ha giorni difficili e che a volte potresti riscontrare ritardi, e ne abbiamo già tenuto conto”. Ma Normandin non stava ancora riprendendo il suo lavoro.
Dopo che lo shock si è placato, ha provato un paio di altri servizi di consegna, ma ha invece deciso di utilizzare i soldi dello stimolo alla pandemia per avviare un’attività di riparazione di piccoli motori. Era tempo di trattare di nuovo direttamente con gli esseri umani. Delle persone che hanno progettato gli algoritmi che lo hanno monitorato, valutato e infine licenziato, Normandin ha affermato: “Sembra che non abbiano alcun senso comune su come funziona il mondo reale”.
