Gli errori dell’IA di Matthew Black
Nonostante l’inondazione di conferenze, titoli, TED Talks e polemiche che circondano l’intelligenza artificiale nel corso degli ultimi anni, la maggior parte di ciò che viene pubblicato su intelligenza artificiale e si diffonde attraverso i media tradizionali e social network non vanno oltre l’hype tecno-utopista promosso dalla Silicon Valley o i titoli apocalittici di esca a scatto che predicono la disoccupazione di massa e l’inutilità umana. Tuttavia, l’intelligenza artificiale è, in sostanza, solo una forma di automazione, una delle tante nello sviluppo di macchinari sotto il capitalismo, che riduce i costi e aumenta la produttività.
“ Pochi sviluppi tecnologici … hanno suscitato tante emozioni contraddittorie quanto l’automazione. È stato così da quando Henry Ford ha perfezionato la catena di montaggio all’inizio del XX secolo. L’automazione è progredita costantemente da allora nelle fabbriche, nei back office e nei negozi, ma queste emozioni stanno ribollendo di nuovo mentre le tecnologie di automazione intelligenti basate sui dati fanno sentire la loro presenza . ”
Queste “emozioni contraddittorie” derivano dalla paura che l’automazione cerchi di rimuovere il lavoro umano ove possibile o ridurlo a un ruolo supplementare quando non lo è. Per la classe lavoratrice, quindi, l’automazione è una minaccia incombente e costante mentre per manager, amministratori delegati e proprietari di capitale l’automazione è semplicemente un mezzo per “aggiungere valore al business”.
In termini di tecnologie dell’informazione, queste paure “sono esplose” almeno fino al 1964, quando il cosiddetto Comitato della Tripla Rivoluzione inviò il presidente americano Lyndon B. Johnson a presentare un appello per affrontare la “rivoluzione della cibernazione” che, come combinazione di “Il computer e la macchina autoregolante”, hanno minacciato di mettere senza lavoro un numero senza precedenti di persone . Gli economisti mainstream generalmente respingono queste preoccupazioni poiché la saggezza convenzionale è che ” … a lungo termine, la tecnologia è un creatore netto di posti di lavoro. ”
“L’ automazione di un compito particolare, in modo che possa essere svolto in modo più rapido o economico, aumenta la richiesta dei lavoratori umani di svolgere le altre attività che non sono state automatizzate. “O in altri termini, il profitto” non deriva dalla forza lavoro che è stata sostituita dalla macchina, ma dalla forza lavoro effettivamente impiegata nel lavoro con la macchina. ”
Vi sono, tuttavia, alcune contraddizioni relative all’intelligenza artificiale che vengono spesso iniettate nel discorso pubblico dai suoi stessi creatori, rivelando sia la loro affinità neoliberale che la loro conoscenza di quanto sia effettivamente limitata. Ad esempio, nel 2018, dopo che lo scandalo di Cambridge Analytica ha dimostrato che le piattaforme di social media potevano avere i loro algoritmi facilmente manipolabili da campagne di disinformazione organizzate per influire sui processi democratici, Mark Zuckerberg è stato chiamato per essere interrogato davanti al Senato americano. Durante la sessione, Zuckerberg ha insistito (24 volte durante la sessione di tre ore) che l’IA può risolvere tutti i problemi che preoccupavano i senatori e la società in generale. È interessante notare che ha anche fatto riferimento all’assunzione di 20.000 persone per lavorare su “sicurezza e revisione dei contenuti” perché “[alcuni] alcuni problemi si prestano più facilmente alle soluzioni di intelligenza artificiale rispetto ad altri”. Per mettere questo in prospettiva, l’ operazione totale di Facebook impiega poco meno di 40.000 dipendenti a tempo pieno in tutto il mondo . In altre parole, ha assunto un equivalente della metà della sua forza lavoro totale per il tipo di moderazione dei contenuti che l’intelligenza artificiale non può fornire perché la comprensione delle sfumature linguistiche è al di là di ciò che può fare in modo affidabile.
L’intelligenza artificiale è fondamentalmente un motore di previsione in grado di scansionare autonomamente set di dati al fine di calcolare i possibili risultati. Comunica i risultati di tali calcoli in modi diversi a seconda dell’applicazione specifica a portata di mano, ad esempio un orario di arrivo previsto o una query di ricerca in un’altra. I progressi innegabili nel calcolo hanno portato la Silicon Valley a rivendicare il successo nello sviluppo di qualcosa di simile all’intelligenza umana, ma in realtà quello che hanno fatto è semplicemente dirottare il nome di un campo di studio scientifico per commercializzare l’applicazione pratica di strumenti di calcolo avanzati. Secondo Noam Chomsky, questo “la nuova IA […] si concentra sull’uso di tecniche di apprendimento statistico per estrarre e prevedere meglio i dati [e] è improbabile che producano principi generali sulla natura degli esseri intelligenti o sulla cognizione. “Gli strumenti di AI semplicemente calcolano e il calcolo non equivale all’intelligenza. Il fatto che la Silicon Valley insista per equiparare quei due nelle menti del pubblico non lo rende tale. Per parafrasare John Searle, nella misura in cui possiamo creare macchine in grado di eseguire calcoli, i calcoli non sono pensieri e non possono eseguire processi cognitivi perché l’intelligenza è un processo biochimico .
L’adesione di Zuckerberg alla strategia di marketing della Silicon Valley che promette tutto a tutti attraverso un’intelligenza artificiale onnisciente è comprensibile. Negli Stati Uniti, mentre gli investimenti in startup in generale sono stati relativamente stagnanti, gli investimenti in startup AI sono aumentati “esponenzialmente” del 113% tra il 2015 e il 2018. Per quanto riguarda gli investimenti in capitale di rischio in AI, la crescita è ancora più drammatica con un aumento di 350 % in soli quattro anni, tra il 2013 e il 2017. Silicon Valley ha scelto l’intelligenza artificiale come marchio e, considerando i soldi in gioco, non sorprende che il mago non desideri che il sipario si tiri indietro. Se così fosse, vedremmo l’IA in tutta la sua fragilità algoritmica, incapace di comprendere la differenza tra uno scherzo e una minaccia e incapace di comprendere il pericoloso grado di fede e responsabilità che i suoi creatori umani hanno posto sulla sua capacità di “estrarre e prevedere” . Siamo quindi di fronte a un duplice errore. Da un lato, l’IA non è in grado di affrontare i problemi quotidiani sorti dalla costante digitalizzazione e dataficiation della vita umana e, in molti casi, complica ulteriormente le cose solo attraverso i pregiudizi integrati nei suoi calcoli. D’altra parte, quando si usa l’IA, è necessario il lavoro umano per risvegliarlo dai morti, come potrebbe dire Marx, proprio come qualsiasi altro strumento o pezzo di macchina.
Sin tutto il mondo, il numero esatto di persone che lavorano dietro il sipario è sconosciuto. Esistono, in linea di massima, due diverse categorie: moderatori di contenuti ed etichettatrici di dati, anche se non è chiaro quanto spesso questi due si sovrappongano o significhino la stessa cosa.
” Il segreto peggio tenuto alla spinta dell’intelligenza artificiale della Silicon Valley”, dice un recente articolo sul Washington Post, “è stato l’esercito dell’industria tecnologica di […] lavoratori a contratto a basso salario [che] passano le loro giornate a cercare post offensivi o inquietanti contenuto, indirettamente aiutando a formare il programma di intelligenza artificiale su quali problemi e modelli cercare. ”
Situato in India, nelle Filippine, in Cina e in molte città degli Stati Uniti, il numero esatto di moderatori di contenuti che lavorano direttamente o indirettamente per le grandi società di social media è compreso tra 30 e 50.000 persone. Il contenuto che visualizzano è così inquietante che molti non durano. L’elevato tasso di turnover svolge un ruolo importante nel mantenere bassi i salari, limitando le prestazioni e in molti casi fornendo un supporto psicologico insufficiente o altri meccanismi di coping.
Dal momento che gli scandali relativi ai dati che coinvolgono Facebook e altre società hanno messo in luce l’esistenza e la necessità di questi moderatori, molte organizzazioni hanno pubblicato resoconti giornalistici importanti e rivelatori devastanti di ciò che è coinvolto. Prenditi un momento per immaginare tutte le cose malvagie, strazianti e tragiche che accadono ogni giorno. Abusi sessuali, omicidi, odio, maltrattamenti di animali, immagini raccapriccianti di guerra; inspiegabilmente, gran parte di esso è volontariamente condiviso attraverso i social media. Affinché tu non possa vedere questo contenuto, qualcun altro deve. Un moderatore di contenuti può iniziare la giornata guardando un video di un uomo pugnalato a morte. Deve quindi spiegare perché quel video viola o meno la politica sui contenuti di Facebook e se deve essere rimosso o meno . Un altro, impiegato da un altro appaltatore,deve determinare se l’uomo adulto che tocca i genitali esposti di un bambino lo sta facendo per caso o di proposito, mentre un altro, impiegato da un terzo appaltatore, esaminerà le riprese delle riprese del night club Pulse a Orlando . È probabilmente vero, come sostengono le società di social media, che la maggior parte dei contenuti che richiedono moderazione non è sempre così e spesso non va al di là del bullismo, dell’odio o delle teorie del complotto. Forse è anche vero che i moderatori guadagnano al di sopra del salario minimo in ciascuno dei paesi in cui lavorano e che ricevono una consulenza adeguata per far fronte al materiale con cui lavorano. Ma quanti post contenenti pedofilia, suicidio o omicidio possono essere considerati gestibili? E qual è esattamente un salario ragionevole per filtrare la fogna globale di depravazione, paura e tristezza umane?
Ilmondo delle “fattorie di dati” sembra essere molto più vario con gli appaltatori che si offrono di creare set di dati per il riconoscimento facciale, i veicoli a guida autonoma, l’assistenza sanitaria e qualsiasi altra applicazione dell’intelligenza artificiale. Questa etichettatura è necessaria perché, come abbiamo visto sopra, il software non ha alcuna capacità cognitiva, può solo calcolare, quindi affinché un algoritmo identifichi una mela, “ha bisogno di migliaia o milioni di immagini di mele. “I limiti dell’IA hanno quindi creato la necessità di un’intera nuova categoria di lavoratori, soddisfacendo in tal modo la tesi tecno utopica della Silicon Valley secondo cui l’automazione crea nuovi posti di lavoro, sebbene in modo un po ‘ironico.In “India, Cina, Nepal, Filippine, Africa orientale e Stati Uniti, decine di migliaia di impiegati stanno dando un pugno all’orologio mentre insegnano le macchine. “Il numero esatto di etichettatrici di dati è difficile da definire e ci sono” molte altre migliaia “impiegate in modo indipendente attraverso il Turk meccanico di Amazon e altri servizi di crowdsourcing. Ce ne sono altri a venire. Nel tentativo di automatizzare, l’adozione dell’IA da parte delle aziende di tutti i settori consentirà al mercato dei servizi di etichettatura dei dati di crescere da un mercato di $ 150 milioni nel 2018 (impiegando “centinaia di migliaia”) a oltre $ 1 miliardo entro il 2023. Sfortunatamente non tutte le etichette dei dati sono così benigne come insegnare algoritmi per riconoscere le mele. Molti dei lavoratori di questa nuova estensione dell’industria dell’intelligenza artificiale trovano i video medici, la pornografia o la violenza che sono esposti a disturbi e sebbene alcuni abbandonino rapidamente il loro lavoro, molti non riescono. “ [F] o quelli di noi che non possono permettersi di non tornare al lavoro, lo fai e basta. ”
L’immagine di centinaia di migliaia di persone che lavorano per ore alimentando l’intelligenza artificiale i dati di cui ha bisogno e “addestrandolo” per differenziare correttamente tra un gatto e un’auto, tra violenza reale e violenza simulata, ricorda il lavoro umano necessario nel XIX secolo fabbriche per mettere in moto le loro macchine giganti. L’applicazione innovativa di scienza e tecnologia per creare nuovi profitti richiederà sempre lavoro umano. Allo stesso modo, questa non è la prima volta che il capitale usa deliberatamente contraddizioni nella sua retorica per oscurare questo fatto. Come abbiamo visto, l’automazione è presentata sia come mezzo per aumentare la produttività sia come opportunità per creare nuove opportunità di lavoro in aree non ancora automatizzate. Questa convinzione standard tra i sostenitori del libero mercato è di per sé discutibile. È chiaramente contraddetto dagli stessi sostenitori dei mercati liberi quando viene contemporaneamente utilizzato come minaccia contro il lavoro organizzato e le sue richieste. Dietro l’hype e il codice, il discorso del capitale rimane invariato: “Non temere l’automazione, migliorerà la tua vita e creerà nuovi posti di lavoro. Ma non chiedere aumenti salariali, migliori condizioni di lavoro o una giornata lavorativa più breve perché forse il tuo lavoro verrà automatizzato in futuro. “
