Perché l’intelligenza artificiale è una minaccia per la democrazia – e cosa possiamo fare per fermarla
La futurista e professoressa NYU Amy Webb in una catastrofe imminente di intelligenza artificiale – e perché c’è ancora speranza che possa essere evitata
Amy Webb, futurista, professoressa della NYU e autrice pluripremiata, ha passato gran parte dell’ultimo decennio a ricercare, discutere e incontrare persone e organizzazioni sull’intelligenza artificiale. “Abbiamo raggiunto un livello di febbre in tutte le cose IA”, dice. Ora è il momento di fare un passo indietro per vedere dove sta andando.
Questo è il compito del suo nuovo libro, The Big Nine: Come i Titani della tecnologia e le loro macchine pensanti potrebbero deformare l’umanità , dove prende una visione a volo d’uccello delle tendenze che, avverte, hanno messo lo sviluppo della tecnologia su un percorso pericoloso . Negli Stati Uniti, Google, Microsoft, Amazon, Facebook, IBM e Apple (il “G-MAFIA”) sono ostacolati dalle implacabili richieste a breve termine di un mercato capitalistico, rendendo impossibile una pianificazione a lungo termine e ponderata per l’intelligenza artificiale. In Cina, Tencent, Alibaba e Baidu stanno consolidando e estraendo enormi quantità di dati per alimentare le ambizioni autoritarie del governo.
Se non cambiamo questa traiettoria, sostiene Webb, potremmo essere diretti verso la catastrofe. Ma c’è ancora tempo per agire e un ruolo da giocare per tutti. La MIT Technology Review si è seduta con lei per parlare del perché è preoccupata e di cosa pensa di poter fare al riguardo.
Le seguenti domande e risposte sono state condensate e modificate per chiarezza.
La menzione che stiamo attualmente vedendo una convergenza di preoccuparsi tendenze tecnologiche, politiche ed economiche. Puoi ampliare le tendenze tecnologiche?
Dal mio punto di vista, guardando all’orizzonte per il giorno in cui abbiamo una sorta di camminare, parlare macchina o una macchina con una voce disincarnata che prende decisioni autonome, in qualche modo manca il punto. Stiamo già assistendo a miliardi di piccoli progressi che avranno un effetto di capitalizzazione nel tempo e porteranno a sistemi in grado di prendere autonomamente molte decisioni contemporaneamente.
Il team di DeepMind, ad esempio, ha lavorato sodo sull’insegnamento delle macchine su come battere gli umani giocando ai giochi . Sono balzati molto più avanti in aree come l’apprendimento di rinforzo gerarchico e l’apprendimento multitasking. L’ultima versione del suo algoritmo AlphaGo, AlphaZero, è in grado di imparare a giocare tre giochi contemporaneamente senza un essere umano nel ciclo. Questo è un salto abbastanza grande. C’è anche il nuovissimo campo delle reti generative contraddittorie , dove con un corpus di immagini di dimensioni decenti, è ora possibile generare volti umani che sembravano molto, molto realistici .
Questi progressi non sono così sexy o eccitanti come quello che ci è stato detto su AGI. Ma se sei in grado di prendere la vista di 40.000 piedi, puoi vedere che ci stiamo dirigendo verso una situazione in cui i sistemi faranno delle scelte per noi. E dobbiamo fermarci e chiederci cosa succede quando quei sistemi mettono da parte la strategia umana in favore di qualcosa che per noi è completamente sconosciuto.
Che dire delle tendenze politiche ed economiche? Puoi descrivere quelli più preoccupanti per te?
Negli Stati Uniti, il libero flusso di idee può diffondersi senza impedimenti. È così che è stata fondata Silicon Valley. Ha alimentato sia la competizione che l’innovazione, ed è così che siamo arrivati dove siamo ora con l’IA, tra gli altri tipi di tecnologie.
Tuttavia, negli Stati Uniti, soffriamo anche di una tragica mancanza di lungimiranza. Piuttosto che creare una grande strategia per l’intelligenza artificiale o per il nostro futuro a lungo termine, il governo federale ha spogliato i finanziamenti dalla ricerca scientifica e tecnologica. Quindi i soldi devono venire dal settore privato. Ma anche gli investitori si aspettano un qualche tipo di rendimento. Questo é un problema. Non è possibile pianificare le scoperte della R & S quando si lavora sulla tecnologia e sulla ricerca fondamentali. Sarebbe magnifico se le grandi aziende tecnologiche avessero il lusso di lavorare sodo senza dover produrre una conferenza annuale per mostrare la loro ultima e più grande cosa del whiz-bang. Invece, ora abbiamo innumerevoli esempi di decisioni sbagliate fatte da qualcuno nel G-MAFIA, probabilmente perché stavano lavorando velocemente.Stiamo iniziando a vedere gli effetti negativi della tensione tra fare ricerca che è nel migliore interesse dell’umanità e rendere felici gli investitori.
Ora sarebbe abbastanza cattivo com’è, giusto? Ma tutto ciò sta accadendo nello stesso momento in cui si sta consolidando un’enorme quantità di potere in Cina. La Cina ha un fondo sovrano dedicato alla ricerca fondamentale di base nell’intelligenza artificiale. Stanno gettando enormi quantità di denaro all’intelligenza artificiale e hanno un’idea totalmente diversa rispetto agli Stati Uniti in termini di privacy e dati. Ciò significa che hanno molto più dati che possono essere estratti e perfezionati. Con un’autorità centrale, è estremamente facile per il governo testare e costruire servizi AI che incorporano dati da 1,3 miliardi di persone. E questo è solo nel loro paese.
Poi hanno la Belt and Road Initiative, che sembra un programma di infrastrutture tradizionali, ma in parte anche digitale. Non si tratta solo di costruire strade e ponti; si tratta anche di costruire reti 5G e di posare fibre, e di estrapolare e raffinare i dati all’estero. Il dispiegamento di queste tecnologie è un rischio per le persone che si preoccupano di cose come la libertà di parola e gli ideali democratici occidentali.
Perché dovremmo sforzarci per gli ideali democratici occidentali?
È una grande domanda. Ho vissuto in Cina, in Giappone e ovviamente negli Stati Uniti. E tu potresti guardare lo stato del nostro paese in questo momento e cosa sta succedendo in Cina e chiedo, è davvero la cosa peggiore? Il sistema di valutazione del credito sociale della Cina, a proposito, sembra strano e terribile per gli americani, ma quello che molte persone non capiscono è che il comportamento di auto-segnalazione e monitoraggio all’interno di villaggi e comunità è stato per sempre parte della cultura cinese. Il tipo di punteggio di credito sociale semplicemente lo automatizza. Quindi sì, questa è una domanda formidabile.
Immagino che cosa direi se guardassi la versione idealizzata del comunismo cinese e la versione idealizzata della democrazia occidentale, sceglierei la democrazia occidentale perché penso ci sia una migliore opportunità per il libero flusso di idee e per il quotidiano persone per avere successo Penso che dare incentivi alle persone per i risultati individuali e personali sia un ottimo modo per innalzare una società, aiutarci a raggiungere il nostro potenziale individuale.
Con la direzione che il mondo sta dirigendo con l’intelligenza artificiale oggi, è un confronto equo? Dovremmo confrontare le versioni idealizzate del comunismo cinese con la democrazia occidentale, o le peggiori versioni dei due?
Questa è una grande domanda perché potresti sostenere che alcuni elementi dell’ecosistema dell’IA stanno già influenzando i nostri ideali democratici occidentali in un modo veramente negativo. Ovviamente, tutto ciò che è successo con Facebook serve come esempio. Ma guarda anche cosa sta succedendo con la comunità anti-vaxxer. Stanno diffondendo informazioni totalmente scorrette sui vaccini e sulla scienza di base. Le nostre tradizioni americane diranno la libertà di parola, le piattaforme sono piattaforme, dobbiamo permettere alle persone di esprimersi. Bene, la sfida è che gli algoritmi stanno facendo delle scelte sul contenuto editoriale che stanno portando le persone a prendere decisioni sbagliate e ad ammalarsi di conseguenza.
Il problema è che la nostra tecnologia è diventata sempre più sofisticata, ma il nostro modo di pensare su ciò che è la libertà di parola e su come si presenta un’economia di libero mercato non è diventato così sofisticato. Tendiamo a ricorrere a interpretazioni molto basilari: la libertà di parola significa che tutto il discorso è libero a meno che non si scontri con la legge sulla diffamazione, e questa è la fine della storia. Questa non è la fine della storia. Abbiamo bisogno di iniziare una discussione più sofisticata e intelligente sulle nostre leggi attuali, sulla nostra tecnologia emergente e su come possiamo riunirle nel mezzo.
In altre parole, avete fede che ci evolveremo da dove siamo ora a una versione più idealizzata della democrazia occidentale. E tu preferiresti molto a idealizzare il comunismo cinese.
Sì, ho fiducia che sia possibile. La mia grande preoccupazione è che tutti stiano aspettando, che stiamo trascinando i nostri talloni e che ci vorrà una vera catastrofe per far agire le persone, come se il luogo in cui siamo arrivati non sia catastrofico. Ma il fatto che il morbillo sia tornato nello stato di Washington per me è un risultato catastrofico. Quindi è quello che è successo sulla scia delle elezioni. Indipendentemente dal lato dello spettro politico in cui ti trovi, non riesco a immaginare che oggi nessuno pensi che l’attuale clima politico sia positivo per il nostro futuro.
Quindi credo assolutamente che ci sia un percorso in avanti. Ma abbiamo bisogno di stare insieme e colmare il divario tra Silicon Valley e DC in modo che tutti possiamo guidare la barca nella stessa direzione.
Cosa consigli a governo, aziende, università e singoli consumatori?
La traccia evolutiva dell’IA è un problema, e ognuno di noi ha un interesse. Tu, io, mio padre, il mio vicino di casa, il ragazzo dello Starbucks, che sto passando proprio ora. Quindi cosa dovrebbero fare le persone comuni? Sii più consapevole di chi sta usando i tuoi dati e come. Prenditi qualche minuto per leggere il lavoro scritto da persone intelligenti e dedica un paio di minuti a capire di cosa stiamo parlando. Prima di firmare la tua vita e iniziare a condividere le foto dei tuoi figli, fallo in modo informato. Se stai bene con ciò che implica e cosa potrebbe significare in seguito, bene, ma almeno avere prima questa conoscenza.
Le aziende e gli investitori non possono aspettarsi di affrettare un prodotto più e più volte. Ci sta preparando per problemi lungo la strada. Così possono fare cose come sostenere i loro processi di assunzione, aumentare significativamente i loro sforzi per migliorare l’inclusività e assicurarsi che il loro staff sia più rappresentativo di ciò che assomiglia al mondo reale. Possono anche mettere alcuni freni. Qualsiasi investimento che sia stato trasformato in una società o un progetto di IA o qualunque cosa possa essere dovrebbe includere anche i finanziamenti e il tempo per controllare cose come il rischio e il pregiudizio.
Le università devono creare spazio nei loro programmi per i gradi ibridi. Dovrebbero incentivare gli studenti CS a studiare letteratura comparata, religioni mondiali, microeconomia, antropologia culturale e corsi simili in altri dipartimenti. Dovrebbero sostenere programmi di doppia laurea in informatica e relazioni internazionali, teologia, scienze politiche, filosofia, sanità pubblica, istruzione e simili. L’etica non dovrebbe essere insegnata come una classe autonoma, qualcosa per controllare semplicemente una lista. Le scuole devono incentivare persino i professori di ruolo a intrecciare discussioni complicate su pregiudizi, filosofia, religione, genere ed etica nei loro corsi.
Uno dei miei più grandi consigli è la formazione di GAIA, ciò che io chiamo Global Alliance on Intelligence Augmentation. Al momento le persone in tutto il mondo hanno atteggiamenti e approcci molto diversi quando si tratta di raccolta e condivisione dei dati, cosa può e dovrebbe essere automatizzato e quale potrebbe essere un futuro con sistemi più generalmente intelligenti. Quindi penso che dovremmo creare una sorta di organizzazione centrale in grado di sviluppare norme e standard globali, una sorta di guardrail per infondere non solo ideali americani o cinesi nei sistemi di intelligenza artificiale, ma visioni del mondo che sono molto più rappresentative di tutti.
Soprattutto, dobbiamo essere disposti a pensare a questo molto più a lungo termine, non solo tra cinque anni. Dobbiamo smettere di dire: “Beh, non possiamo predire il futuro, quindi non preoccupiamoci di questo in questo momento”. È vero, non possiamo predire il futuro. Ma possiamo certamente fare un lavoro migliore di pianificazione per questo.
