Fingere che il ML opaco e soggetto a errori sia parte della grande e romantica ricerca per trovare l’intelligenza artificiale è un tentativo di distrarci dalla verità
One dei testi più utili per chiunque si occupi dell’industria tecnologica è il celebre saggio di George Orwell, Politics and the English Language . L’attenzione di Orwell nel saggio era sull’uso politico della lingua per, come diceva lui, “far sembrare le bugie veritiere e l’omicidio rispettabile e per dare un’apparenza di solidità al vento puro”. Ma l’analisi può essere applicata anche ai modi in cui le corporazioni contemporanee piegano il linguaggio per distrarre l’attenzione dalle sordide realtà di ciò che stanno facendo.
L’industria tecnologica è stata particolarmente abile in questo tipo di ingegneria linguistica. “Condivisione”, ad esempio, è fare clic su un collegamento per lasciare una traccia di dati che può essere utilizzata per perfezionare il profilo che l’azienda mantiene su di te. Dai il tuo “consenso” a una proposta unilaterale: accetta questi termini o ti perdi. Il contenuto è “moderato”, non censurato. Gli inserzionisti ti “contattano” con messaggi non richiesti. I dipendenti licenziati vengono “lasciati andare”. I prodotti difettosi vengono “richiamati”. E così via.
Al momento, l’eufemismo più pernicioso nel dizionario del doppio linguaggio è AI, che negli ultimi due o tre anni è diventato onnipresente. In origine, è l’abbreviazione di intelligenza artificiale, definita dall’OED come “la capacità dei computer o di altre macchine di esibire o simulare un comportamento intelligente; il campo di studio interessato a questo”. Uno strumento Ngram (che mostra i modelli di utilizzo delle parole) rivela che fino agli anni ’60 AI e intelligenza artificiale erano più o meno sinonimi, ma che da allora in poi si sono discostati e ora l’IA è dilagante nell’industria tecnologica, nei mass media e nel mondo accademico.
Ora, perché potrebbe essere? Senza dubbio la pigrizia ha qualcosa a che fare con questo; dopo tutto, due lettere sono tipograficamente più facili di 22. Ma questa è una razionalizzazione, non una spiegazione. Se lo guardi attraverso una lente orwelliana devi chiederti: che tipo di lavoro sta facendo questa compressione linguistica? E per chi? Ed è qui che le cose si fanno interessanti.
Ma ecco il punto: l’industria è ora dipendente da una tecnologia che ha importanti svantaggi tecnici e sociali
Come argomento e come concetto, l’intelligenza è infinitamente affascinante per noi umani. Ne discutiamo da secoli: cos’è, come misurarlo, chi ce l’ha (e chi no) e così via. E da quando Alan Turing ha suggerito che le macchine potrebbero essere in grado di pensare, l’interesse per l’intelligenza artificiale è cresciuto ed è ora al culmine della speculazione sulla prospettiva di macchine superintelligenti, a volte conosciute come AGI (per intelligenza artificiale generale).
Tutto ciò è interessante ma ha poco a che fare con ciò che l’industria tecnologica chiama AI, che è il nome del machine learning , una tecnologia arcana e ad alta intensità di carbonio che a volte è brava a risolvere problemi complessi ma molto ben definiti. Ad esempio, i sistemi di apprendimento automatico possono riprodurre Go di livello mondiale , prevedere il modo in cui le molecole proteiche si piegheranno ed eseguire analisi ad alta velocità delle scansioni retiniche per identificare i casi che richiedono un ulteriore esame da parte di uno specialista umano.
Tutte cose buone, ma il motivo per cui l’industria tecnologica è ossessionata dalla tecnologia è che le consente di costruire macchine che imparano dal comportamento degli utenti di Internet per prevedere cosa potrebbero fare dopo e, in particolare, cosa sono disposti a piacergli, valore e potrebbe voler acquistare. Questo è il motivo per cui i capi tecnologici si vantano di avere “AI ovunque” nei loro prodotti e servizi. Ed è per questo che ogni volta che Mark Zuckerberg e compagni vengono attaccati per la loro incapacità di tenere i contenuti tossici fuori dalle loro piattaforme, rispondono invariabilmente che l’IA risolverà il problema molto presto.
Ma ecco il punto: l’industria è ora dipendente da una tecnologia che ha importanti svantaggi tecnici e sociali. Le emissioni di CO 2 della formazione di grandi sistemi di apprendimento automatico sono enormi, ad esempio. Sono troppo fragili e soggetti a errori per essere utilizzati in applicazioni critiche per la sicurezza, come i veicoli autonomi. Incorporano pregiudizi razziali, di genere ed etnici (in parte perché hanno assorbito i pregiudizi impliciti nei dati su cui sono stati formati). E sono irrimediabilmente opachi – nel senso che anche i loro creatori spesso non sono in grado di spiegare come le loro macchine arrivino a classificazioni o previsioni – e quindi non soddisfano i requisiti democratici di responsabilità. E questo è solo per cominciare.
Quindi, come fa l’industria ad affrontare la sordida realtà che sta scommettendo il ranch su una tecnologia potente ma problematica? Risposta: evitando di chiamarlo con il suo vero nome e avvolgendolo invece in un nome che implica che, in qualche modo, fa tutto parte di un progetto romantico più grande e più grandioso: la ricerca dell’intelligenza artificiale. Come potrebbe dire Orwell, è il modo in cui l’industria dà “un’apparenza di solidità al vento puro” mentre continua con il vero affare di fare fortuna.
John Naughton da the guardian
