L’anno scorso, la Commissione per la sicurezza nazionale degli Stati Uniti sull’intelligenza artificiale ha concluso in un rapporto al Congresso che l’IA sta “alterando il mondo”. L’IA sta anche alterando la mente poiché la macchina alimentata dall’IA sta ora diventando la mente. Questa è una realtà emergente degli anni 2020. Come società, stiamo imparando a fare affidamento sull’IA per così tante cose che potremmo diventare meno curiosi e più fiduciosi delle informazioni che ci vengono fornite dalle macchine alimentate dall’IA. In altre parole, potremmo già essere in procinto di esternalizzare il nostro pensiero alle macchine e, di conseguenza, perdere una parte della nostra agenzia.
La tendenza verso una maggiore applicazione dell’IA non mostra segni di rallentamento. Secondo lo Stanford Institute for Human-Centered Artificial Intelligence, gli investimenti privati nell’IA sono ai massimi storici, per un totale di 93,5 miliardi di dollari nel 2021, il doppio dell’importo dell’anno precedente. E il numero di domande di brevetto relative all’innovazione dell’IA nel 2021 è 30 volte maggiore rispetto a quello del 2015. Questa è la prova che la corsa all’oro dell’IA è in pieno svolgimento. Fortunatamente, gran parte di ciò che viene ottenuto con l’intelligenza artificiale sarà vantaggioso, come evidenziato da esempi di intelligenza artificiale che aiutano a risolvere problemi scientifici che vanno dal ripiegamento delle proteine all’esplorazione di Marte e persino alla comunicazione con gli animali .
La maggior parte delle applicazioni di intelligenza artificiale si basa su reti neurali di apprendimento automatico e deep learning che richiedono set di dati di grandi dimensioni. Per le applicazioni dei consumatori, questi dati vengono raccolti da scelte personali, preferenze e selezioni su qualsiasi cosa, dall’abbigliamento ai libri all’ideologia. Da questi dati, le applicazioni trovano modelli, che portano a previsioni informate di ciò che probabilmente avremmo bisogno o vorremmo o troveremmo più interessante e coinvolgente. Pertanto, le macchine ci forniscono molti strumenti utili, come motori di raccomandazione e supporto chatbot 24 ore su 24, 7 giorni su 7. Molte di queste app sembrano utili o, nel peggiore dei casi, benigne.
Un esempio a cui molti di noi possono identificarsi sono le app basate sull’intelligenza artificiale che ci forniscono indicazioni stradali . Questi sono senza dubbio utili, perché impediscono alle persone di perdersi. Sono sempre stato molto bravo nelle indicazioni stradali e nella lettura di mappe fisiche. Dopo aver guidato una volta in un luogo, non ho problemi ad arrivarci di nuovo senza assistenza. Ma ora ho l’app attiva per quasi tutti i viaggi, anche per destinazioni che ho guidato molte volte. Forse non sono così sicuro delle mie direzioni come pensavo; forse voglio solo la compagnia della voce rassicurante che mi dice a chi rivolgermi; o forse sto diventando dipendente dalle app per fornire indicazioni. Ora mi preoccupo che se non avessi l’app, potrei non essere più in grado di trovare la mia strada.
Forse dovremmo prestare maggiore attenzione a questo cambiamento non così sottile nella nostra dipendenza dalle app basate sull’intelligenza artificiale. Sappiamo già che riducono la nostra privacy . E se diminuiscono anche la nostra azione umana, ciò potrebbe avere gravi conseguenze. Se ci affidiamo a un’app per trovare il percorso più veloce tra due luoghi, è probabile che ci fidiamo di altre app e ci sposteremo sempre più nella vita con il pilota automatico, proprio come le nostre auto in un futuro non troppo lontano. E se anche inconsciamente digeriamo ciò che ci viene presentato nei feed di notizie, nei social media, nelle ricerche e nei consigli, possibilmente senza metterlo in discussione, perderemo la capacità di formarci opinioni e interessi?
I pericoli del pensiero di gruppo digitale
In quale altro modo si potrebbe spiegare la teoria completamente infondata di QAnon secondo cui ci sono pedofili d’élite adoratori di Satana nel governo, negli affari e nei media degli Stati Uniti che cercano di raccogliere il sangue dei bambini? La teoria del complotto è iniziata con una serie di post sulla bacheca 4chan che si è poi diffusa rapidamente attraverso altre piattaforme social tramite motori di raccomandazione. Ora sappiamo – ironia della sorte con l’aiuto dell’apprendimento automatico – che i post iniziali sono stati probabilmente creati da uno sviluppatore di software sudafricano con poca conoscenza degli Stati Uniti. Tuttavia, il numero di persone che credono in questa teoria continua a crescere ; e rivaleggia in popolarità con alcune religioni tradizionali .
Secondo un articolo pubblicato sul Wall Street Journal, l’intelletto si indebolisce mentre il cervello diventa dipendente dalla tecnologia del telefono. Lo stesso vale probabilmente per qualsiasi tecnologia dell’informazione in cui il contenuto scorre a modo nostro senza che dobbiamo lavorare per imparare o scoprire da soli. Se è vero, allora l’IA, che presenta sempre più contenuti su misura per i nostri interessi specifici e riflette i nostri pregiudizi, potrebbe creare una sindrome auto-rafforzante che semplifica le nostre scelte, soddisfa i bisogni immediati, indebolisce il nostro intelletto e ci blocca in una mentalità esistente.
Il corrispondente di NBC News Jacob Ward sostiene nel suo nuovo libro The Loop che attraverso le app di intelligenza artificiale siamo entrati in un nuovo paradigma, uno con la stessa coreografia ripetuta. “I dati vengono campionati, i risultati vengono analizzati, viene offerto un elenco ristretto di scelte e scegliamo di nuovo, continuando il ciclo”. Aggiunge che “usando l’IA per fare delle scelte per noi, finiremo per riprogrammare il nostro cervello e la nostra società… siamo pronti ad accettare ciò che l’IA ci dice”.
La cibernetica del conformismo
Una parte fondamentale dell’argomentazione di Ward è che le nostre scelte sono ridotte perché l’IA ci presenta opzioni simili a quelle che abbiamo preferito in passato o che è più probabile che preferiamo in base al nostro passato. Quindi il nostro futuro diventa più ristretto. In sostanza, potremmo rimanere congelati nel tempo – una forma di omeostasi mentale – dalle app teoricamente progettate per aiutarci a prendere decisioni migliori. Questa visione del mondo rafforzante ricorda Don Juan che spiega a Carlos Castaneda in A Separate Reality che “il mondo è tale e tale, o così e così solo perché diciamo a noi stessi che è così”.
Ward gli fa eco quando dice: “Il cervello umano è costruito per accettare ciò che viene detto, soprattutto se ciò che viene detto è conforme alle nostre aspettative e ci risparmia un noioso lavoro mentale”. Il ciclo di feedback positivo presentato dagli algoritmi di intelligenza artificiale che rigurgitano i nostri desideri e preferenze contribuisce alle bolle di informazioni che già sperimentiamo, rafforzando le nostre opinioni esistenti, aggiungendosi alla polarizzazione rendendoci meno aperti a diversi punti di vista, meno capaci di cambiare e farci diventare persone che non intendevamo essere consapevolmente. Questa è essenzialmente la cibernetica del conformismo, della macchina che diventa la mente pur rispettando la propria programmazione algoritmica interna. A sua volta, questo ci renderà, come individui e come società, allo stesso tempo più prevedibili e più vulnerabili alla manipolazione digitale.
Ovviamente, non è proprio l’IA a farlo. La tecnologia è semplicemente uno strumento che può essere utilizzato per raggiungere il fine desiderato, sia vendere più scarpe, persuadere a un’ideologia politica, controllare la temperatura nelle nostre case o parlare con le balene. C’è intento implicito nella sua applicazione. Per mantenere la nostra agenzia, dobbiamo insistere su una Carta dei diritti dell’IA come proposto dall’Ufficio per la politica della scienza e della tecnologia degli Stati Uniti. Inoltre, abbiamo presto bisogno di un quadro normativo che protegga i nostri dati personali e la capacità di pensare da soli. L’ UE e la Cina hanno compiuto passi in questa direzione e l’attuale amministrazione sta portando a mosse similinegli Stati Uniti Chiaramente, ora è il momento per gli Stati Uniti di diventare più seri in questo sforzo, prima che diventiamo automi non pensanti.
