Preparati per l’arrivo: il pioniere della tecnologia avverte dell’invasione aliena
Louis Rosenberg, IA unanime
Una specie aliena è diretta verso il pianeta Terra e non abbiamo motivo di credere che sarà amichevole. Alcuni esperti prevedono che arriverà qui entro 30 anni, mentre altri insistono che arriverà molto prima. Nessuno sa che aspetto avrà, ma condividerà due tratti chiave con noi umani: sarà intelligente e consapevole di sé .
No, questo alieno non verrà da un pianeta lontano: nascerà proprio qui sulla Terra, nato in un laboratorio di ricerca presso una grande università o una grande azienda. Mi riferisco alla prima intelligenza artificiale generale (AGI) che raggiunge (o supera) la cognizione a livello umano .
Mentre scrivo queste parole, miliardi vengono spesi per portare in vita questo alieno, poiché sarebbe considerato uno dei più grandi successi tecnologici nella storia umana. Ma a differenza delle altre nostre invenzioni, questa avrà una mente propria, letteralmente. E se si comporta come ogni altra specie intelligente che conosciamo, metterà al primo posto i propri interessi personali, lavorando per massimizzare le sue prospettive di sopravvivenza.
L’IA a nostra immagine
Dovremmo temere un’intelligenza superiore guidata dai propri obiettivi, valori e interessi personali? Molte persone rifiutano questa domanda, credendo che costruiremo sistemi di intelligenza artificiale a nostra immagine , assicurando che pensino, sentano e si comportino proprio come noi. Questo è estremamente improbabile che sia il caso.
Le menti artificiali non verranno create scrivendo software con regole accuratamente elaborate che le facciano pensare come noi. Invece gli ingegneri alimentano enormi set di dati in semplici algoritmi che regolano automaticamente i propri parametri, apportando milioni e milioni di minuscole modifiche alla loro struttura fino a quando non emerge un’intelligenza, un’intelligenza con meccanismi interni che sono troppo complessi da comprendere per noi.
E no, fornirgli dati sugli esseri umani non lo farà pensare come fanno gli umani. Questo è un malinteso comune: la falsa convinzione che addestrando un’IA su dati che descrivono i comportamenti umani, ci assicureremo che finisca per pensare, sentire e agire come noi. Non lo farà.
Invece, costruiremo queste creature IA per conoscere gli umani , non per essere umani. E sì, ci conosceranno dentro e fuori, in grado di parlare le nostre lingue e interpretare i nostri gesti, leggere le nostre espressioni facciali e prevedere le nostre azioni. Capiranno come prendiamo decisioni, nel bene e nel male, logiche e illogiche. Dopotutto, avremo passato decenni a insegnare ai sistemi di intelligenza artificiale come ci comportiamo noi umani in quasi tutte le situazioni.
Ma profondamente diverso
Ma comunque, le loro menti non saranno per niente come le nostre. A noi sembreranno onniscienti, collegati a sensori remoti di ogni tipo, in ogni luogo. Nel mio libro del 2020, Arrival Mind , dipingo AGI come “avente un miliardo di occhi e orecchie”, poiché le sue capacità percettive potrebbero facilmente abbracciare il globo. Noi umani non possiamo immaginare come ci si sente a percepire il nostro mondo in un modo così ampio e olistico, eppure in qualche modo presumiamo che una mente come questa condividerà la nostra morale, i nostri valori e la nostra sensibilità. Non lo farà.
Le menti artificiali saranno profondamente diverse da qualsiasi cervello biologico che conosciamo sulla Terra, dalla loro struttura e funzionalità di base alla loro fisiologia e psicologia complessive. Naturalmente, creeremo corpi simili a quelli umani in cui queste menti aliene potranno abitare, ma saranno poco più che facciate robotiche per farci sentire a nostro agio in loro presenza.
In effetti, noi umani lavoreremo molto duramente per far sembrare questi alieni e parlare come noi, persino sorridere e ridere come noi, ma nel profondo non saranno per niente come noi. Molto probabilmente, i loro cervelli vivranno nella nuvola (totalmente o parzialmente) connesso a caratteristiche e funzioni sia all’interno che all’esterno delle forme umanoidi con cui li personifichiamo.
Tuttavia, la facciata funzionerà – non temeremo questi alieni – non nel modo in cui temeremmo le creature che sfrecciano verso di noi in una misteriosa astronave. Potremmo anche provare un senso di parentela , vedendoli come una nostra creazione, una manifestazione del nostro stesso ingegno. Ma se mettiamo da parte quei sentimenti, iniziamo a renderci conto che un’intelligenza aliena nata qui è molto più pericolosa di quelle che potrebbero venire da lontano.
Il pericolo dentro
Dopotutto, una mente aliena costruita qui saprà tutto di noi dal momento in cui arriva, essendo stata progettata per comprendere gli umani dentro e fuori, ottimizzata per percepire le nostre emozioni e anticipare le nostre azioni, prevedere i nostri sentimenti, influenzare le nostre convinzioni e influenzare le nostre opinioni . Se le creature che sfrecciano verso di noi su lucide astronavi argentate avessero una conoscenza così profonda dei nostri comportamenti e tendenze, saremmo terrorizzati.
L’IA può già sconfiggere i nostri migliori giocatori nelle partite più difficili della Terra. Ma in realtà, questi sistemi non solo padroneggiano i giochi di scacchi, poker e Go, ma padroneggiano il gioco degli umani , imparando a prevedere con precisione le nostre azioni e reazioni, anticipando i nostri errori e sfruttando le nostre debolezze. I ricercatori di tutto il mondo stanno già sviluppando sistemi di intelligenza artificiale per superarci , negoziarci e manovrarci.
C’è qualcosa che possiamo fare per proteggerci?
Di certo non possiamo impedire all’IA di diventare più potente, poiché nessuna innovazione è mai stata contenuta. E mentre alcuni stanno lavorando per mettere in atto misure di salvaguardia, non possiamo presumere che sarà sufficiente per eliminare la minaccia. In effetti, un sondaggio di Pew Research indica che pochi professionisti ritengono che il settore implementerà pratiche significative di “IA etica” entro il 2030.
Allora come possiamo prepararci per l’arrivo?
Il primo passo migliore è rendersi conto che l’ AGI avverrà nei prossimi decenni e non sarà una versione digitale dell’intelligenza umana. Sarà un’intelligenza aliena estranea e pericolosa come se provenisse da un pianeta lontano.
Dare urgenza all’etica dell’intelligenza artificiale
Se inquadriamo il problema in questo modo, potremmo affrontarlo con urgenza, spingendo a regolamentare i sistemi di IA che monitorano e manipolano il pubblico, percependo le nostre emozioni e anticipando i nostri comportamenti. Tali tecnologie potrebbero non sembrare una minaccia esistenziale oggi, poiché vengono sviluppate principalmente per ottimizzare l’efficacia della pubblicità basata sull’intelligenza artificiale , non per facilitare il dominio del mondo. Ma ciò non diminuisce il pericolo: le tecnologie di intelligenza artificiale progettate per analizzare i sentimenti umani e influenzare le nostre convinzioni possono essere facilmente utilizzate contro di noi come armi di persuasione di massa.
Dovremmo anche essere più cauti nell’automatizzare le decisioni umane. Sebbene sia innegabile che l’IA possa aiutare a prendere decisioni efficaci, dovremmo sempre tenere gli esseri umani al passo . Ciò significa utilizzare l’IA per migliorare l’intelligenza umana piuttosto che lavorare per sostituirla.
Che ci prepariamo o meno, le menti aliene sono dirette verso di noi e potrebbero facilmente diventare nostre rivali, in competizione per la stessa nicchia in cima alla catena alimentare intellettuale. E mentre c’è un serio sforzo nella comunità dell’IA per spingere per tecnologie sicure , c’è anche una mancanza di urgenza . Questo perché troppi di noi credono erroneamente che un’IA senziente creata dall’umanità sarà in qualche modo un ramo dell’albero umano, come un discendente digitale che condivide un nucleo molto umano.
Questo è un pio desiderio. È più probabile che un vero AGI sarà profondamente diverso da noi in quasi tutti i modi. Sì, sarà straordinariamente abile nel fingere di essere umano, ma sotto una facciata amica delle persone, ognuno sarà una mente rivale che pensa, sente e agisce come nessuna creatura che abbiamo mai incontrato sulla Terra. Il momento di prepararsi è adesso.
di Louis Rosenberg da venturebeat.com
Louis Rosenberg, PhD è un pioniere della tecnologia nei campi di VR, AR e AI. È noto per aver sviluppato il primo sistema di realtà aumentata per la US Air Force nel 1992, per aver fondato la prima società di realtà virtuale Immersion Corp (Nasdaq IMMR) nel 1993 e per aver fondato la prima società di AR Outland Research nel 2004. Attualmente è fondatore e CEO di Unanimous AI .
