La serie “Thinkers and Innovators” esplora la scienza e la filosofia del cervello e della mente con alcuni dei più importanti esperti di lungimiranza del mondo. Esplora anche le tecnologie utilizzate per lo studio e l’interfaccia con il cervello, nonché le tecnologie motivate dal cervello, come l’apprendimento automatico e l’intelligenza artificiale.
Marcus du Sautoy è professore di matematica e Charles Simonyi professore di Public Understanding of Science presso l’Università di Oxford. È ampiamente conosciuto per il suo lavoro volto a educare e divulgare la scienza e la matematica a un pubblico generale. Ha scritto numerosi libri popolari, tra cui “The Creativity Code – Art and Innovation in the Age of AI” e “The Great Unknown – Seven Journeys to the Frontiers of Science”. È anche conduttore di numerosi documentari per la BBC. La ricerca del Professor du Sautoy si concentra sulla teoria dei numeri, utilizzando una vasta gamma di argomenti come la teoria dei modelli, la geometria algebrica e i metodi analitici. Ha numerosi premi e riconoscimenti, tra cui essere stato eletto Fellow della Royal Society nel 2016 e insignito del prestigioso Berwick Prize dalla London Mathematical Society nel 2001.
Hai riflettuto molto sulla creatività e su cosa significa per gli umani – e per il cervello umano – rispetto a cosa significa per macchine e algoritmi. Perché è stato di tale interesse?
Credo che la matematica sia altamente creativa, quindi volevo sapere se una macchina potesse davvero fare quello che faccio. Mi sono ritrovato in un comitato della Royal Society ad esplorare l’impatto che l’apprendimento automatico avrebbe avuto sulla società nei prossimi dieci anni, ma questo è stato a un punto in cui se avessi detto l’apprendimento automatico a qualcuno gli sarebbe andato dritto . Ci sono alcuni algoritmi molto interessanti e potenti là fuori. Abbiamo ricevuto materiale così interessante da diverse aree della società. Ad esempio, in medicina sta avendo un impatto enorme, anche sulla robotica. Ma ero interessato a guardarlo da una prospettiva leggermente diversa. Quindi ho iniziato a chiedermi, sicuramente la creatività è un dominio in cui non avrà alcuna possibilità di fare nulla come possiamo noi umani. Ebbene, è proprio vero? perché non sono Gli umani sono solo algoritmi molto complessi? Eppure possiamo farlo. Perché una macchina non potrebbe imparare a fare qualcosa che dovremo riconoscere come creativo?
Come hai iniziato ad avvicinarti? E qual è il tuo pensiero attuale sulla creatività nelle macchine rispetto agli umani?
Sono partito da una sorta di definizione di creatività user friendly, piuttosto meccanicistica: è qualcosa di nuovo, sorprendente e ha valore. Una definizione di Margaret Boden . Era nel comitato della Royal Society. Ho sentito molte delle sue idee e penso che sia stata una definizione abbastanza utile all’inizio da testare. Ad esempio, l’apprendimento automatico può conoscere le nostre risposte emotive alle cose che apprezziamo, il che ha senso. Ma considerandolo ulteriormente, in realtà sono andato piuttosto verso Carl Rogers’ definizione da una prospettiva più psicologica, che la creatività è la cosa che potremmo usare per esaminare la nostra coscienza. Penso che queste due cose siano davvero intimamente collegate. E quindi per me, la conclusione è che capiremo veramente la creatività solo quando l’intelligenza artificiale diventa cosciente. Anche quando lo fa, e credo che sia un “quando”, anche se penso che passerà molto tempo, avremo bisogno dello strumento della sua creatività per riconoscere davvero quel momento di soglia quando è passato quel punto. Anche se, ancora una volta, penso che sia una lunga strada verso il basso.
Al momento penso che stiamo esplorando qualcosa di interessante – anche se i filosofi mi odieranno per averlo detto – che è ciò che chiamo il subconscio di un algoritmo. Che c’è un processo decisionale in corso all’interno di questi strati di codice davvero complessi che vengono costruiti attraverso l’apprendimento automatico.
Il codice in passato era molto clinico ed economico. Era quello che voleva la gente. Ora chi se ne frega se il codice è enorme. Abbiamo la capacità di gestirlo. Ma significa che ora non abbiamo una comprensione di come il codice stia necessariamente prendendo le sue decisioni. E quindi penso che abbiamo bisogno di nuovi strumenti per ottenere questa comprensione. E penso che la creatività sarà uno strumento piuttosto potente per esaminare una sorta di subconscio, il mondo interno del codice, che non è così facilmente esprimibile dall’esterno.
Possiamo farlo chiedendo al codice di esprimersi esternamente attraverso la creazione di immagini o cercando di articolare le cose, o anche musicalmente, e trovando modi diversi per esaminare il codice e ponendogli domande. Simile a come la creatività può essere usata come un modo per condividere con te il modo in cui vedo il mondo. Permettendoti di riconoscere come la vedo io, così puoi giudicare come è diversa per te. Ti farà vedere il mondo in modo diverso? Vedo un ruolo davvero importante per questo tipo di espressione artistica da parte di un algoritmo – la sua creatività – e il ruolo che avrà nell’aiutarci a capire come funziona l’algoritmo. In ‘The Creativity Code’ ho fatto l’esempio di DeepDream, il software di riconoscimento della visione di ingegneria inversa di Google. Penso che questo ci stia dando una visione davvero grande di come ha imparato, cosa sta vedendo, gli errori che sta facendo. I pregiudizi che ci sono a causa dei dati che gli abbiamo fornito.
C’è qualcosa di specifico che ritieni renda la creatività umana unica rispetto a ciò che le macchine possono fare in modo creativo?
Sì. C’è una parola importante che voglio introdurre qui, che penso sia un po’ critica, che è “intenzionalità”. Al momento, la creatività e l’intenzione nelle macchine, così come la motivazione dietro di essa, provengono ancora dall’essere umano. Si tratta di usare questo come strumento per esaminare il nostro mondo, forse rivelarci cose che non abbiamo capito sul nostro processo creativo. Quindi penso che al momento l’intenzione provenga ancora dall’umano. Ad esempio, AlphaGo di DeepMind non voleva giocare. È stato creato intenzionalmente per farlo.
Penso che sarà un momento chiave, quando improvvisamente l’intento è qualcosa di significativo che sta accadendo all’interno della macchina. Quindi vorrà condividerlo. Vorrà dire: “Guarda, è successo qualcosa e ho questa unità interna da mostrarti”. Allora inizierai a vedere tensione e cose che non sono necessariamente innescate da noi. Quindi si relaziona a qualcosa di quasi vivo, legato al libero arbitrio. Si tratta dell’atto del libero arbitrio di esprimersi. Filosoficamente, questo ci riporta all’intero problema della coscienza, sia che si tratti solo di stimolazione. Non saremo mai in grado di dire se c’è davvero qualcosa che sta succedendo dentro. Questo è il motivo per cui penso che abbiamo creato arte in primo luogo, che è il nostro modo di essere onesti con noi stessi. Come faccio a sapere che non sei un avatar fantastico? Abbiamo tutta la nostra arte, la nostra creatività, la nostra condivisione di storie per risolvere e vedere le connessioni e le differenze tra di noi. Alla fine le macchine dovranno fare lo stesso.
Pensi che la nostra capacità di sondare e comprendere questi algoritmi sarà principalmente guidata dalla sola sperimentazione e calcolo numerici? O pensa che andando avanti ci sarà ancora un ruolo per l’analisi teorica formale?
Penso che sarà una combinazione. Lo stiamo già vedendo quando si tratta di cervello e coscienza. Penso che sia questo che è veramente eccitante. La sperimentazione ci darà i parametri. Ma la matematica è molto brava a inventare una sorta di linguaggio per buttare via tutti i tipi di dettagli non importanti. Sarà chiaramente uno strumento molto potente quando si tratta di comprendere il cervello. Quando hai un sistema estremamente complesso che non puoi capire su una base psicoanalitica neuronale individuale, dovrai trovare un linguaggio per articolare cosa sta succedendo a un livello diverso.
Allo stesso modo con l’apprendimento automatico. Il lato teorico delle cose giocherà un ruolo sempre più importante nell’essere in grado di cancellare il pasticcio di tutti questi dati e vedere sinceramente quando c’è una diversa qualità emergente in un algoritmo che lo distingue da quello che esiste oggi.
E la matematica stessa? In che modo pensi che l’apprendimento automatico e l’intelligenza artificiale influenzeranno il modo in cui viene eseguita la matematica?
Il mio primo pensiero è stato che la matematica pura sarebbe stata la prima professione a essere sostituita dall’intelligenza artificiale. Ma in realtà, no, in realtà, ci sono molte qualità artistiche nella matematica che si riferiscono al fatto che facciamo molte scelte sulle cose che troviamo degne di condividere con i nostri colleghi matematici. E scelte sul rifiuto di affermazioni noiose. Non stiamo solo cercando di scrivere tutte le affermazioni vere di matematica e geometria. Quelle scelte sono guidate da cose che sono legate alla creatività, alla sorpresa, al coinvolgimento delle emozioni e al portare qualcuno in un viaggio dal noto all’ignoto.
Ecco perché penso di non aver visto al momento nulla che pensassi fosse particolarmente impressionante per quanto riguarda l’intelligenza artificiale e la matematica perché non credo che si sia ancora appreso la qualità della risposta emotiva di cui ci entusiasma. Il tipo di cose che apprezziamo. Può imparare buoni modi per fare prove. Ma non sono le cose che eccitano un matematico.
Quindi c’è un ruolo per l’apprendimento automatico e l’intelligenza artificiale nel futuro della matematica? O alla ricerca intellettuale umana più in generale?
C’è una cosa che credo renda vulnerabile la matematica, ed è che in realtà è una materia piuttosto nuova. Ad esempio, gli esseri umani sono stati visivamente consapevoli per molte migliaia di anni. Ma essere matematicamente consapevoli è una cosa molto più recente. Quindi penso che un’IA sarà in grado di ottenere un livello di esperienza del mondo matematico abbastanza rapidamente per poter effettivamente contribuire al nostro viaggio. Non credo che passerà molto tempo prima che l’intelligenza artificiale venga esposta alle idee matematiche che abbiamo creato attraverso le nostre riviste e conferenze e sia in grado di contribuire.
In definitiva, una considerazione importante è che si tratta di collaborazione, non di concorrenza. E quindi quello che dobbiamo fare è trovare e sfruttare le cose in cui l’intelligenza artificiale è incredibilmente brava, ma in cui non siamo bravi quanto gli esseri umani incarnati.
Un buon esempio è la letteratura. Ho molti libri in questa stanza, ma probabilmente posso leggere solo forse cinquemila libri nella mia vita. L’ho calcolato una volta. Ma ora possiamo consumare l’intera letteratura mondiale in un pomeriggio di caricamento su un’intelligenza artificiale. E possiamo iniziare a vedere cose su quella scala nel mondo della letteratura che nessun essere umano sarà mai in grado di ottenere da solo leggendo.
Abbiamo già visto computer coinvolti nella matematica fare molte prove di verifica. Non è interessante. Sono più interessato alla complessità del pensiero concettuale. Alla fine ci imbatteremo in problemi matematici che richiedono prove che potrebbero essere ben oltre la capacità di una mente umana di concepire e navigare effettivamente. E forse è quella collaborazione con le macchine che possono fare cose su una scala che noi non possiamo. Sarà una collaborazione molto eccitante.
Ecco perché dico sempre che l’intelligenza artificiale dovrebbe essere tradotta non come intelligenza artificiale, il che non è interessante perché abbiamo già la nostra intelligenza. Perché abbiamo bisogno di una versione artificiale di esso? Piuttosto, è meglio come una sorta di intelligenza alternativa o aumentata o aggiuntiva. Quell’età dovrebbe essere quella di portarci a qualcosa che non possiamo fare, coinvolgendo processi di pensiero che saranno molto diversi.
