Richard Feynman sull’ Intelligenza generale artificiale
In una conferenza tenuta dal premio Nobel Richard Feynman (1918-1988) il 26 settembre 1985, emerge la questione dell’intelligenza generale artificiale (nota anche come “AI forte”).
Domanda del pubblico
Pensi che ci sarà mai una macchina che penserà come esseri umani e sarà più intelligente degli esseri umani?
Di seguito una trascrizione strutturata della risposta verbale di Feynman. Con l’avvento dell’apprendimento automatico tramite reti neurali artificiali, è affascinante ascoltare i pensieri di Feynman sull’argomento e quanto si avvicina, anche 35 anni fa. Il tempo di lettura stimato è di 8 minuti. Buona lettura!
La risposta di Richard Feynman
Prima di tutto, pensano come esseri umani? Direi di no e tra un minuto spiegherò perché dico di no.
In secondo luogo, affinché “se siano più intelligenti degli esseri umani” sia una domanda, le intelligenze devono prima essere definite. Se dovessi chiedermelo, sono giocatori di scacchi migliori di qualsiasi essere umano? Forse può essere, sì, “Arriverà, un giorno”.
Nel 1985, naturalmente, i grandi maestri di scacchi umani erano ancora più forti delle macchine. Fino alle leggendarie partite a sei partite tra il campione mondiale di scacchi GM Garry Kasparov e il supercomputer IBM Deep Blue nel 1996 e 1997 un computer ha battuto un campione di scacchi di livello mondiale. Anche allora, il punteggio era da 3 1/2 a 2 1/2, e Kasparov finì per contestare la perdita , sostenendo che il team IBM era in qualche modo intervenuto a nome della macchina tra le partite.
L’effetto AI
“Non appena funziona, nessuno la chiama più AI” – John McCarthy
Successivamente Feynman affronta il cosiddetto ” effetto AI “, vale a dire l’attualizzazione che è stata osservata quando una macchina programmata è incaricata di eseguire un compito e di eseguirlo effettivamente, secondo gli spettatori sostenendo che ciò che l’IA ha raggiunto non è un’intelligenza “reale” :
Sono i giocatori di scacchi migliori della maggior parte degli esseri umani in questo momento! Una delle cose, comunque, vogliamo sempre che la macchina maledetta sia migliore di QUALUNQUE, non solo migliore di noi. Se troviamo una macchina che sa giocare a scacchi meglio di noi, non ci impressiona molto. Continuiamo a dire “e cosa succede quando si imbatte nei maestri?”. Immaginiamo che noi esseri umani siamo equivalenti ai padroni di tutto, giusto? La macchina deve essere migliore in tutto ciò che la persona migliore fa al miglior livello. Va bene, ma è difficile .
Sulla costruzione di macchine artificiali
Successivamente Feynman affronta la questione dei modelli mentali per analogia con le differenze tra una modalità di locomozione naturalmente evoluta (ad esempio l’andatura corrente di un mammifero con legamenti, tendini, articolazioni e muscoli) e modalità di locomozione meccanicamente progettate (usando ruote, ali e / o eliche):
Per quanto riguarda la questione se possiamo far sì che pensiamo come [esseri umani], la mia opinione si basa sulla seguente idea: che cerchiamo di far funzionare queste cose nel modo più efficiente possibile con i materiali che abbiamo. I materiali sono diversi dai nervi e così via. Se desideriamo realizzare qualcosa che scorra rapidamente sul terreno, allora potremmo vedere un ghepardo che corre e potremmo provare a creare una macchina che gira come un ghepardo. Ma è più facile realizzare una macchina con ruote. Con ruote veloci o qualcosa che vola appena sopra il suolo in aria. Quando facciamo un uccello, gli aeroplani non volano come un uccello, volano ma non volano come un uccello, ok? Non sbattono le ali esattamente, hanno davanti, un altro gadget che gira, oppure l’aereo più moderno ha un tubo che riscalda l’aria e la schizza sul retro, una propulsione a reazione, un motore a reazione, ha ventole rotanti interne e così via e usa benzina. È diverso, vero?
Quindi, non c’è dubbio che le macchine successive non penseranno come la gente pensa, in questo senso .
Per quanto riguarda l’intelligenza, penso che sia esattamente allo stesso modo, per esempio non faranno l’aritmetica allo stesso modo in cui facciamo l’aritmetica, ma lo faranno meglio.
AI sovrumana stretta
Come esempio della superiorità nell’esecuzione di un compito mentale da parte di un meccanismo meccanico progettato rispetto a un organo naturalmente evoluto, Feynman descrive successivamente le differenze tra un’intelligenza artificiale sovrumana (come ad esempio una calcolatrice) e il cervello umano:
Prendiamo la matematica, la matematica molto elementare. Aritmetica. Fanno l’aritmetica meglio di chiunque altro. Molto più veloce e diverso, ma è fondamentalmente lo stesso perché alla fine, i numeri sono equivalenti, giusto? Quindi questo è un buon esempio di .. Non cambieremo mai il modo in cui fanno l’aritmetica, per renderlo più simile agli umani. Sarebbe andare indietro. Perché l’aritmetica fatta dagli umani è lenta, ingombrante, confusa e piena di errori. Dove, questi ragazzi (macchine) sono veloci.
Se si confronta ciò che i computer possono fare, con gli esseri umani, troviamo i seguenti confronti piuttosto interessanti. Prima di tutto, se ti do, un essere umano, un problema come questo: ti chiederò questi numeri indietro, tutti gli altri, in ordine inverso, per favore. Destra? Ho una serie di numeri e voglio che me li restituisca, in ordine inverso, tutti gli altri. Te lo dico, ti semplificherò. Restituiscimi i numeri nel modo in cui te li ho dati. Sei pronto?
1, 7, 3, 9, 2, 6, 5, 8, 3, 1, 7, 2, 6, 3
Qualcuno sarà in grado di farlo? No. E non sono più di venti o trenta numeri, ma puoi dare a un computer 50.000 numeri del genere e chiedergli qualsiasi ordine inverso, la somma di tutti, fare cose diverse con loro e così via. E non
Quindi ci sono alcune cose che un computer fa molto meglio di un essere umano, e ti conviene ricordare che se stai cercando di confrontare una macchina con quella umana.
Il problema del riconoscimento dei modelli
In ciò che segue, Feynman si avvicina sempre di più alla descrizione del problema successivamente risolto dall’apprendimento automatico supervisionato , vale a dire il riconoscimento di schemi da grandi set di dati:
Ma ciò che un essere umano deve fare per se stesso … Lo fanno sempre. Tentano sempre di trovare una cosa, maledetto che riescono a fare meglio del computer. Quindi ora sappiamo molte, molte cose che gli umani possono fare meglio di un computer.
Sta camminando per la strada e ha un certo tipo di oscillazione, e sai che è Jane, giusto? Oppure, questo ragazzo sta andando e vedi che i suoi capelli si inclinano solo un po ‘, è difficile da vedere, è a distanza ma il modo particolare e divertente in cui guarda la parte posteriore della sua testa, è Jack, ok?
Riconoscere le cose, riconoscere i modelli, sembra essere qualcosa che non siamo stati in grado di mettere in una procedura definita. Diresti: “Ho una buona procedura per riconoscere una giacca. Scatta un sacco di foto di Jack”. A proposito, una foto può essere messa nel computer con questo metodo qui, se fosse molto più fine potrei dire se è bianco e nero in punti diversi. Sai, in effetti ottieni immagini su un giornale da punti bianchi e neri e se lo fai abbastanza bene non riesci a vedere i punti. Quindi, con abbastanza informazioni, posso caricare le immagini in modo da mettere tutte le immagini di Jack in circostanze diverse e c’è una macchina per confrontarle.
Il compromesso bias-varianza
Feynman prosegue affrontando essenzialmente il problema della varianza negli insiemi di addestramento dei dati, e così implicitamente affronta anche il cosiddetto compromesso di bias varianza. Nella statistica e nell’apprendimento automatico, il compromesso tra bias e varianza è la proprietà di un insieme di modelli predittivi in base ai quali i modelli con un bias inferiore nella stima dei parametri hanno una varianza più elevata delle stime dei parametri tra i campioni e viceversa. Il dilemma della variazione di bias descrive il problema di ottimizzazione in base al quale si cerca di minimizzare simultaneamente gli errori di bias da ipotesi errate in un algoritmo di apprendimento e la varianza dalla sensibilità alle piccole fluttuazioni nel set di addestramento.
Il problema è che l’attuale nuova circostanza è diversa. L’illuminazione è diversa, la distanza è diversa, l’inclinazione della testa è diversa e devi capire come consentire tutto ciò. È così complicato ed elaborato che anche con le macchine di grandi dimensioni con la quantità di spazio di archiviazione disponibile e la velocità con cui vanno, non possiamo capire come fare una procedura definita che funzioni affatto, o almeno funziona ovunque all’interno di un ragionevole velocità.
Quindi, riconoscere le cose è difficile per le macchine in questo momento, e alcune di quelle cose che vengono fatte in un attimo da una persona .. Quindi, ci sono cose che gli umani possono fare che non sappiamo come fare in un sistema di archiviazione. È il riconoscimento, e questo mi riporta a qualcosa che ho lasciato che è che tipo di impiegato di file che ha qualche abilità speciale che richiede il riconoscimento di un tipo complicato.
Ad esempio, un impiegato nel reparto delle impronte digitali che guarda le impronte digitali e poi fa un attento confronto per vedere se queste impronte digitali corrispondono, non è stato … È quasi pronto per essere .. È difficile da fare, ma quasi possibile da fare da un computer.
L’attuale stato di intelligenza artificiale (1985)
Nel suo ultimo commento, Feynman discute le difficoltà che gli esseri umani avevano ancora con la progettazione di macchine ai fini della corrispondenza delle impronte digitali :
Penseresti che non ci sia nulla, guardo le due impronte digitali e vedo se tutti i punti di sangue sono uguali, ma ovviamente non è così. Il dito era sporco, la stampa era fatta con un’angolazione diversa, la pressione era diversa, le creste non erano esattamente nello stesso posto. Se stavi cercando di abbinare esattamente la stessa immagine sarebbe facile, ma dove si trova il centro della stampa, in che modo viene girato il dito, dove c’è stato un po ‘più schiacciato, un po’ meno, dove c’è dello sporco sulla dito, se nel frattempo hai una verruca su questo pollice e così via sono tutte complicazioni. Queste piccole complicazioni rendono il confronto molto più difficile per la macchina, per il “sistema di archiviazione per non vedenti”, che è troppo. Troppo lento, sicuramente per essere assolutamente impraticabile, quasi, al momento attuale.
Non so dove si trovino ma stanno andando veloce cercando di farlo. Considerando che un essere umano può attraversare tutto ciò in qualche modo, proprio come fanno nella partita a scacchi. Sembrano essere in grado di cogliere rapidamente gli schemi e non sappiamo come farlo rapidamente e automaticamente.
video
Il video della risposta completa di Feynman è disponibile al seguente link: