ChatGPT “non è particolarmente innovativo” e “niente di rivoluzionario”, afferma il capo scienziato AI di Meta
Il pubblico percepisce ChatGPT di OpenAI come rivoluzionario, ma in molti laboratori di ricerca vengono utilizzate le stesse tecniche e lo stesso tipo di lavoro, afferma il pioniere del deep learning.
Perché il pubblico non ha visto programmi come ChatGPT di Meta o di Google? “La risposta è che Google e Meta hanno entrambi molto da perdere mettendo fuori sistemi che inventano cose”, afferma il capo scienziato AI di Meta, Yann LeCun.
Negli ultimi tempi è stato versato molto inchiostro sull’enorme promessa del programma ChatGPT di OpenAI per la generazione di espressioni in linguaggio naturale in risposta ai suggerimenti umani.
Il programma colpisce molte persone come così fresco e intrigante che ChatGPT deve essere unico nell’universo.
Gli strumenti di scrittura AI possono aiutarti ad alleggerire il tuo carico di lavoro scrivendo e-mail e saggi e persino facendo matematica. Usano l’intelligenza artificiale per generare testo o rispondere a domande basate sull’input dell’utente. ChatGPT è un esempio popolare, ma ci sono altri scrittori di intelligenza artificiale degni di nota.
“In termini di tecniche sottostanti, ChatGPT non è particolarmente innovativo”, ha affermato Yann LeCun, capo scienziato AI di Meta, in una piccola riunione di stampa e dirigenti su Zoom la scorsa settimana.
“Non è niente di rivoluzionario, anche se è così che viene percepito dal pubblico”, ha detto LeCun. “È solo che, sai, è ben messo insieme, è ben fatto.”
Tali sistemi di intelligenza artificiale basati sui dati sono stati costruiti in passato da molte aziende e laboratori di ricerca, ha affermato LeCun. L’idea che OpenAI sia sola nel suo tipo di lavoro è imprecisa, ha affermato.
Inoltre: le persone stanno già cercando di convincere ChatGPT a scrivere malware
“OpenAI non è affatto un progresso rispetto agli altri laboratori”, ha affermato LeCun.
“Non si tratta solo di Google e Meta, ma ci sono una mezza dozzina di startup che sostanzialmente hanno una tecnologia molto simile”, ha aggiunto LeCun. “Non voglio dire che non è scienza missilistica, ma è davvero condiviso, non c’è nessun segreto dietro, se vuoi.”
LeCun ha notato i molti modi in cui ChatGPT, e il programma su cui si basa, GPT-3 di OpenAI , è composto da più pezzi di tecnologia sviluppati nel corso di molti anni da molte parti.
“Devi renderti conto che ChatGPT utilizza architetture Transformer che sono pre-addestrate in questo modo auto-supervisionato”, ha osservato LeCun. “L’apprendimento auto-supervisionato è qualcosa che sostengo da molto tempo, anche prima che esistesse OpenAI”, ha affermato.
Inoltre: i rilevatori di intelligenza artificiale possono salvarci da ChatGPT? Ho provato 3 strumenti online per scoprirlo
“Transformers è un’invenzione di Google”, ha osservato LeCun, riferendosi alla rete neurale linguistica svelata da Google nel 2017, che è diventata la base per una vasta gamma di programmi linguistici, incluso GPT-3.
Il lavoro su tali programmi linguistici risale a decenni fa, ha affermato LeCun.
“I modelli di linguaggio di grandi dimensioni, il primo modello di linguaggio della rete neurale – all’epoca era grande, per gli standard odierni, è minuscolo – era di Yoshua Bengio, circa 20 anni fa”, ha detto LeCun, riferendosi al capo del MILA canadese istituto per l’IA Il lavoro di Bengio sul concetto di attenzione è stato successivamente ripreso da Google per Transformer ed è diventato un elemento cardine in tutti i modelli linguistici.
Il programma di OpenAI ha, inoltre, fatto ampio uso di una tecnica chiamata apprendimento per rinforzo tramite feedback umano, che fa in modo che agenti umani aiutino a classificare l’output della macchina per migliorarlo, proprio come il Page Rank di Google per il web. Questo approccio è stato sperimentato non da OpenAI, ma dall’unità DeepMind di Google, ha affermato.
“Quindi c’è un’intera storia di questo, e questo non è venuto fuori dal vuoto”, ha detto LeCun, che significa ChatGPT.
Inoltre: ChatGPT di OpenAI è spaventosamente bravo nel mio lavoro
Il programma ChatGPT è meno un caso di scoperte scientifiche che un esempio di ingegneria decente, ha affermato LeCun. Ha paragonato il programma al computer Watson di IBM che ha gareggiato nel 2011 nel game show Jeopardy! e al veicolo a guida autonoma dell’imprenditore Sebastian Thrun che ha vinto la Grand Challenge 2005 della DARPA. La pluripremiata tecnologia di Thrun “non era particolarmente innovativa in termini di scienza sottostante”, ha affermato LeCun, “era solo molto ben progettata”.
“Questo è un po’ quello che ha fatto OpenAI”, ha detto. “Non li criticherò per questo.”
LeCun è stato un oratore invitato per un discorso di un’ora e mezza ospitato da Collective[i] Forecast , una serie di discussioni interattive online organizzata da Collective[i], che si autodefinisce “una piattaforma AI progettata per ottimizzare le vendite B2B”.
Inoltre: la prossima grande sfida di ChatGPT: aiutare Microsoft a sfidare la ricerca su Google
LeCun ha fatto le sue osservazioni su OpenAI in risposta a una domanda durante il colloquio posto dal giornalista del New York Times Cade Metz. Metz ha chiesto se il team AI di Meta, FAIR, che LeCun ha costruito, sarà mai identificato nella mente del pubblico con scoperte come lo è OpenAI.
“Lo vedremo da Meta? Sì, lo vedremo”, ha risposto LeCun. “E non solo generazione di testo, ma anche aiuti alla creazione”, ha detto, inclusa “l’arte generativa”, che, ha detto, “penso che sarà una grande cosa”.
Meta sarà in grado di aiutare le piccole imprese a promuoversi producendo automaticamente media che promuovono un marchio, ha offerto.
“Ci sono qualcosa come 12 milioni di negozi che fanno pubblicità su Facebook, e la maggior parte di loro sono negozi per mamme e pop, e semplicemente non hanno le risorse per progettare un nuovo annuncio ben progettato”, ha osservato LeCun. “Quindi per loro, l’arte generativa potrebbe aiutare molto”.
In un altro punto del discorso, LeCun ha osservato: “Potresti porre la domanda, perché non ci sono sistemi simili, ad esempio, da Google e Meta”, riferendosi nuovamente a ChatGPT.
“E, la risposta è, Google e Meta hanno entrambi molto da perdere mettendo fuori sistemi che inventano cose”, ha detto LeCun con una risata.
LeCun è il vincitore del Premio Turing 2019 per i contributi all’informatica, l’equivalente del Premio Nobel per l’informatica, insieme a Bengio del MILA e professore dell’Università di Toronto, nonché borsista di Google, Geoffrey Hinton. I tre hanno aiutato a fare da pioniere nell’odierna era del deep learning dell’intelligenza artificiale.
OpenAI è finanziato da Microsoft , che ha accesso esclusivo al codice prodotto dalla startup e che sta gradualmente incorporando i programmi nelle sue varie offerte software, incluso il suo servizio cloud Azure .
