Dietro la saggezza di ChatGPT: 300 miliardi di parole, 570 GB di dati
Mentre ChatGPT continua ad affascinare il mondo, con gli utenti che condividono le loro esperienze con il chatbot umano le cui risposte hanno preso d’assalto Internet. Ciò include una serie di compiti, che vanno dalla risoluzione di problemi matematici alla generazione di codici e alla scrittura di saggi. Il chatbot è stato anche in grado di indossare il berretto di un confidente che può persino dare suggerimenti per migliorare le relazioni, consigli sulla salute e può persino abbozzare barzellette per la tua prossima esibizione in piedi.
Ti sei mai chiesto come sia in grado di farlo in modo così fluido? La risposta sta nella velocità e nella comprensione di argomenti complessi.
Di recente, OpenAI ha evidenziato come funziona effettivamente ChatGPT sul suo sito web. Ha affermato che ChatGPT è un modello di pari livello di InstructGPT , che è addestrato a seguire un’istruzione in un prompt e fornire una risposta dettagliata.
Secondo un articolo pubblicato su BBC Science Focus , il modello è stato addestrato utilizzando database da Internet che includevano ben 570 GB di dati provenienti da libri, wikipedia, articoli di ricerca, testi web, siti Web e altre forme di contenuto e scrittura in rete. Circa 300 miliardi di parole sono state immesse nel sistema .
Essendo un grande sistema linguistico, il modello funziona sulla probabilità grazie alla quale è in grado di prevedere la parola o il suggerimento successivo in una frase. Ciò è stato reso possibile in quanto il modello è stato sottoposto a una fase di test supervisionato.
Il modello è stato alimentato con input come “Il pomodoro è un frutto o una verdura?” e il team che fornisce gli input ha la risposta o l’output corretto, anch’esso inserito nel sistema. Tuttavia, ciò non garantisce una risposta corretta poiché si basa sul prompt o sulla natura della query. Se il modello sbaglia, la risposta corretta viene restituita al modello, addestrandolo così alle risposte giuste e aiutandolo anche a costruire sulla sua banca di conoscenze.
Quindi passa attraverso la fase successiva in cui offre risposte diverse e un annotatore umano lo classifica dal più appropriato all’errato , addestrando il sistema a confrontare .
Il modello è un passo avanti rispetto agli altri modelli esistenti poiché ChatGPT continua ad apprendere e sviluppare le proprie conoscenze, comprendendo la natura di richieste e domande e quindi rispondendo di conseguenza, consentendo così di rispondere a tutte le possibili domande.
Apprendimento di rinforzo in soccorso
Ciò che distingue questa tecnologia è che continua ad apprendere indovinando quale dovrebbe essere la parola successiva, migliorando costantemente la sua comprensione di suggerimenti e domande per diventare il saputello definitivo.
Poiché viene addestrato utilizzando l’algoritmo di apprendimento per rinforzo, il modello apprende e si aggiorna costantemente per risposte appropriate in base alla natura dei prompt. ChatGPT può anche svolgere il ruolo di dire una versione più intelligente di un software di completamento automatico in cui quando inizi a digitare una frase , prevede l’azione successiva del corso .
Limitazioni
Il modello, tuttavia, fallisce ancora su molti fronti . La risposta al prompt, ad esempio, non riesce a produrre la risposta su come si collega ai GAN e necessita di più livelli di verifica per reperire meglio le informazioni.
Inoltre, nel suo sforzo di essere responsabile ed essere consapevole del potenziale di manipolazione dell’IA per produrre contenuti distorti o dannosi, OpenAI ha assicurato che il Chatbot sia addestrato a tali pregiudizi e limiti la sua risposta a richieste che sembrano inappropriate.
Per quanto riguarda la discussione sul fatto che ChatGPT abbia il potenziale per sostituire gli sviluppatori su un thread di Twitter, un utente di Twitter spiega che mentre il modello è in grado di produrre testo simile a quello umano, è ancora limitato nella sua capacità di comprendere e manipolare sistemi complessi come un sviluppatore umano. Inoltre, un modello linguistico come ChatGPT non è capace di pensiero indipendente o creatività, che sono abilità importanti per uno sviluppatore. In breve, mentre modelli di linguaggio di grandi dimensioni come ChatGPT possono essere in grado di assistere gli sviluppatori in determinate attività, non saranno in grado di sostituirli completamente.
Puntare sulle tendenze
Anche la discussione di tendenza su ChatGPT non è sfuggita nemmeno alla comunità di Crypto ed è stata tra gli argomenti più di tendenza. L’entusiasmo intorno al chatbot, a sua volta, ha portato gli scommettitori di criptovalute ad acquistare token relativi all’intelligenza artificiale, il che ha portato a un aumento dei prezzi dei token fino al 77% secondo CoinGecko, una piattaforma di dati sui prezzi e le informazioni in valuta digitale.
Tra i token che hanno beneficiato di più c’erano DeepBrain Chain (DBC) che ha registrato i maggiori guadagni con un aumento del 76,7% del prezzo del token entro una settimana dal lancio di ChatGPT seguito da Numeraire (NMR) , il più grande token AI per capitalizzazione di mercato, che ha visto il suo prezzo è aumentato del 54,5% nello stesso periodo, da $ 11,26 a $ 17,40.
