Google, Meta, Perché NO ChatGPT?
 
OpenAI è stato all’avanguardia con l’IA generativa, in particolare i modelli di linguaggio di grandi dimensioni (LLM), con ChatGPT, e da allora la tendenza ha solo guadagnato più slancio. Nel 2019, Satya Nadella ha investito 1 miliardo di dollari in OpenAI anche prima del rilascio di GPT-3 e ha in programma di pompare altri 10 miliardi di dollari . Microsoft ha supportato lo sviluppo di modelli generativi tramite OpenAI e da quando ha reso pubblicamente disponibile ChatGPT, le persone si chiedono perché gli altri giganti della tecnologia, Google e Meta, siano indietro.

Di recente, la fondatrice del chatbot “Replika”, Eugenia Kuyda , ha dichiarato in un’intervista: “Mi sento come la persona che è arrivata all’aeroporto con una settimana di anticipo per un volo, e ora il volo sta per imbarcarsi”. Kuyda ha anche affermato di aver rifiutato molte offerte di finanziamento da parte degli investitori per l’attività.

Preoccupazioni etiche
I soldi stanno arrivando, le tecniche e gli strumenti per la costruzione sono disponibili, i documenti accademici e i software sono disponibili su Internet, ma molti altri giganti come Google e Meta sono un po’ riluttanti a rendere i loro modelli disponibili al pubblico, se non a costruirli innanzitutto. 

 
In accordo con l’ articolo del New York Times sulla tendenza dell’IA generativa, Yann LeCun è andato su Twitter e ha affermato che Google e Meta non stanno rilasciando le loro tecnologie generative costruite con LLM al grande pubblico adducendo ragioni etiche perché i modelli spesso hanno prodotto disinformazione e tossiche contenuto.


Non a caso i due colossi, Google e Meta, non hanno fatto passi da gigante nella realizzazione di modelli di generazione di testi o di conversazione. Meta ha costruito ‘Galactica’, alimentato da 48 milioni di articoli scientifici e mirato a sostenere la ricerca scientifica. Il modello è stato utilizzato per la ricerca da molti scienziati, ma ha dovuto spegnersi tre mesi dopo il suo lancio poiché produceva risultati ” allucinanti “.

 

Nello stesso thread, Grady Booch ha parlato di Galactica e ha chiesto se LeCun avesse la stessa opinione al riguardo. Quando Galactica è stato rilasciato, è stato affermato in modo non etico di essere in grado di pubblicare white paper, senza fornire alcuna prova a riguardo.

LeCun sottolinea il problema con i modelli simili a ChatGPT nel suo post su Linkedin e spiega che questi modelli compensano le loro deboli capacità di ragionamento con la loro grande capacità di “memoria”. “È che rispondere in modo errato alle domande delle persone non aiuta nessuno.” 

Leggi: Perché nessuno prende sul serio l’IA generativa?

Approccio a porte chiuse
Microsoft ha fatto una scommessa iniziale con OpenAI e ha rilasciato ChatGPT per il pubblico. Da allora, OpenAI è stato in cima alla mente di tutti e ha entusiasmato tutti per la popolarità dell’IA. Tuttavia, sebbene Google e Meta non rendano i loro prodotti apertamente disponibili al pubblico, hanno ancora dei piani e stanno investendo nel settore.

Alla conferenza AI@ ’22 di novembre, Douglas Eck, Principal Scientist presso Google Research, ha mostrato scorci del percorso che stanno intraprendendo verso modelli generativi e LLM. L’azienda ha sviluppato strumenti come Learning to Code, Wordcraft, DreamBooth e AudioLM.

Google ha anche annunciato che sta costruendo un modello linguistico che supporterà 1000 lingue e, come primo passo, svelerà anche un modello con 400 lingue. Meta ha anche reso open source il suo OPT-175B , modello linguistico con 175 miliardi di parametri, che è solo un miliardo in meno rispetto a quello di GPT-3. 

“Profezie di sventura”
LeCun riassume perfettamente il problema. Nello stesso thread di Twitter, quando gli utenti hanno sottolineato che LeCun si sta dimenticando del fallimento di Galactica quando ha criticato ChatGPT, ha affermato che è proprio il motivo per cui le grandi aziende evitano l’uso pubblico dei loro prodotti. Prima di causare effettivamente danni, le persone li accolgono con “ridicole profezie istintive di sventura”. 

LeCun ha affermato che rilasciare progetti al pubblico come se fossero prodotti è un passo rischioso poiché le persone continuano a colpire le imperfezioni. Un caso simile si è verificato con LaMDA di Google quando è stato pubblicizzato come senziente da uno degli sviluppatori e le persone hanno iniziato a criticare l’intelligenza artificiale con la narrativa “porre fine all’umanità” mentre alcuni hanno iniziato a definirla una bufala. 

OpenAI ha rilasciato ChatGPT come servizio e prodotto utilizzabile da tutti. Ma la maggior parte delle idee di modelli generativi è venuta fuori da Google Brain dal 2011 e la società ha anche fatto grandi offerte con DeepMind nel 2014. Lo stesso vale per Facebook e FAIR dal 2013. Entrambe le società hanno LLM e modelli generativi. Hanno semplicemente scelto di non renderli disponibili al pubblico, sebbene FAIR abbia molti dei suoi progetti open source. 

Di ihal