Due mesi fa, quando è emersa la notizia che Apple stava investendo nell’intelligenza artificiale generativa e in un chatbot, i mercati hanno reagito positivamente, spingendo il prezzo delle azioni di Apple a un record di 198,23 dollari, con un aumento del 2,3%. Tuttavia, al di là del fatto che Apple utilizza Ajax per il suo Linguaggio di Modellamento Linguistico (LLM) e che internamente lo chiama AppleGPT, i dettagli sul modello sono rimasti scarsi.
In una svolta sorprendente, secondo un rapporto di The Information, Apple sta attualmente addestrando Ajax GPT con oltre 200 miliardi di parametri, che si ritiene siano più potenti persino di GPT-3.5. Ma la notizia più sorprendente è che Apple ha preso una decisione senza precedenti: ha reso il suo codice accessibile su GitHub!
Nel mese di luglio, Apple ha pubblicato silenziosamente il codice di AXLearn su GitHub, permettendo al pubblico di utilizzarlo per addestrare modelli linguistici di grandi dimensioni senza partire da zero. AXLearn, un software sviluppato internamente da Apple nell’ultimo anno per l’addestramento di Ajax GPT, è un framework di apprendimento automatico che serve come strumento predefinito per la rapida formazione di modelli di machine learning. Ajax è basato su JAX, un framework open source sviluppato da Google, e alcuni componenti di AXLearn sono stati progettati specificamente per l’ottimizzazione su unità di elaborazione tensoriale (TPU) di Google.
Sebbene Apple sia conosciuta per il suo approccio chiuso alle tecnologie, questa mossa di rendere open source AXLearn rappresenta un importante cambiamento nella sua politica di segretezza. Questa decisione potrebbe favorire la collaborazione e l’innovazione all’interno della comunità di ricerca sull’intelligenza artificiale, riflettendo una tendenza più ampia verso una maggiore trasparenza nello sviluppo dell’IA.
Sebbene il motivo esatto dietro questa decisione di Apple rimanga sconosciuto, è evidente che l’azienda sta facendo un notevole investimento nell’intelligenza artificiale, con milioni di dollari spesi quotidianamente. Questo dimostra la sua determinazione a competere in modo aggressivo nella corsa all’intelligenza artificiale. Inoltre, è interessante notare che il mese scorso l’azienda ha depositato il marchio “AXLearn” a Hong Kong.
I dirigenti chiave di Apple nell’ambito dell’intelligenza artificiale, John Giannandrea e Ruoming Pang, portano con sé un’ampia esperienza da Google nei loro ruoli precedenti. Giannandrea ha introdotto una cultura di ricerca più aperta simile a quella di Google, dove i dipendenti hanno maggior libertà per condurre ricerche variegate, pubblicare articoli e esplorare idee innovative. Le restrizioni precedenti di Apple in queste aree avevano limitato la crescita e il reclutamento di talenti.
Secondo i rapporti, Apple ha anche reclutato talenti dai team di intelligenza artificiale di Google e Meta. Negli ultimi due anni, almeno sette dei 18 contributori di AXLearn su GitHub avevano esperienza pregressa presso Google o Meta. Questo suggerisce che Apple stia cercando di promuovere i talenti attraverso la comunità di ricerca, il che rende l’open source un percorso sensato.
Guardando tutte queste informazioni, sembra che Apple abbia costituito due nuovi team dedicati allo sviluppo di modelli linguistici e di immagine. Un recente documento di ricerca sull’intelligenza artificiale di Apple suggerisce che stiano lavorando su un software capace di generare immagini, video e scene 3D, indicando anche una possibile intelligenza artificiale multimodale.
Tuttavia, rimangono incertezze sulla possibile integrazione di LLM nei prodotti Apple. Integrare un modello con 200 miliardi di parametri, che richiede più spazio di archiviazione e potenza di calcolo, su un iPhone potrebbe essere un’impresa complessa. È possibile che l’azienda stia lavorando su modelli più leggeri per l’integrazione nei dispositivi mobili o che il modello venga utilizzato per altri scopi, ma i dettagli rimangono misteriosi.