xAI sta utilizzando per Grok 4.8 un nuovo stack software di pre-training scritto internamente in C++, sviluppato principalmente dal team software di Starlink. Elon Musk ha precisato che questo stack è stato realizzato da programmatori umani e non generato attraverso strumenti di intelligenza artificiale, sottolineando inoltre che la parte dedicata al pre-training è già stata sostituita con l’infrastruttura interna C/C++. Il modello Grok 4.8 viene indicato da Musk come una configurazione da circa 2,5 trilioni di parametri, con conclusione della fase iniziale di training prevista nella settimana del 14 settembre 2026 e successivo passaggio alla fase di reinforcement learning. Al momento queste caratteristiche derivano dalle comunicazioni di Musk e non da una documentazione tecnica completa pubblicata da xAI.
Il nuovo stack rappresenta un cambiamento rispetto all’infrastruttura utilizzata in precedenza da xAI. Grok-1 era stato addestrato attraverso uno stack personalizzato costruito sopra JAX e Rust, mentre negli ultimi mesi Musk ha descritto un progressivo spostamento verso software proprietario scritto direttamente in C e C++, con meno livelli intermedi tra il codice di training e l’hardware. A maggio aveva indicato come quasi completata una prima versione dello stack di training in C, mentre a giugno aveva parlato di una futura infrastruttura completa per training e inferenza interamente basata su C/C++. Nel corso dell’estate aveva inoltre specificato che parte del nuovo software sarebbe stata progettata per mappare in modo molto più diretto i workload sulle GPU NVIDIA GB300.
L’idea alla base di questa architettura è ridurre l’overhead introdotto da framework general purpose e livelli software intermedi, ottimizzando scheduling, comunicazione tra acceleratori, gestione della memoria e distribuzione del calcolo per un’infrastruttura hardware conosciuta in anticipo. Musk aveva precedentemente stimato che uno stack di questo tipo potesse produrre miglioramenti molto elevati rispetto a JAX nei grandi training run e aveva indicato potenziali incrementi significativi anche sul fronte dell’inferenza, ma al momento non sono disponibili benchmark indipendenti o dati pubblici che permettano di verificare quantitativamente questi valori. Lo stesso passaggio a C e C++ non implica automaticamente prestazioni superiori: il beneficio dipende soprattutto dal livello di specializzazione del software rispetto all’hardware sottostante e dall’eliminazione dei livelli di astrazione non necessari.
La situazione è invece diversa per il reinforcement learning. Musk ha dichiarato che l’attuale stack dedicato al pre-training è ormai quello interno sviluppato in C/C++, mentre l’infrastruttura RL utilizza ancora una combinazione di sistemi precedenti e componenti di terze parti che xAI deve sostituire o semplificare. Questo significa che Grok 4.8 dovrebbe completare il pre-training sul nuovo stack proprietario ma passare successivamente a una fase di reinforcement learning che non utilizza ancora integralmente la nuova architettura software. L’obiettivo dichiarato è arrivare anche per questa parte della pipeline a una soluzione più integrata e ottimizzata per il cluster hardware impiegato da xAI.
Grok 4.8 sarebbe quindi il primo modello della famiglia indicato esplicitamente da Musk come addestrato attraverso il nuovo stack C++. Il modello precedente Grok 4.6 viene generalmente associato a una scala di circa 1,5 trilioni di parametri, mentre per Grok 4.7 sono circolate indicazioni intorno ai 2,1 trilioni; i 2,5 trilioni attribuiti a Grok 4.8 rappresenterebbero quindi un ulteriore aumento della scala. Questi numeri non permettono però di determinare direttamente il costo computazionale effettivo, perché xAI non ha specificato pubblicamente se l’architettura sia completamente dense, utilizzi un sistema Mixture-of-Experts o quanti parametri vengano effettivamente attivati per ciascun token.
Musk ha indicato Grok 4.8 come un miglioramento percepibile rispetto a Grok 4.7, mentre ha collocato obiettivi prestazionali più ambiziosi sulle versioni successive Grok 4.9 e Grok 5. Per Grok 4.7 ha parlato di prestazioni complessivamente vicine a Claude Opus 5.0, con risultati migliori in alcune aree e peggiori in altre e con una necessità esplicita di migliorare la componente multimodale. Queste valutazioni non sono al momento verificabili in modo indipendente, dato che Grok 4.7 e Grok 4.8 non dispongono ancora di benchmark pubblici completi comparabili.
Dopo Grok 4.8, xAI prevede inoltre un nuovo training run con un modello indicato da Musk nell’ordine dei 3 trilioni di parametri, che dovrebbe utilizzare ulteriori miglioramenti al software interno e una qualità dei dati di training superiore. Musk ha attribuito parte delle modifiche apportate negli ultimi mesi proprio all’individuazione di errori e inefficienze nei precedenti cicli di addestramento, sostenendo che il nuovo stack e il lavoro sui dataset dovrebbero rendere il prossimo run sensibilmente migliore. Anche in questo caso non sono ancora disponibili specifiche dettagliate, configurazioni hardware complete o risultati di benchmark che permettano di quantificare l’effetto delle modifiche.
Il passaggio a un’infrastruttura proprietaria in C/C++ si inserisce quindi in una strategia più ampia di verticalizzazione dello stack di xAI, con software di training e inferenza progettato specificamente per i grandi cluster NVIDIA utilizzati dall’azienda. La parte tecnicamente più rilevante non è soltanto il linguaggio scelto, ma il tentativo di controllare direttamente una porzione maggiore della pipeline, riducendo la dipendenza dai framework tradizionali e ottimizzando il software per una configurazione hardware definita. Finché xAI non pubblicherà misure comparative, però, i vantaggi prestazionali attribuiti al nuovo stack restano dichiarazioni interne e non risultati indipendentemente verificati.
Questo articolo è stato redatto con il supporto di strumenti di intelligenza artificiale (AI)