OpenAI ha introdotto Ultrafast, un nuovo tier di servizio per GPT-5.6 Sol progettato per ridurre drasticamente la latenza dell’inferenza attraverso l’infrastruttura Cerebras. La modalità viene lanciata inizialmente nell’API OpenAI in limited preview per un gruppo selezionato di clienti e può raggiungere fino a 750 token di output al secondo, con una velocità dichiarata fino a 14 volte superiore rispetto all’elaborazione Standard dello stesso modello. L’obiettivo è mantenere le capacità del modello di punta della famiglia GPT-5.6 senza sostituirlo con una variante più piccola per ottenere tempi di risposta inferiori, rendendo Sol utilizzabile anche in applicazioni nelle quali il risultato deve essere prodotto mentre il processo operativo è ancora in corso. L’accesso verrà ampliato progressivamente in funzione della capacità disponibile e non è stata indicata una data per la disponibilità generale.
Cerebras dichiara che GPT-5.6 Sol in modalità Ultrafast raggiunge una velocità di generazione 11 volte superiore a quella riportata per Claude Fable 5 e circa cinque volte superiore a Claude Opus 4.8 in Fast mode, utilizzando come riferimento i dati di output speed pubblicati da Artificial Analysis. Il confronto riguarda la velocità di generazione e non implica quindi, da solo, una superiorità qualitativa tra i modelli. Nei test effettuati direttamente da Cerebras su Humanity’s Last Exam, composto da 2.500 domande di livello avanzato, GPT-5.6 Sol Ultrafast ha completato l’intero benchmark in 11 ore e 11 minuti, mentre Claude Fable 5 avrebbe impiegato 78 ore e 27 minuti per raggiungere risultati di accuratezza comparabili. La differenza corrisponde a un tempo di elaborazione quasi sette volte inferiore.
Un secondo test è stato eseguito su GDP-Val, benchmark dedicato a compiti di knowledge work con valore economico. In questo caso Cerebras riporta un’accelerazione end-to-end di 5,6 volte rispetto all’elaborazione Standard di GPT-5.6 Sol, senza perdita misurabile di qualità. I risultati devono tuttavia essere letti come valutazioni condotte dal fornitore: i test su Humanity’s Last Exam sono stati eseguiti da Cerebras il 10 e tra il 13 e il 15 luglio 2026, mentre quelli su GDP-Val risalgono al 31 luglio. Non si tratta quindi di benchmark indipendenti, ma di misurazioni effettuate dall’azienda sull’infrastruttura utilizzata per il servizio.
La velocità deriva dall’architettura hardware Wafer-Scale Engine di Cerebras, progettata per ridurre uno dei principali colli di bottiglia dell’inferenza dei grandi modelli: il continuo trasferimento dei pesi tra memoria e unità di calcolo. Nelle architetture GPU tradizionali, durante la generazione autoregressiva, i parametri del modello devono essere continuamente letti dalla memoria e resi disponibili ai processori per produrre ogni nuovo token. Con modelli di grandi dimensioni il limite può diventare quindi la bandwidth della memoria piuttosto che la potenza computazionale teorica disponibile. Cerebras affronta il problema utilizzando chip delle dimensioni di un intero wafer, con 44 GB di SRAM integrata direttamente sul silicio e un sistema nel quale i pesi possono rimanere residenti vicino alle unità di elaborazione.
L’elaborazione viene inoltre distribuita attraverso più Wafer-Scale Engine utilizzando una pipeline nella quale i token attraversano progressivamente i layer del modello senza richiedere il continuo movimento dei parametri verso memorie esterne. Cerebras sostiene che questa architettura consenta di conservare il vantaggio di latenza anche aumentando la dimensione dei modelli, perché il sistema può aggiungere wafer mantenendo i pesi distribuiti direttamente sulla memoria on-chip. La stessa impostazione era già stata utilizzata dalla società per servizi di inferenza ad alta velocità: nel 2024 Cerebras dichiarava 1.800 token al secondo su Llama 3.1 8B e 450 token al secondo su Llama 3.1 70B, mantenendo i pesi a 16 bit. Con GPT-5.6 Sol il sistema viene ora applicato a un modello frontier significativamente più complesso.
Ultrafast rappresenta anche un’estensione della collaborazione infrastrutturale tra OpenAI e Cerebras. Nel corso del 2026 OpenAI ha siglato un accordo per l’utilizzo di capacità di calcolo Cerebras a bassa latenza per un valore complessivo indicato in 10 miliardi di dollari. Il nuovo servizio porta questa capacità direttamente sul modello di punta GPT-5.6 Sol anziché limitarla a modelli più piccoli o specializzati. OpenAI descrive Ultrafast come il passaggio successivo della collaborazione tra le due aziende per integrare inferenza a latenza molto bassa nella propria piattaforma API.
GPT-5.6 Sol è il modello più avanzato della famiglia GPT-5.6, affiancato da Terra e Luna. OpenAI lo posiziona per coding, knowledge work, cybersecurity, ricerca scientifica e attività agentiche complesse. Nell’API il modello standard ha un prezzo di 5 dollari per milione di token in input e 30 dollari per milione di token in output, mentre Terra costa rispettivamente 2,50 e 15 dollari e Luna 1 e 6 dollari. Per Ultrafast non è stato ancora comunicato pubblicamente un listino generale, coerentemente con lo stato di limited preview del servizio.
OpenAI sta indirizzando inizialmente Ultrafast verso applicazioni nelle quali la latenza influenza direttamente l’utilità del modello. Tra gli scenari indicati rientrano la gestione di incidenti mentre un’interruzione è ancora in corso, l’analisi finanziaria durante il movimento dei mercati, l’assistenza clienti in tempo reale, le interfacce vocali, il commercio e i loop di ricerca nei quali il modello deve produrre e verificare risultati in rapida successione. Tra le aziende coinvolte nella prima fase figurano Jane Street, Podium, Basis e Rogo, appartenenti ai settori finanziario, software, commerce e ricerca professionale.
La modalità non modifica il modello utilizzato ma interviene quindi sul livello di serving. Lo stesso GPT-5.6 Sol può essere eseguito attraverso l’elaborazione Standard oppure attraverso l’infrastruttura Cerebras di Ultrafast, modificando principalmente il tempo necessario per ottenere l’output. Questo aspetto permette di utilizzare un modello frontier in workflow interattivi che normalmente richiederebbero compromessi tra capacità e latenza, soprattutto nei processi agentici nei quali una singola attività può generare numerose chiamate sequenziali al modello e il tempo di ogni inferenza si accumula lungo l’intera catena operativa.
La disponibilità rimane per ora il principale limite operativo. OpenAI non ha definito né una data di general availability né una capacità complessiva iniziale e ha specificato che l’espansione avverrà progressivamente con l’aumento delle risorse Cerebras disponibili. La fase di preview servirà anche a individuare i workload nei quali un miglioramento della velocità di un ordine di grandezza produce benefici sufficienti a giustificare l’impiego del nuovo tier. Ultrafast porta quindi GPT-5.6 Sol fino a 750 token di output al secondo mantenendo lo stesso modello e spostando il miglioramento dal livello algoritmico a quello dell’infrastruttura di inferenza.
Questo articolo è stato redatto con il supporto di strumenti di intelligenza artificiale (AI)