Inception Labs ha presentato Mercury 2.5, una nuova versione del proprio diffusion language model progettata per aumentare la qualità delle risposte mantenendo latenze molto basse e costi contenuti. La società lo descrive come il proprio modello di diffusione più grande e capace realizzato finora, con un miglioramento del 40% nelle prestazioni di intelligenza rispetto a Mercury 2 e un livello che, secondo Inception, lo colloca nella stessa fascia di modelli frontier leggeri orientati all’efficienza come GPT-5.6 Luna, Gemini 3.5 Flash Lite e Claude Haiku 4.5. Mercury 2.5 può generare fino a 1.107 token al secondo su GPU NVIDIA ampiamente disponibili e supporta una finestra di contesto fino a 260.000 token, caratteristiche pensate soprattutto per applicazioni in tempo reale e per flussi che richiedono l’elaborazione di grandi quantità di informazioni con numerose chiamate successive al modello.
Il modello utilizza un approccio basato sulla diffusione, differente dalla generazione autoregressiva tradizionale che produce normalmente i token uno dopo l’altro. Inception concentra in particolare il posizionamento di Mercury 2.5 sulla combinazione tra velocità, qualità e costo operativo. Il prezzo standard è fissato a 0,20 dollari per milione di token in input e 0,75 dollari per milione di token in output, mentre nella fase iniziale di lancio viene applicato uno sconto dell’80%, che porta i prezzi rispettivamente a 0,04 e 0,15 dollari. Il modello dispone inoltre di inferenza regolabile, chiamate parallele agli strumenti e generazione di output JSON conforme a schemi predefiniti, funzionalità utili per l’integrazione in applicazioni e pipeline agentiche strutturate.
Lo sviluppo di Mercury 2.5 è stato influenzato dall’utilizzo reale della generazione precedente. Dopo il lancio di Mercury 2, migliaia di sviluppatori hanno utilizzato il modello e decine di aziende lo hanno integrato in servizi operativi, fornendo a Inception dati relativi soprattutto ad applicazioni sensibili alla latenza come ricerca, voce e coding. La società ha utilizzato questi dati insieme ai feedback dei clienti e ai casi di malfunzionamento riscontrati in produzione per modificare i processi di valutazione e addestramento del nuovo modello. Un motore di ricerca basato sull’AI, per esempio, può eseguire decine di chiamate al modello all’interno di una sola richiesta dell’utente per pianificare la ricerca, riscrivere le query, riordinare i risultati, strutturare le informazioni, sintetizzare le fonti e verificare la risposta finale; in scenari di questo tipo la latenza di ogni singola chiamata si accumula rapidamente, rendendo particolarmente rilevante una velocità di generazione superiore ai mille token al secondo.
Un altro ambito considerato centrale è quello degli agenti vocali, dove anche differenze di poche centinaia di millisecondi possono influenzare la naturalezza della conversazione. OpenCall, società che sviluppa agenti AI per la gestione delle telefonate dei clienti, ha dichiarato di aver utilizzato Mercury in ambiente di produzione ottenendo una latenza mediana della risposta del modello di circa 170 millisecondi. Un problema simile emerge nei sistemi di coding agentico, nei quali più modelli possono occuparsi contemporaneamente di pianificazione, generazione del codice, ricerca degli strumenti e sintesi dello stato del progetto: aumentando il numero delle chiamate, anche differenze relativamente piccole in velocità e prezzo possono tradursi in variazioni significative nella latenza complessiva e nel costo di esecuzione.
Augment Code utilizza Mercury per attività come compressione del contesto, model routing e ricerca degli strumenti MCP. Dopo aver trasferito a Mercury il processo di context compression, la piattaforma ha dichiarato di aver ridotto il tempo necessario per questa operazione da circa 150 a 27 secondi, con una diminuzione dell’82%, mantenendo invariata la qualità e riducendo contemporaneamente i costi del 90%. Il caso mostra uno degli utilizzi su cui Inception sta puntando maggiormente: non necessariamente sostituire un modello più grande in ogni fase del flusso, ma utilizzare un modello estremamente rapido ed economico nelle operazioni intermedie che devono essere ripetute molte volte all’interno di uno stesso processo agentico.
Insieme a Mercury 2.5, Inception Labs ha inoltre presentato in anteprima Mercury Voice, una variante ottimizzata specificamente per gli agenti vocali, e Mercury Router, un sistema che distribuisce automaticamente le richieste tra più modelli AI selezionando quello che offre la combinazione più adatta di qualità, velocità e costo. I modelli Mercury sono disponibili attraverso l’API di Inception e tramite Baseten e OpenRouter, mentre per le implementazioni aziendali sono previste opzioni aggiuntive come capacità dedicata, scalabilità automatica, controlli di conformità e configurazione dei periodi di conservazione dei dati.
Questo articolo è stato redatto con il supporto di strumenti di intelligenza artificiale (AI)