NVIDIA ha annunciato tre nuovi modelli aperti della famiglia Nemotron 3.5, introducendo Nemotron 3.5 Super VL, un sistema multimodale da 120 miliardi di parametri, e due varianti Bolt progettate per l’esecuzione su computer locali e dispositivi edge. Super VL e Nemotron 3.5 Bolt 74B-A9B 24GB sono già disponibili, mentre il rilascio di Nemotron 3.5 Bolt E4B 4GB è previsto per il 23 ottobre. La nuova gamma amplia l’offerta Nemotron, articolata in modelli Lightning per attività ad alto throughput, Ultra per problemi di ragionamento particolarmente complessi e Bolt per applicazioni eseguite direttamente sui dispositivi. Super VL è stato sviluppato con il contributo della Nemotron Coalition e combina elaborazione del linguaggio, comprensione delle immagini, analisi dei documenti, interpretazione dei video e utilizzo di strumenti esterni all’interno di un unico modello. L’obiettivo è permettere agli sviluppatori di realizzare agenti multimodali senza dover necessariamente coordinare modelli linguistici e vision-language separati, conservando il contesto delle attività durante procedure articolate in più passaggi.
Nemotron 3.5 Super VL adotta un’architettura Mixture-of-Experts composta da 120 miliardi di parametri complessivi, dei quali 12 miliardi vengono attivati per ciascun token elaborato. Questa configurazione permette di distribuire la capacità del modello su diversi gruppi di parametri specializzati, utilizzandone soltanto una parte durante l’inferenza. NVIDIA dichiara prestazioni nelle attività multimodali e agentiche confrontabili con quelle del proprio modello di ragionamento più grande, pur impiegando circa un quinto dei parametri complessivi, e riporta un throughput fino a cinque volte superiore rispetto ad altri modelli aperti appartenenti alla stessa categoria dimensionale quando vengono eseguiti su una singola GPU. Le capacità comprendono il rispetto di istruzioni articolate, la gestione delle chiamate agli strumenti, l’esecuzione di procedure professionali su più passaggi e l’interpretazione di contenuti visivi. Particolare attenzione è stata dedicata al riconoscimento del testo nelle immagini, all’analisi di tabelle e grafici e alla lettura di documenti strutturati, compresi PDF e pagine web, che costituiscono una parte significativa delle informazioni utilizzate dagli agenti software in contesti aziendali.
Le valutazioni diffuse dall’azienda indicano un punteggio del 63,44% su Hermes Bench e dell’87,05% nelle valutazioni comportamentali LangChain, rispetto al 56,33% e all’84,3% ottenuti da Nemotron 3 Ultra. Sul benchmark CharXiv, dedicato all’interpretazione dei grafici, Super VL raggiunge l’80,8%, mentre Nemotron 3 Nano Omni registra il 63%; l’utilizzo dell’interpretazione di codice Python porta il risultato di Super VL all’84%. NVIDIA colloca inoltre il modello tra i migliori sistemi aperti nella classifica OCRBench v2 e richiama una valutazione indipendente di EXO Labs che lo posiziona sulla frontiera di Pareto tra accuratezza e tempo di completamento delle attività su DGX Spark. I risultati rappresentano misurazioni ottenute nelle rispettive configurazioni di prova e descrivono soprattutto le capacità del modello nell’utilizzo multimodale e nell’esecuzione di procedure agentiche.
Lo sviluppo di Super VL ha utilizzato tecniche di distillazione a partire da Nemotron 3 Ultra, incorporando capacità di programmazione e una funzione di perdita denominata SkewReverse, introdotta per migliorare l’accuratezza durante il trasferimento delle competenze. Nella fase di post-addestramento è stata applicata una procedura di distillazione on-policy con più modelli insegnanti specializzati, incaricati di valutare le risposte in attività di ragionamento sui video, tracciamento visivo, utilizzo di strumenti e allineamento comportamentale. Il processo ha coinvolto circa 26.000 miliardi di token tra pre-addestramento e addestramento continuativo, seguiti da circa 3,8 milioni di campioni nella fase successiva e da procedure di apprendimento per rinforzo distribuite su decine di ambienti. Perplexity ha contribuito con dataset utilizzati durante il mid-training, mentre Prime Intellect ha fornito ambienti destinati allo sviluppo dei modelli insegnanti. L’addestramento continuativo comprende inoltre 10 miliardi di token relativi alle lingue indiane; NVIDIA ha annunciato la pubblicazione di un dataset di circa 2.800 miliardi di token distribuiti su 22 lingue dell’India, realizzato con IIT Madras e il laboratorio AI4Bharat.
Il modello viene distribuito attraverso checkpoint di base, versioni sottoposte a post-addestramento e varianti quantizzate NVFP4. Quest’ultima configurazione utilizza rappresentazioni a quattro bit per pesi e attivazioni sulle GPU NVIDIA Blackwell, accompagnate da procedure di distillazione consapevoli della quantizzazione per contenere la perdita di accuratezza. NVIDIA ha inoltre introdotto LiLiCorr, una tecnica aperta di speculative decoding che, secondo le misurazioni aziendali, permette di aumentare fino a 2,3 volte la velocità di generazione dei token su DGX Spark. Il sistema impiega anche la previsione di più token per passaggio, mediante un componente interno che propone sequenze candidate da verificare, e ottimizzazioni del serving capaci di conservare le cache dell’attenzione e gli stati ricorrenti Mamba tra chiamate successive degli agenti. L’insieme di queste tecnologie è destinato a ridurre il lavoro computazionale ripetuto durante l’esecuzione di attività nelle quali un agente consulta più volte gli stessi contenuti.
La gamma Bolt si concentra invece sull’esecuzione locale. Nemotron 3.5 Bolt 74B-A9B 24GB utilizza una quantizzazione nativa a due bit che consente di contenere il modello in 24 GB di memoria, rendendolo utilizzabile su hardware NVIDIA RTX e DGX Spark anche in presenza di altre applicazioni. NVIDIA lo colloca al primo posto tra i modelli aperti della propria categoria su PinchBench e al secondo posto su BrowseComp. La distribuzione è disponibile attraverso Hugging Face, con supporto per llama.cpp, Ollama, LM Studio, Unsloth e vLLM. Il modello è stato progettato anche per i portatili NVIDIA RTX Spark, il cui arrivo è previsto il 16 ottobre 2026, ed è compatibile con computer GeForce RTX, workstation RTX PRO, DGX Spark e DGX Station. Nemotron 3.5 Bolt E4B 4GB è invece destinato ad agenti fisici e conversazionali che richiedono risorse ancora più contenute, comprese interfacce vocali locali, personaggi interattivi e applicazioni integrate su GeForce RTX, Jetson e sistemi RTX/DGX Spark.
NVIDIA distribuisce la famiglia con pesi aperti, dataset e procedure di addestramento utilizzabili per la personalizzazione attraverso NeMo, pipeline Python e ambienti di apprendimento per rinforzo NeMo Gym. I dataset pubblicati comprendono informazioni relative all’utilizzo degli strumenti, alla finanza, al rispetto delle istruzioni, ai contesti lunghi, all’equità dei modelli e 45 raccolte dedicate alle attività vision-language. Diverse organizzazioni stanno già adattando Super VL ai propri processi: Scale AI lo ha utilizzato per sviluppare un agente di analisi finanziaria dei crediti commerciali destinato a Skydance e uno strumento di due diligence per fusioni e acquisizioni destinato a EY; NVIDIA indica per il caso Skydance una riduzione prevista dei costi di inferenza di quaranta volte e della latenza di cinque volte. AfterQuery ha collaborato alla personalizzazione del modello per Hebbia nell’analisi dei contratti di credito, mentre AI21 e Alice lo hanno adattato alle attività di sicurezza informatica, con un miglioramento dichiarato del 40% nell’accuratezza delle analisi di minacce e vulnerabilità di Alice. Mercor ha utilizzato il benchmark APEX-SWE per specializzare agenti di programmazione, mentre Ramp sta impiegando il modello per convertire immagini di ricevute in documenti JSON strutturati, prevedendo un aumento del throughput fino al 50% e una riduzione della latenza di dieci volte.
Tra gli altri utilizzatori e integratori figurano Atlassian, CrowdStrike, Dassault Systèmes, Perplexity, Salesforce e Synopsys, con applicazioni distribuite tra ricerca aziendale, sicurezza informatica, progettazione ingegneristica, procedure pubbliche e verifica della progettazione dei semiconduttori. Per la distribuzione operativa NVIDIA propone NIM, che confeziona il modello come microservizio e prevede aggiornamenti ogni due settimane per sicurezza e prestazioni. In una configurazione composta da 16 GPU B200, con una velocità di generazione di 50 token al secondo per utente, l’utilizzo del sistema di serving Dynamo con instradamento consapevole della KV cache consentirebbe, secondo NVIDIA, di servire fino a otto volte più utenti e ridurre dell’85% la latenza del primo token. Nemotron 3.5 Super VL è disponibile attraverso Hugging Face, OpenRouter, ModelScope e NVIDIA NIM, con possibilità di distribuzione su infrastrutture cloud, data center e sistemi hardware NVIDIA supportati.
Questo articolo è stato redatto con il supporto di strumenti di intelligenza artificiale (AI)