Immagine AI

NVIDIA ha comunicato i primi risultati operativi della piattaforma DSX per le AI factory, mostrando come la gestione coordinata di calcolo e alimentazione possa aumentare la capacità elaborativa senza incrementare il budget energetico disponibile. I dati comprendono una validazione effettuata da Lambda con DSX MaxLPS su server NVIDIA HGX B200 e un programma di demand response già attivo presso la Eos AI factory di NVIDIA a Santa Clara. I risultati sono stati presentati in occasione dell’AI Infra Summit di Santa Clara, in programma dal 15 al 17 settembre 2026, dove NVIDIA ha concentrato parte della propria presentazione sull’efficienza energetica delle infrastrutture destinate all’intelligenza artificiale.

Lambda, fornitore di infrastruttura cloud GPU con oltre 10.000 clienti tra startup AI e hyperscaler, ha effettuato la prima validazione di DSX MaxLPS in un ambiente di deployment utilizzando un cluster composto da 19 nodi distribuiti su cinque rack. Il software ha consentito di mantenere operativi 19 nodi all’interno dello stesso budget energetico che, con un’impostazione tradizionale a piena potenza, avrebbe alimentato 16 nodi. Il throughput complessivo del cluster è così passato da circa 4 milioni a 5 milioni di token al secondo, con un incremento del 24%, mentre le prestazioni per watt sono aumentate del 23%.

DSX MaxLPS lavora monitorando in tempo reale il consumo energetico delle GPU e dei rack e redistribuendo tra i nodi la capacità elettrica disponibile in funzione del tipo di workload eseguito. Training e inferenza presentano infatti profili di consumo differenti e non raggiungono necessariamente nello stesso momento i rispettivi picchi energetici. Una configurazione statica tende quindi a riservare potenza che può rimanere inutilizzata, mentre MaxLPS cerca di recuperare questo margine e assegnarlo alle risorse che possono effettivamente utilizzarlo. NVIDIA indica questo approccio come un modo per aumentare il numero di GPU operative e il throughput dei token senza aumentare la potenza complessiva disponibile nell’AI factory.

Per le future AI factory basate su NVIDIA Vera Rubin NVL72, le proiezioni dell’azienda indicano che DSX MaxLPS potrebbe consentire, negli ambienti adatti, fino al 40% di capacità GPU aggiuntiva mantenendo invariato il budget energetico espresso in megawatt. Il dato è una proiezione di NVIDIA e non il risultato del test Lambda, che ha invece misurato direttamente l’aumento del 24% del throughput e del 23% delle prestazioni per watt sull’infrastruttura HGX B200 utilizzata per la validazione.

DSX è stata presentata da NVIDIA al GTC Taipei il 31 maggio 2026 come piattaforma full stack per progettazione, simulazione, realizzazione e gestione delle AI factory. L’architettura comprende DSX Reference Design, DSX Sim, DSX OS, DSX MaxLPS, DSX Flex e DSX Exchange. DSX Reference Design fornisce architetture validate specifiche per ciascuna generazione di infrastruttura e comprende componenti di calcolo, networking, storage e facility; DSX Sim permette di simulare la struttura prima dell’installazione fisica dei rack; DSX OS costituisce il livello software aperto e modulare per gestione del ciclo di vita, coerenza del runtime, automazione dello stato dell’infrastruttura e resilienza; DSX MaxLPS interviene sull’allocazione della potenza; DSX Flex gestisce l’interazione con la rete elettrica; DSX Exchange è destinato allo scambio sicuro di dati tra sistemi IT e tecnologie operative.

Al momento del lancio della piattaforma, CoreWeave, Crusoe, Firmus, IREN, Lambda, Nebius, Nscale e Yotta Data Services figuravano tra i cloud provider che stavano implementando DSX Sim, DSX MaxLPS e DSX OS. Dell Technologies, HPE, Lenovo e Supermicro erano invece tra i produttori coinvolti nello sviluppo di sistemi compatibili con DSX. Il modello proposto da NVIDIA prevede quindi che la progettazione dell’AI factory venga affrontata come un unico sistema, includendo chip, server, rete, alimentazione, raffreddamento, software operativo e infrastruttura fisica invece di ottimizzare questi elementi separatamente.

Una seconda parte dei risultati riguarda la gestione flessibile della domanda elettrica. Durante un picco di consumo registrato in agosto nella Silicon Valley, Silicon Valley Power, utility municipale della città di Santa Clara, ha inviato alla Eos AI factory di NVIDIA un segnale per ridurre temporaneamente il proprio assorbimento. La piattaforma Conductor di Emerald AI ha eseguito automaticamente una gerarchia predefinita dei workload: i carichi a priorità più bassa sono stati rallentati o rinviati, mentre le attività di inferenza considerate prioritarie hanno continuato a funzionare. Il consumo della struttura è sceso automaticamente da 4 MW a 3 MW senza intervento di un operatore.

Silicon Valley Power ha successivamente inviato alla struttura oltre 200 segnali di questo tipo e, secondo NVIDIA, il sistema ha risposto correttamente in tutti i casi, con tempi inferiori a un minuto. L’impianto partecipa al Flexible Load Interconnect Program di Silicon Valley Power, indicato da NVIDIA come il primo programma commerciale di una utility progettato per trattare le AI factory come risorse elettriche modulabili. Il sistema può quindi ridurre temporaneamente determinati carichi computazionali quando la rete elettrica è sotto pressione, mantenendo operativi quelli considerati più importanti.

L’installazione di Santa Clara non utilizza ancora direttamente DSX Flex, ma rappresenta un’implementazione precedente dello stesso modello operativo. Emerald AI Conductor verrà infatti integrato in DSX Flex con l’evoluzione della piattaforma. Il primo deployment commerciale specificamente progettato per DSX Flex è previsto presso l’AI Factory Research Center di NVIDIA a Manassas, in Virginia, dove è in preparazione una AI factory Vera Rubin da 96 MW. Il progetto coinvolge anche Digital Realty, EPRI e PJM Interconnection ed è previsto nel corso del 2026.

NVIDIA sta inoltre introducendo nei reference design DSX un’architettura di alimentazione a 800 VDC. La soluzione è pensata per ridurre il numero e la complessità delle conversioni elettriche, aumentare l’efficienza nella distribuzione della potenza e consentire rack di calcolo accelerato con densità più elevate. L’incremento della densità computazionale rende infatti più rilevanti anche i vincoli legati alla distribuzione elettrica e alla dissipazione del calore. NVIDIA indica, come esempio, che un rack GB200 NVL72 con raffreddamento diretto a liquido può generare circa 120 kW di calore da rimuovere durante il funzionamento.

Nella struttura DSX, questi aspetti vengono gestiti già prima della costruzione fisica dell’impianto. DSX Sim permette di modellare l’AI factory e individuare eventuali colli di bottiglia prima dell’installazione dei rack, mentre DSX Reference Designs fornisce configurazioni validate per le diverse generazioni hardware. Una volta entrata in funzione la struttura, DSX OS, DSX MaxLPS, DSX Flex e DSX Exchange intervengono rispettivamente sulla gestione operativa, sull’allocazione dinamica dell’energia, sulla risposta ai segnali provenienti dalla rete elettrica e sull’integrazione tra sistemi informatici e sistemi operativi dell’infrastruttura. L’obiettivo dichiarato della piattaforma è aumentare il numero di token prodotti per megawatt disponibile, utilizzando il budget energetico come uno dei principali vincoli di progettazione e funzionamento delle AI factory.

Questo articolo è stato redatto con il supporto di strumenti di intelligenza artificiale (AI)

Di Fantasy