NVIDIA ha presentato, durante il GTC Berlin, DSX POD, un progetto di riferimento per la realizzazione di AI factory basate sull’architettura Vera Rubin attraverso moduli prefabbricati, integrati e verificati prima della consegna al sito di installazione. La soluzione prevede che i partner realizzino unità containerizzate comprendenti sistemi di calcolo, networking, cablaggi, alimentazione a livello di rack e componenti di raffreddamento a liquido, trasferendo in fabbrica operazioni che tradizionalmente vengono svolte direttamente all’interno dei data center. NVIDIA dichiara che questa impostazione può ridurre il tempo di distribuzione presso un sito già preparato da circa sei mesi a un minimo di 14 giorni, purché siano disponibili le infrastrutture necessarie per energia elettrica, raffreddamento, connettività e servizi ausiliari. L’integrazione preventiva comprende cablaggio fra rack, connessioni elettriche e idrauliche e prove funzionali, effettuate mentre procedono separatamente le attività di predisposizione del sito. I moduli arrivano quindi predisposti per il collegamento alle infrastrutture locali, diminuendo il numero di lavorazioni specialistiche da eseguire dopo la consegna e limitando gli effetti dei ritardi nell’approvvigionamento dei componenti.
DSX POD fa parte della più ampia architettura NVIDIA DSX, progettata per coordinare calcolo, storage, networking, software, alimentazione e raffreddamento come componenti interdipendenti di una AI factory. La piattaforma comprende DSX MaxLPS per l’allocazione dinamica della potenza, DSX Flex per adeguare i consumi computazionali alle condizioni della rete elettrica, DSX Reference Design per le configurazioni infrastrutturali validate, DSX Sim per la simulazione, DSX OS per la gestione e DSX Exchange per collegare i sistemi informatici agli impianti fisici. NVIDIA ha inoltre annunciato tre componenti in anteprima per sviluppatori all’interno dell’ecosistema open source DSX OS. NVIDIA Config Manager automatizza la configurazione della rete, Rack Management Service gestisce informazioni e operazioni relative a potenza, inventario, firmware e switch a livello di rack, mentre Cluster Readiness Engine esegue carichi distribuiti per verificare i cluster GPU prima dell’avvio delle applicazioni produttive e individuare eventuali problemi sui singoli nodi. Il progetto incorpora inoltre architetture di raffreddamento a liquido abbinate a sistemi dry cooler per la dissipazione termica, con la possibilità dichiarata di ridurre quasi a zero il consumo di acqua destinata al raffreddamento dell’impianto.
NVIDIA indica per DSX MaxLPS la possibilità di produrre lo stesso numero di token consumando fino al 30% di energia in meno grazie all’allocazione dinamica della potenza disponibile. In una prova realizzata con Lambda su sistemi NVIDIA HGX B200 è stato registrato un incremento del 24% del throughput dei token e del 19% della capacità GPU utilizzabile entro un budget energetico fisso. DSX Flex permette invece di modulare i carichi di lavoro in funzione delle richieste degli operatori elettrici, degli eventi di demand response e dei prezzi dell’energia. Fra i partner annunciati per la realizzazione delle AI factory DSX POD figurano Anduril, Armada, Bull, Crusoe, DayOne, Dell Technologies, Delta, Eaton, Foxconn attraverso Ingrasys, GIGABYTE, HPE, Lenovo, Pegatron, Quanta Cloud Technology, Schneider Electric, Vertiv e Wistron. Le prime consegne a livello mondiale sono previste per l’inizio del 2027. L’accelerazione dichiarata riguarda principalmente la fase di installazione e messa in servizio dei moduli presso siti predisposti e non elimina la necessità di realizzare preventivamente infrastrutture elettriche, connessioni e condizioni autorizzative adeguate.
Questo articolo è stato redatto con il supporto di strumenti di intelligenza artificiale (AI)