NVIDIA Rivoluziona l’Intelligenza Artificiale On-Premise con Spectrum-X
NVIDIA ha lanciato “Spectrum-X”, una piattaforma di rete Ethernet di nuova generazione progettata per l’elaborazione dell’intelligenza artificiale (AI) on-premise. Questa innovazione apre la strada alla creazione di sistemi simili a cloud privati che offrono risorse informatiche potenti senza le sfide legate ai costi e alla sicurezza del cloud.
Spectrum-X è una soluzione che consente alle aziende di costruire cloud AI multi-tenant su larga scala utilizzando Ethernet. Questo miglioramento mira a incrementare le prestazioni e l’efficienza energetica dei cloud AI locali. NVIDIA sostiene che Spectrum-X, progettato specificamente per carichi di lavoro AI, può offrire prestazioni di rete superiori del 1,6% rispetto all’Ethernet esistente per le comunicazioni AI.
La piattaforma combina la scheda NVIDIA BlueField-3 SuperNIC con l’ultimo switch Ethernet Spectrum-4. Questa combinazione mira a garantire la massima velocità di trasmissione dei dati e a prevenire la congestione del traffico di rete, supportando uno switch Ethernet da 51 terabit al secondo. Questo è fondamentale per gestire le enormi quantità di dati che i carichi di lavoro AI devono elaborare. Il software di routing è incluso per ottimizzare ulteriormente l’infrastruttura di rete.
La scheda di interfaccia di rete (NIC) BlueField-3 SuperNIC supporta velocità di accesso diretto alla memoria (DMA) fino a 400 gigabit al secondo, consentendo l’accesso diretto alla memoria senza coinvolgere la CPU. Questo ha un impatto significativo sulle prestazioni dei sistemi AI di addestramento e inferenza.
Spectrum-X integra anche l’unità di elaborazione dati (DPU) Bluefield-3, consentendo alle GPU di concentrarsi sull’elaborazione dell’intelligenza artificiale. Viene fornito software per accelerare i carichi di lavoro AI e garantisce la sicurezza isolando in modo affidabile ciascun carico di lavoro AI in ambienti multi-tenant nei data center.
Aziende come Dell, HPE e Lenovo prevedono di rilasciare sistemi di intelligenza artificiale che integrano Spectrum-X e le GPU “H100” nei server nel primo trimestre del prossimo anno.
Il CEO di HPE, Antonio Neri, ha sottolineato che l’intelligenza artificiale generativa richiede architetture di rete diverse per supportare carichi di lavoro dinamici.
NVIDIA ha già installato Spectrum-X sul supercomputer “Israel-1”, che serve come architettura di riferimento per le aziende interessate a costruire sistemi AI avanzati in sede. Il CEO di NVIDIA, Jensen Huang, ha enfatizzato l’importanza di Spectrum-4 come catalizzatore per la creazione di sistemi AI avanzati, accelerando la transizione verso l’era dell’intelligenza artificiale generativa.
