Dopo la notizia che il prezzo delle azioni di Nvidia ha raggiunto il massimo storico la scorsa settimana, il leader dell’IA sembra intensificare i suoi passi.
Nvidia ha presentato un nuovo supercomputer “DGX GH200” alla conferenza “COMPUTEX 2023” tenutasi a Taipei, Taiwan.
Il supercomputer DGX GH200 utilizza il superchip NVIDIA GH200 Grace Hopper e il sistema switch NVIDIA NVLink per supportare lo sviluppo di modelli IA di nuova generazione da utilizzare in applicazioni di linguaggio IA generativo, sistemi di raccomandazione e carichi di lavoro di analisi dei dati.
Il DGX GH200 combina 256 superchip Grace Hopper GH200 con 144 TB di memoria condivisa come una singola GPU utilizzando NVLink con 230 TB di larghezza di banda al secondo.
Offre 1 exaflop di prestazioni, quasi 500 volte le prestazioni della precedente generazione NVIDIA DGX A100 e 144 TB di memoria condivisa, un aumento di 100 volte. Ha anche prestazioni di elaborazione 5,2 volte superiori rispetto a H100.
Il superchip GH200 Grace Hopper utilizza il chip NVIDIA NVLink-C2C per combinare una CPU NVIDIA Grace basata su Arm e una GPU NVIDIA Hopper H100 Tensor Core nello stesso pacchetto, eliminando la necessità di una tradizionale connessione PCIe CPU-GPU. Aumenta la larghezza di banda tra GPU e CPU di 7 volte e riduce il consumo energetico di interconnessione di oltre 5 volte rispetto alla più recente tecnologia PCIe e fornisce un blocco di costruzione GPU con architettura Hopper da 600 GB per il supercomputer DGX GH200.
Il DGX GH200 è il primo supercomputer a combinare un superchip Grace Hopper con il sistema switch NVLink di NVIDIA. Sulla base di ciò, le 256 GPU nel sistema DGX GH200 funzionano come una sola. Nei sistemi della generazione precedente, solo 8 GPU potevano essere combinate senza degrado delle prestazioni utilizzando NVLink.
L’architettura DGX GH200 offre una larghezza di banda NVLink 48 volte superiore rispetto alla generazione precedente, offrendo la potenza di un enorme supercomputer AI con la semplicità della programmazione a GPU singola.
“L’intelligenza artificiale generativa, i modelli linguistici su larga scala e i sistemi di raccomandazione sono i motori digitali dell’economia moderna”, ha affermato Jen-Hsun Huang, CEO di Nvidia. Il supercomputer AI DGX GH200 spinge i confini dell’IA incorporando le più avanzate tecnologie di computing e networking accelerato di NVIDIA.”
Il supercomputer DGX GH200 offre anche una soluzione full-stack chiavi in mano, incluso il software NVIDIA, per supportare carichi di lavoro di analisi dei dati e IA su larga scala. Il software NVIDIA Base Command fornisce la gestione del flusso di lavoro AI, la gestione dei cluster di classe enterprise, le librerie di elaborazione, storage e accelerazione dell’infrastruttura di rete e il software di sistema ottimizzato per l’esecuzione dei carichi di lavoro AI.
Al DGX GH200 si aggiunge anche “AI Enterprise” di Nvidia. NVIDIA AI Enterprise, il livello software della piattaforma NVIDIA AI, semplifica lo sviluppo e l’implementazione dell’IA di produzione, inclusa l’IA generativa, la visione artificiale e l’IA vocale, con oltre 100 framework, modelli pre-addestrati e strumenti per lo sviluppo.
L’industria analizza che il nuovo supercomputer di Nvidia sarà un incentivo per impedire ai clienti di andarsene. Aziende IT come Microsoft e Google competono per sviluppare servizi come ChatGPT di OpenAI.
Il DGX GH200 di Nvidia è perfetto per soddisfare le esigenze dei clienti che necessitano di computer ad alte prestazioni. Attualmente, la quota di Nvidia nel mercato globale dei semiconduttori AI raggiunge il 90%.
Nvidia ha annunciato che prevede di fornire DGX GH200 ai principali fornitori di servizi cloud come Google Cloud, Meta e Microsoft Azure dalla fine di quest’anno.