NVIDIA ha una volta di più brillato con i suoi recenti risultati finanziari del terzo trimestre, che riflettono la crescente ascesa del gigante tecnologico. L’azienda ha riportato un incredibile fatturato di 18,12 miliardi di dollari, registrando un aumento del 206% su base annuale e del 34% rispetto al trimestre precedente. La straordinaria crescita dei ricavi è stata attribuita principalmente alla costante affermazione della piattaforma NVIDIA HGX, insieme alla rete end-to-end tramite InfiniBand.
NVIDIA ha enfatizzato l’importanza della rete che ha superato i 10 miliardi di dollari di ricavi annualizzati, quasi triplicando rispetto all’anno precedente. Questo successo è stato guidato dalla crescente domanda di InfiniBand, che ha visto una crescita annuale di ben cinque volte.
InfiniBand, considerato essenziale per ottenere scalabilità e prestazioni necessarie per la formazione di modelli di lingua naturale (LLM), diventa cruciale quando associato a NVIDIA HGX, creando l’architettura fondamentale per supercomputer IA e infrastrutture di data center. InfiniBand è ampiamente utilizzato negli ambienti di supercalcolo per l’interconnessione dei server, grazie alla sua capacità di fornire comunicazioni a bassa latenza e alta larghezza di banda, essenziali per l’elaborazione parallela di dati estremamente voluminosi e simulazioni ad alta risoluzione. Gli switch Quantum InfiniBand di NVIDIA si rivelano essere una soluzione efficiente e meno complessa per soddisfare queste esigenze.
In passato, NVIDIA aveva ottenuto risultati rivoluzionari con il chip leader H100, dimostrando le sue capacità attraverso test eseguiti su 3.584 GPU H100 connesse tramite InfiniBand. Questo setup ha permesso alle GPU di offrire prestazioni autonome e scalabili, evidenziando il potenziale di InfiniBand in combinazione con funzionalità di rete ad alte prestazioni.
Parlando del futuro di InfiniBand, Jensen Huang ha sottolineato che la stragrande maggioranza delle grandi fabbriche di intelligenza artificiale ha adottato InfiniBand come standard. Questa scelta non è dovuta solo alla velocità dei dati e alla latenza, ma anche al modo in cui il traffico è gestito sulla rete, che Huang ha definito un “tessuto informatico”.
Confrontando InfiniBand con Ethernet, Huang ha evidenziato notevoli differenze tra i due. Con NVIDIA che investe 2 miliardi di dollari in infrastrutture per le fabbriche di intelligenza artificiale, anche variazioni relativamente piccole nell’efficienza complessiva, come il 20 o 30%, si traducono in significativi risparmi in termini di costi nell’arco di 4-5 anni.
Huang ha definito l’offerta di InfiniBand come “irresistibile per le fabbriche di intelligenza artificiale”. Tuttavia, Ethernet ha ancora il suo ruolo, poiché è più adatto a scenari diversi. Ethernet è una tecnologia di rete ampiamente utilizzata per le reti locali cablate (LAN) e si adatta a una vasta gamma di applicazioni, specialmente quelle orientate alla connessione di dispositivi terminali. Tuttavia, le sue prestazioni non possono competere con InfiniBand in termini di larghezza di banda e latenza.
Da notare che NVIDIA offre anche dispositivi gateway che collegano le reti InfiniBand ai data center basati su Ethernet. Inoltre, NVIDIA rilascerà Spectrum-X nel primo trimestre dell’anno prossimo, una soluzione Ethernet che promette prestazioni di rete 1,6 volte superiori rispetto ad altre tecnologie Ethernet disponibili.
In termini di funzionalità, l’Omni Path Architecture (OPA) di Intel era stata progettata per il trasferimento di dati ad alta velocità e la comunicazione a bassa latenza negli ambienti HPC. Anche se rilasciata nel 2016, è stata interrotta nel 2019. Cisco, al contrario, offre switch Ethernet ma non ha soluzioni HPC nel suo portfolio.
Grazie alle sue offerte GPU e di rete, NVIDIA consente alle aziende di integrare l’intera infrastruttura architetturale dei suoi prodotti. Durante la conferenza sugli utili, NVIDIA ha anche menzionato le partnership con aziende come Reliance, Infosys e Tata, evidenziando la collaborazione con organizzazioni per ottimizzare l’uso di InfiniBand nelle loro esigenze di elaborazione AI.
Nel corso della conferenza sugli utili, NVIDIA ha annunciato la sua partnership con Scaleway, un fornitore di cloud privato francese, che sta costruendo un cloud AI regionale basato su NVIDIA H100 InfiniBand e AI Enterprise Software per promuovere l’intelligenza artificiale in Europa.
Inoltre, il centro di supercalcolo tedesco Julich ha annunciato piani per la costruzione del suo supercomputer AI di prossima generazione, utilizzando quasi 24.000 chip Superchip Grace Hopper e Quantum-2 InfiniBand di NVIDIA, che lo renderanno il supercomputer AI più potente al mondo, con oltre 90 exaflop di prestazioni AI.
Da notare che Microsoft Azure utilizza oltre 29.000 miglia di cavi InfiniBand. Le macchine virtuali HB e serie N abilitate per Infiniband vengono utilizzate da Microsoft per ottenere HPC in modo efficiente in termini di costi.
Con la combinazione di rete e GPU, NVIDIA sta consolidando la sua crescita e la sua posizione nel mercato dei supercomputer. Data la mancanza di alternative competitive a NVIDIA InfiniBand, sembra che il dominio dell’azienda continuerà a rafforzarsi, diventando indispensabile per le aziende che desiderano sfruttare appieno le potenzialità delle GPU e delle reti.