In un recente test benchmark di intelligenza artificiale (AI) MLPerf, la GPU H100 di Nvidia ha registrato le migliori prestazioni di addestramento AI.
Reuters ha riferito che il test MLPerf AI Benchmark ha mostrato la GPU NVIDIA H100 Tensor Core come la più veloce nel test di addestramento AI per acceleratore, stabilendo nuovi record in tutte e otto le categorie.
Ha anche ottenuto il record di tempo più veloce in un test benchmark di addestramento AI su larga scala eseguito sull’infrastruttura HGX H100 interconnessa con HDR InfiniBand, stabilendo nuovi record in otto categorie.
Asustek, Microsoft Azure, Dell, Fujitsu, Gigabyte, H3C, IEI, Intel, Habana Labs, Cray, Lenovo, Nvidia, Coreweaver, Quanta Cloud, Supermicro, XFusion e altri in questo test di benchmark di formazione MLPerf AI.
MLPerf AI Training Benchmark forma e testa otto diversi carichi di lavoro AI: classificazione delle immagini, rilevamento degli oggetti, segmentazione delle immagini, riconoscimento vocale automatico, elaborazione del linguaggio naturale, raccomandazioni e LLM (large-under-model).
In particolare, in questo benchmark MLPerf, è stato introdotto per la prima volta un test per addestrare un LLM basato su GPT-3. LLM non è solo il più impegnativo dal punto di vista computazionale dei benchmark MLPerf, ma è anche il più costoso.
David Kanter, direttore esecutivo di MLCommons, ha dichiarato: “Ci sono volute più di 600.000 ore di tempo di calcolo dell’acceleratore e ingegneri di eccezionale talento per sviluppare il benchmark LLM”.
Solo due società hanno presentato i risultati del benchmark per il test di benchmark LLM, Nvidia e Intel Habana Labs. Presentato in collaborazione con la startup AI cloud Coreweave, Nvidia ha registrato un tempo di addestramento di 10,94 minuti utilizzando 3584 chip H100. Habana Labs, una società di chip Ai acquisita da Intel, ha completato la formazione in 311.945 minuti utilizzando 384 chip Gaudi2.