GLI Acceleratori IA di Habana Labs da utilizzare nel supercomputer Voyager
Il San Diego Supercomputer Center (SDSC) dell’UC San Diego ha selezionato gli acceleratori di inferenza e addestramento di intelligenza artificiale (AI) di Habana Labs per fornire un calcolo AI ad alte prestazioni e alta efficienza nel suo supercomputer Voyager . Habana Labs è uno sviluppatore leader di acceleratori di apprendimento profondo appositamente progettati .
Supercomputer Voyager
Il supercomputer Voyager scalerà la capacità di addestramento dell’IA con l’esclusiva tecnologia di interconnessione di Habana, in particolare 336 processori Gaudi. Questi processori sono particolarmente adatti per il ridimensionamento di grandi applicazioni di addestramento per supercomputer e Gaudi è l’unico processore AI nel settore in grado di integrare nativamente dieci porte Ethernet da 100 Gigabit di RoCE v2 su chip. Ciò consente flessibilità di scalabilità e aiuta a evitare colli di bottiglia del throughput, che possono limitare la capacità di scalabilità. Oltre a questo, il sistema Voyager contiene anche 16 processori Habana Goya, che vengono utilizzati per alimentare i modelli di inferenza AI.
Amitava Majumdar è a capo della divisione Data Enables Scientific Computing di SDSC e investigatrice principale per il progetto Voyager.
“Con soluzioni innovative ottimizzate per operazioni di deep learning e carichi di lavoro di intelligenza artificiale, gli acceleratori Habana sono la scelta ideale per alimentare l’imminente ricerca sull’intelligenza artificiale di Voyager”, ha affermato Majumdar. “Non vediamo l’ora di collaborare con Habana, Intel e Supermicro per portare questa classe di capacità di elaborazione straordinariamente efficiente al programma Voyager, dando ai ricercatori accademici l’accesso a uno dei sistemi focalizzati sull’intelligenza artificiale più capaci oggi disponibili”.
Le prestazioni e l’efficienza nelle operazioni di intelligenza artificiale sono aumentate con la formazione AI di Habana Gaudi e i processori di inferenza Goya. I data scientist e i ricercatori che hanno accesso a Voyager, potranno personalizzare i modelli con Tensor Processor Core programmabili e librerie del kernel. Saranno anche in grado di facilitare l’implementazione affidandosi alla piattaforma software SynapseAI di Habana. La piattaforma supporta framework di machine learning e modelli AI più diffusi per applicazioni come la visione, l’ elaborazione del linguaggio naturale e i sistemi di raccomandazione.
Sistemi di intelligenza artificiale forniti da Supermicro
I sistemi di intelligenza artificiale basati su Habana saranno forniti a Voyager da Supermicro , leader globale nella tecnologia di elaborazione, archiviazione, networking e green computing aziendali, nonché partner tecnologico di Voyager.
I sistemi includono:
Supermicro X12 Gaudi AI Training System: otto schede Gaudi HL-205 abbinate a processori scalabili Intel Xeon di terza generazione a doppio socket.
Supermicro SuperServer 4029GP-T con otto schede Goya HL-100 PCLe per inferenza AI, abbinate a processori scalabili Intel Xeon di seconda generazione a doppio socket.
Ray Pang è vicepresidente della tecnologia e dell’abilitazione aziendale presso Supermicro.
“La combinazione del server e dell’hardware di archiviazione ottimizzati per le applicazioni avanzate di Supermicro con i prodotti di inferenza e formazione sull’intelligenza artificiale di Habana è la soluzione migliore per il progetto pluriennale Voyager AI di SDSC”, ha affermato Pang. “Continuiamo a lavorare a stretto contatto con i principali innovatori per fornire soluzioni per progetti ad alta intensità di calcolo in tutto il mondo nei principali ambienti di ricerca e HPC per la scoperta scientifica e medica, elaborazione e soluzioni AI all’avanguardia”.
Eitan Medina è Chief Business Officer presso Habana.
“Siamo onorati che i processori AI di Habana siano stati selezionati per alimentare i carichi di lavoro AI che verranno eseguiti sul supercomputer Voyager del San Diego Supercomputer Center”, ha affermato Medina. “Questa implementazione dei nostri prodotti Gaudi e Goya mostra come le migliori istituzioni accademiche come SDSC possono sfruttare l’efficienza e le prestazioni per affrontare efficacemente le crescenti richieste dei carichi di lavoro di ricerca dell’IA”.
Il sistema sarà nella fase Testbed per i primi tre anni di funzionamento e SDSC lavorerà con team di ricerca di astronomia, scienze del clima, chimica, fisica delle particelle e altri campi. Durante questa fase di test, SDSC collaborerà con la comunità di ricerca sull’IA e documenterà i processi che potrebbero essere utilizzati come risorsa in futuro.
Trish Damkroger è vicepresidente e direttore generale del gruppo High Performance Computing di Intel.
“Il livello di prestazioni ed efficienza richiesto da Voyager è esattamente ciò per cui sono progettate le architetture Intel”, ha affermato Damkroger. “I nostri processori scalabili Xeon abbinati agli acceleratori AI Habana garantiranno agli utenti di Voyager le capacità HPC e AI di cui hanno bisogno per potenziare la loro ricerca rivoluzionaria”.
