Cornelis Networks ha presentato CN6000, una nuova famiglia di interconnessioni ad alte prestazioni progettata per sistemi di supercalcolo, infrastrutture HPC e cluster dedicati all’addestramento e all’inferenza dei modelli di intelligenza artificiale. La piattaforma comprende adattatori di rete SuperNIC basati su Omni-Path ed Ethernet e uno switch Omni-Path, con una capacità di trasmissione dichiarata fino a 800 gigabit al secondo. La società indica inoltre una capacità aggregata bidirezionale fino a 1,6 miliardi di messaggi al secondo per gli adattatori Omni-Path, una caratteristica particolarmente rilevante per le applicazioni di calcolo parallelo che richiedono numerosi scambi di informazioni di piccole dimensioni tra nodi differenti. Le prestazioni dichiarate comprendono tre parametri distinti: la larghezza di banda, che rappresenta la quantità di dati trasferibili nell’unità di tempo; il numero di messaggi elaborabili, che misura la capacità di sostenere frequenti operazioni di comunicazione; e la latenza, che esprime il ritardo introdotto durante il trasferimento. Una connessione a 800 Gb/s corrisponde teoricamente a 100 gigabyte al secondo prima di considerare overhead di protocollo e ulteriori limitazioni operative, ma questo valore non descrive direttamente la velocità di completamento di un modello o di un’applicazione distribuita.
Cornelis ha comunicato un risultato di latenza pari a 0,95 microsecondi in un test interno Intel MPI ping-pong basato su messaggi di 8 byte, rispetto agli 1,2 microsecondi registrati con NVIDIA InfiniBand XDR a 800G. Il vantaggio misurato è di circa il 21%, ma riguarda specificamente questo tipo di scambio e non implica un miglioramento equivalente del tempo complessivo di esecuzione di un carico AI o HPC. Nei programmi paralleli, la comunicazione avviene attraverso combinazioni differenti di trasferimenti, operazioni collettive e sincronizzazioni, il cui comportamento dipende dalla topologia della rete, dalla congestione e dalla frequenza degli scambi. Il supporto MPI, Message Passing Interface, è particolarmente importante per le simulazioni scientifiche, nelle quali numerosi processi devono comunicare risultati intermedi prima di procedere con le fasi successive del calcolo. La capacità di gestire un numero elevato di messaggi può quindi ridurre i tempi di attesa nei carichi caratterizzati da scambi frequenti, mentre la banda disponibile diventa determinante nei trasferimenti di grandi quantità di dati.
La famiglia CN6000 offre due possibilità infrastrutturali. Omni-Path costituisce un’interconnessione specializzata per il calcolo parallelo, mentre la variante Ethernet permette di utilizzare una tecnologia ampiamente adottata nei data center, mantenendo la compatibilità con ambienti di switching Ethernet appropriati. I SuperNIC rappresentano gli adattatori installati nei server, mentre gli switch gestiscono l’instradamento del traffico e l’interconnessione tra i nodi. L’intera infrastruttura, composta da adattatori, collegamenti, switch e software di comunicazione, viene definita fabric. Le due varianti richiedono quindi una valutazione dell’infrastruttura complessiva e non sono intercambiabili semplicemente sostituendo una scheda di rete. Anche InfiniBand, utilizzato come riferimento nel benchmark, rappresenta un’architettura di interconnessione specializzata distinta da Omni-Path e non consente di riutilizzarne automaticamente gli switch. La variante Ethernet di CN6000 implementa RoCEv2, Remote Direct Memory Access over Converged Ethernet, che permette all’hardware di rete di trasferire dati tra regioni di memoria autorizzate di sistemi differenti riducendo il coinvolgimento del processore nelle operazioni di copia. RoCEv2 utilizza intestazioni IP e UDP e supporta quindi comunicazioni attraverso reti IP instradate, pur richiedendo un’adeguata configurazione dei meccanismi di congestione e controllo del traffico.
L’adattatore Ethernet comprende funzionalità di offload hardware, supporto a numerose operazioni simultanee e Priority Flow Control, un meccanismo che può sospendere temporaneamente determinate classi di traffico per limitare la perdita di pacchetti. Il supporto a Ultra Ethernet è previsto attraverso futuri aggiornamenti software e non deve essere considerato una funzionalità già inclusa nell’implementazione iniziale di RoCEv2. Per l’architettura Omni-Path vengono invece utilizzati sistemi di controllo del flusso basati su crediti, nei quali il trasmettitore invia dati in funzione della capacità disponibile presso il destinatario, insieme a instradamento adattivo e percorsi di rete multipli. La documentazione tecnica descrive due piani dati indipendenti da 400G che forniscono complessivamente 800G di banda aggregata. Questa configurazione permette di mantenere un percorso operativo quando uno dei due piani richiede manutenzione o non è disponibile, ma senza garantire la conservazione della capacità massima originaria. CN6000 comprende inoltre una radice hardware di fiducia, secure boot e attestazione del dispositivo, con l’utilizzo di firme digitali post-quantum per verificare autenticità e integrità. Queste funzioni non equivalgono automaticamente alla cifratura completa di ogni comunicazione trasportata sulla rete.
La piattaforma è destinata anche agli ambienti di inferenza disaggregata, nei quali le fasi di prefill e decode dei modelli linguistici vengono eseguite da gruppi differenti di acceleratori. Durante il prefill vengono elaborati i token del prompt e costruite informazioni intermedie utilizzate nei meccanismi di attenzione; durante il decode queste informazioni contribuiscono alla generazione progressiva dei nuovi token. Quando le due fasi vengono separate, i dati della cache key-value, o KV cache, devono essere trasferiti tra i sistemi incaricati delle rispettive operazioni. L’interconnessione può incidere quindi sui tempi necessari per il passaggio del contesto di elaborazione, rendendo importanti tanto la velocità sostenuta di trasferimento quanto il controllo della congestione. La separazione delle fasi rimane comunque conveniente soltanto quando i benefici della specializzazione delle risorse superano il costo aggiuntivo della comunicazione. Cornelis ha annunciato la disponibilità dell’hardware per valutazioni e prime distribuzioni, mentre i sistemi dei partner sono previsti nel primo trimestre del 2027. La scelta della configurazione CN6000 dipenderà dalle esigenze effettive dei cluster, dalla compatibilità degli apparati, dal supporto software e dai risultati ottenuti sui carichi di lavoro di destinazione.
Questo articolo è stato redatto con il supporto di strumenti di intelligenza artificiale (AI)