T-Head, la società di Alibaba specializzata nella progettazione di semiconduttori, ha reso disponibile come software open source l’intero stack SAIL sviluppato per i chip di intelligenza artificiale della serie Zhenwu. L’annuncio è stato effettuato il 18 luglio a Shanghai durante la World Artificial Intelligence Conference. L’apertura del software è rivolta agli sviluppatori internazionali e rappresenta il tentativo di Alibaba di costruire un ecosistema alternativo a CUDA, la piattaforma di Nvidia che domina lo sviluppo e l’esecuzione dei carichi di lavoro AI sulle GPU.
SAIL, acronimo utilizzato per indicare l’architettura software collegata ai chip Zhenwu, è uno stack completo che permette ai modelli di intelligenza artificiale di utilizzare le capacità di calcolo dell’hardware progettato da T-Head. Il sistema si occupa di tradurre le operazioni richieste dai framework AI in istruzioni eseguibili dai chip e di coordinare le diverse componenti necessarie durante addestramento e inferenza. Un acceleratore AI non può infatti essere utilizzato efficacemente soltanto attraverso le proprie caratteristiche hardware. Sono necessari compilatori, librerie matematiche, runtime, strumenti di sviluppo, sistemi di profilazione e integrazioni con i principali framework. È questo livello software a stabilire quanto facilmente un modello possa essere trasferito da una piattaforma hardware a un’altra.
Secondo Gao Hui, vicepresidente di T-Head, gli sviluppatori potrebbero migrare i programmi esistenti verso SAIL in meno di una settimana, modificando soltanto una quantità limitata del codice già scritto per i comuni framework di intelligenza artificiale. La piattaforma supporterebbe più di 260 strumenti destinati all’addestramento e all’inferenza dei modelli. L’obiettivo è consentire alle imprese di utilizzare i chip Zhenwu senza dover ricostruire completamente le proprie applicazioni o rinunciare ai programmi impiegati negli ambienti AI esistenti.
La promessa di una migrazione rapida riguarda però soprattutto la compatibilità iniziale del codice. Trasferire un’applicazione e renderla tecnicamente eseguibile non equivale necessariamente a ottenere prestazioni, stabilità e costi paragonabili a quelli raggiunti sull’infrastruttura originaria. Nei carichi di lavoro più semplici, l’adattamento può limitarsi alla sostituzione di alcune librerie o alla modifica delle configurazioni utilizzate dal framework. L’addestramento distribuito di modelli di grandi dimensioni richiede invece un lavoro molto più complesso. Gli ingegneri devono verificare come le operazioni vengano distribuite tra i chip, ridurre i tempi di comunicazione, gestire la memoria disponibile, ottimizzare i kernel e individuare i colli di bottiglia che limitano l’utilizzo dell’hardware. Devono inoltre correggere gli errori del runtime e verificare che il comportamento numerico resti stabile durante sessioni di calcolo prolungate. Queste attività possono richiedere mesi di sviluppo anche quando il codice di base viene convertito rapidamente. La reale facilità di migrazione dipende quindi dal modello utilizzato, dalla dimensione del cluster, dalle tecniche di parallelizzazione e dal livello di prestazioni richiesto.
Alibaba non ha pubblicato benchmark oggettivi che confrontino SAIL con CUDA. Non sono disponibili dati sufficienti sull’efficienza delle operazioni, sulla stabilità del compilatore, sul consumo di memoria, sulla scalabilità tra più acceleratori o sulla velocità raggiunta durante addestramento e inferenza. L’assenza di queste misurazioni impedisce di stabilire quanto lo stack possa competere con la piattaforma di Nvidia nei carichi di lavoro reali. Il numero di strumenti supportati e la possibilità di eseguire un’applicazione rappresentano elementi importanti, ma non dimostrano da soli che l’ambiente sia pronto a sostenere sistemi AI di grandi dimensioni in produzione.
T-Head ha dichiarato di aver già fornito oltre 560.000 chip della serie Zhenwu. La disponibilità di una base hardware consistente può favorire l’adozione dello stack, perché sviluppatori e aziende hanno maggiori motivi per investire nella piattaforma quando esistono dispositivi effettivamente installati. La diffusione dei chip non coincide però automaticamente con la maturità dell’ecosistema software. Un ambiente di sviluppo richiede documentazione completa, assistenza tecnica, librerie ottimizzate, strumenti di debugging e una comunità capace di individuare problemi, contribuire al codice e produrre soluzioni riutilizzabili. L’apertura di SAIL può accelerare questo processo consentendo agli sviluppatori esterni di ispezionare il software, adattarlo alle proprie esigenze e contribuire al miglioramento dello stack. La disponibilità del codice riduce inoltre la dipendenza da componenti proprietari controllati esclusivamente dal produttore.
La decisione di Alibaba si inserisce in un movimento più ampio dell’industria cinese dei semiconduttori. Huawei ha sviluppato CANN per i propri acceleratori Ascend, mentre Moore Threads propone MUSA per le sue GPU. Questi sistemi cercano di ridurre la dipendenza da CUDA, diventata nel corso di circa vent’anni il principale standard de facto per il calcolo accelerato. La piattaforma di Nvidia comprende linguaggi, compilatori, librerie e strumenti utilizzati da università, imprese, sviluppatori di framework e produttori di applicazioni AI. Il vantaggio competitivo di Nvidia non deriva quindi soltanto dalle prestazioni delle GPU. CUDA offre una base software consolidata sulla quale sono stati costruiti modelli, librerie e processi aziendali. Molti team possiedono inoltre competenze specifiche sviluppate attraverso anni di utilizzo. Questo effetto di dipendenza viene spesso definito software lock-in. Trasferire un’applicazione verso un chip differente può richiedere la sostituzione di librerie, la riscrittura di parti del codice e un nuovo lavoro di ottimizzazione. Anche quando l’hardware alternativo risulta competitivo, il costo della migrazione può rallentarne l’adozione.
SAIL cerca di ridurre questa barriera offrendo compatibilità con gli strumenti esistenti e un percorso di conversione relativamente rapido. L’efficacia della strategia dipenderà però dalla capacità di mantenere le prestazioni dopo la migrazione e di offrire strumenti comparabili a quelli già disponibili nell’ambiente Nvidia. La necessità di un’alternativa è diventata più urgente con l’inasprimento delle restrizioni statunitensi sull’esportazione di semiconduttori avanzati verso la Cina. Le aziende cinesi stanno sviluppando acceleratori nazionali per ridurre la dipendenza dalle GPU occidentali, ma devono anche costruire il software necessario per renderli utilizzabili. Senza uno stack maturo, anche un chip dotato di buone capacità teoriche può restare difficile da integrare nei data center e nei processi di sviluppo. La competizione riguarda quindi contemporaneamente architettura hardware, strumenti software, framework e disponibilità di competenze.
L’apertura del codice può favorire anche la collaborazione tra produttori, università e aziende che utilizzano modelli AI. Gli sviluppatori possono esaminare il funzionamento dello stack, realizzare estensioni e contribuire alla compatibilità con nuovi modelli o operatori. Il modello open source non elimina tuttavia le difficoltà legate all’hardware. Per adottare SAIL è necessario accedere ai chip Zhenwu, disporre di infrastrutture compatibili e ricevere un livello sufficiente di documentazione e assistenza. La diffusione globale dipenderà quindi anche dalla capacità di Alibaba di fornire l’hardware e sostenere gli utenti al di fuori del mercato cinese. Devono essere considerate inoltre le questioni relative alla catena di fornitura. Le restrizioni internazionali possono influenzare la produzione dei chip, la disponibilità delle tecnologie di fabbricazione e l’accesso ai componenti necessari per realizzare server e cluster. Anche le aziende interessate a diversificare i propri fornitori devono valutare stabilità delle consegne, manutenzione, compatibilità con le infrastrutture e continuità degli aggiornamenti. La scelta di una piattaforma AI non può dipendere soltanto dal prezzo o dalle prestazioni dichiarate del singolo chip.
Il rilascio di SAIL costituisce quindi un passaggio importante nella strategia di Alibaba per sviluppare un ecosistema AI più autonomo. La società non propone soltanto un acceleratore alternativo, ma tenta di offrire il livello software necessario per utilizzare concretamente l’hardware. La distanza rispetto a CUDA rimane comunque ampia. Nvidia ha costruito nel tempo una comunità internazionale, un insieme esteso di librerie ottimizzate e relazioni consolidate con produttori di software, fornitori cloud e centri di ricerca.
Per sostituire o affiancare questo ambiente non sarà sufficiente consentire una conversione iniziale del codice. SAIL dovrà dimostrare stabilità, prestazioni, scalabilità e facilità di manutenzione nei carichi di lavoro reali. La pubblicazione di benchmark indipendenti sarà essenziale per valutare il progetto. Serviranno confronti eseguiti sugli stessi modelli e dataset, utilizzando configurazioni hardware documentate e misurando velocità, consumo energetico, memoria, costi e affidabilità. Fino a quando questi dati non saranno disponibili, l’affermazione relativa alla migrazione in una settimana deve essere interpretata come una caratteristica dichiarata da T-Head, non come una prova della piena equivalenza tra SAIL e CUDA. L’apertura dello stack offre comunque agli sviluppatori la possibilità di esaminarlo e verificarne direttamente le capacità. Sarà l’utilizzo in progetti concreti a mostrare se SAIL possa trasformarsi in un’alternativa tecnica credibile o se rimarrà principalmente uno strumento destinato all’ecosistema hardware interno di Alibaba.