Gli agenti di programmazione basati sull’intelligenza artificiale stanno iniziando a ridurre i tempi necessari per sviluppare il software di basso livello destinato agli acceleratori AI, mettendo alla prova uno dei principali vantaggi competitivi di NVIDIA. Al centro di questa trasformazione si trova CUDA, acronimo di Compute Unified Device Architecture, la piattaforma software proprietaria che consente agli sviluppatori di utilizzare le GPU NVIDIA per l’elaborazione parallela, l’addestramento dei modelli e l’inferenza. La possibilità di automatizzare in poche ore attività che in precedenza richiedevano team specializzati e lunghi cicli di sviluppo potrebbe facilitare l’adozione di chip alternativi, anche se non equivale ancora alla ricostruzione dell’intero ecosistema realizzato da NVIDIA in quasi vent’anni.
Jeremy Nixon, già ricercatore presso Google Brain e fondatore della startup Infinity, ha dichiarato di aver utilizzato un agente AI per sviluppare in circa dieci ore uno strato software destinato agli acceleratori prodotti da d-Matrix. Il risultato ha riguardato in particolare la generazione e l’ottimizzazione di kernel per operazioni fondamentali dell’inferenza, tra cui la moltiplicazione di matrici su larga scala. Infinity sta sviluppando Ignition, un agente capace di scrivere codice di basso livello per differenti architetture, eseguirlo sull’hardware, misurarne le prestazioni, individuare errori e riscriverlo automaticamente per migliorarne l’efficienza.
Il progetto non rappresenta una copia completa di CUDA, ma mostra come una parte del lavoro necessario per rendere utilizzabile un nuovo acceleratore possa essere automatizzata. La realizzazione di una piattaforma paragonabile a quella di NVIDIA richiede infatti molto più della generazione di singoli kernel: comprende compilatori, librerie matematiche e di comunicazione, strumenti di profilazione e debug, sistemi di verifica, documentazione, integrazioni con i framework e supporto continuativo per numerose generazioni di hardware. L’accelerazione dello sviluppo iniziale può tuttavia ridurre uno degli ostacoli che impediscono ai produttori emergenti di trasformare un chip funzionante in una piattaforma concretamente adottabile dagli sviluppatori.
CUDA costituisce una barriera competitiva soprattutto per la dimensione dell’ecosistema costruito attorno alla tecnologia. Nel corso degli anni, aziende e sviluppatori hanno creato milioni di righe di codice, procedure operative e applicazioni ottimizzate per le GPU NVIDIA. Librerie consolidate, strumenti maturi e una stretta integrazione tra hardware e software rendono difficile trasferire questi carichi su piattaforme differenti senza sostenere costi di conversione, verifica e ottimizzazione. Il vincolo non deriva quindi soltanto dal linguaggio utilizzato per programmare le GPU, ma dall’insieme di componenti e competenze accumulati attorno alla piattaforma.
Gli agenti AI potrebbero intervenire proprio sui costi di migrazione. Un sistema capace di tradurre, adattare e ottimizzare automaticamente i kernel per architetture differenti permetterebbe alle aziende di utilizzare nuovi acceleratori senza riscrivere manualmente ogni componente. Lo stesso approccio può essere applicato alla costruzione di compilatori, backend e librerie compatibili con hardware eterogeneo, rendendo più rapido il passaggio dal prototipo del semiconduttore alla sua effettiva integrazione nei servizi AI.
Google, Amazon e Microsoft stanno già sviluppando stack software destinati ai propri acceleratori. Google utilizza le TPU, Amazon propone i chip Trainium per l’addestramento e Inferentia per l’inferenza, mentre Microsoft sta costruendo un’infrastruttura basata anche su acceleratori proprietari. Per queste aziende, la disponibilità di strumenti capaci di adattare automaticamente il software a più architetture può ridurre la dipendenza dalle GPU NVIDIA e semplificare la distribuzione dei carichi sulle risorse disponibili nei rispettivi cloud.
Anche le società che sviluppano modelli stanno modificando il processo di produzione del software per semiconduttori. OpenAI, Anthropic e altri laboratori dispongono di modelli capaci di generare codice, analizzare errori e assistere gli ingegneri nell’ottimizzazione dei sistemi. DeepSeek ha inoltre contribuito allo sviluppo di TileLang, un linguaggio specifico per la scrittura di kernel destinati agli acceleratori AI, con l’obiettivo di rendere più semplice la descrizione delle operazioni e automatizzarne la trasformazione in codice efficiente per differenti piattaforme.
Lo spostamento degli investimenti dall’addestramento all’inferenza potrebbe rafforzare questa tendenza. Durante l’addestramento dei modelli più grandi, le prestazioni assolute, l’interconnessione tra migliaia di GPU e la maturità dell’infrastruttura hanno un peso determinante. Nell’inferenza commerciale diventano invece centrali il costo per richiesta, il consumo energetico, la latenza e la possibilità di scegliere il chip più conveniente per ciascun carico. Le aziende possono quindi essere più interessate a un livello software portabile, capace di funzionare su acceleratori differenti, rispetto a una piattaforma vincolata a un unico fornitore.
Marshall Choy, chief business officer della società sudcoreana Rebellions, ha collegato la crescita degli acceleratori alternativi proprio alle esigenze dell’inferenza. Rebellions sviluppa NPU e sistemi completi ottimizzati per eseguire modelli AI con particolare attenzione al rapporto tra prestazioni, consumi e costi. In uno scenario nel quale i clienti richiedono infrastrutture flessibili e rapidamente utilizzabili, la disponibilità di software open source e indipendente dal singolo chip può diventare un elemento decisivo per l’adozione commerciale.
La generazione automatica del codice non elimina tuttavia le difficoltà legate alla verifica e all’ottimizzazione. Un agente può produrre rapidamente numerose implementazioni, ma ogni versione deve essere controllata per stabilire se genera risultati corretti, se gestisce adeguatamente memoria e sincronizzazione e se mantiene prestazioni affidabili su carichi differenti. Nei sistemi destinati alla produzione, un kernel apparentemente efficiente può introdurre errori numerici, instabilità o comportamenti difficili da riprodurre. La maturità degli strumenti di test e profilazione di CUDA continua quindi a rappresentare un vantaggio significativo.
NVIDIA può inoltre utilizzare gli stessi agenti AI per accelerare lo sviluppo della propria piattaforma. La società dispone di una quantità molto ampia di codice, dati prestazionali, librerie e casi di utilizzo sui quali applicare strumenti automatici di programmazione e ottimizzazione. L’evoluzione verso applicazioni agentiche e carichi di inferenza può rafforzare l’importanza dell’integrazione full-stack, nella quale GPU, reti, librerie, compilatori e framework vengono progettati e ottimizzati congiuntamente. La diffusione degli agenti non produce quindi necessariamente un vantaggio esclusivo per i concorrenti, ma può aumentare la velocità di sviluppo anche all’interno dell’ecosistema NVIDIA.
Chris Lattner, cofondatore e CEO di Modular, ritiene che l’intelligenza artificiale possa semplificare la programmazione degli acceleratori, ma non eliminare la complessità necessaria per costruire una piattaforma pronta per l’impiego industriale. Modular sta sviluppando uno stack indipendente dall’hardware che comprende il linguaggio Mojo e il motore di inferenza MAX, con l’obiettivo di permettere l’esecuzione degli stessi carichi su GPU e CPU differenti. Lattner ha sottolineato più volte che ottenere codice funzionante rappresenta soltanto una parte del problema, mentre raggiungere prestazioni elevate, portabilità e affidabilità su più architetture richiede ancora un lavoro esteso sull’intero stack.
Gli agenti di programmazione possono quindi ridurre il tempo necessario per supportare un nuovo chip e indebolire progressivamente il vincolo che lega molti carichi AI alle GPU NVIDIA, ma non cancellano automaticamente la rete di strumenti, librerie e competenze costruita attorno a CUDA. La trasformazione più probabile riguarda la natura della barriera competitiva: la capacità di scrivere rapidamente codice di basso livello potrebbe diventare meno rara, mentre aumenterà l’importanza della verifica, dell’ottimizzazione continua, della portabilità e della gestione coordinata dell’intera infrastruttura hardware e software.