NVIDIA ha annunciato il 10 novembre 2026, durante KubeCon + CloudNativeCon, il trasferimento del runtime di sicurezza OpenShell verso la Cloud Native Computing Foundation, nell’ambito del programma CNCF Sandbox. L’iniziativa è accompagnata dalla pubblicazione di tre componenti open source della piattaforma DSX AI Factory e dalla collaborazione al progetto Agent Substrate, originariamente sviluppato da Google. Le novità riguardano differenti livelli delle infrastrutture per l’intelligenza artificiale: isolamento e controllo degli agenti, gestione delle sessioni persistenti, preparazione e distribuzione dei cluster Kubernetes e recupero rapido dei carichi di inferenza. Le tecnologie sono presentate con differenti livelli di maturità, comprendendo componenti già utilizzati da organizzazioni e strumenti ancora disponibili soltanto in anteprima.
OpenShell è un ambiente di esecuzione per agenti autonomi che utilizza sandbox isolate a livello di kernel e politiche dichiarative espresse in YAML. Le autorizzazioni possono disciplinare accessi al file system, connessioni di rete, processi e credenziali dei fornitori di servizi. Le credenziali vengono inserite soltanto nelle richieste dirette verso endpoint autorizzati, mentre procedure di verifica formale controllano se una modifica delle politiche possa introdurre accessi rischiosi. NVIDIA riferisce l’utilizzo della tecnologia da parte di centinaia di organizzazioni e decine di migliaia di contributi ricevuti in meno di un anno. Il software è distribuito con licenza Apache 2.0 e il passaggio alla governance comunitaria è ancora in corso, con la migrazione progressiva dello sviluppo verso l’organizzazione ai-openshell.
La collaborazione su Agent Substrate affronta la gestione delle risorse consumate dalle sessioni degli agenti quando attendono risposte dei modelli, risultati degli strumenti o ulteriori istruzioni. Un agente mantenuto all’interno di un Pod Kubernetes attivo continua a occupare risorse anche durante l’inattività, mentre la ricreazione completa dell’ambiente può comportare tempi di inizializzazione e perdita dello stato. Agent Substrate permette di distribuire numerose sessioni persistenti su un insieme più contenuto di processi attivi, salvando memoria e stato del file system durante la sospensione e ripristinandoli su un worker disponibile. I processi rimangono normali Pod Kubernetes, soggetti alle politiche di scheduling e alle quote del cluster. Sono previste integrazioni con NVIDIA Dynamo e KAI Scheduler, anche se alcune API e funzioni GPU sono ancora sperimentali. Le applicazioni comprendono assistenti di programmazione, ambienti di apprendimento per rinforzo e sandbox di ricerca con acceleratori.
Per DSX AI Factory, NVIDIA ha presentato Kubernetes Recipes e Kubernetes Engine, indicati rispettivamente come NVKR e NVKE. Il primo componente genera immagini dei nodi, container, file binari e Helm charts a partire da sorgenti con versioni definite, registrando gli elementi utilizzati per garantire la riproducibilità delle configurazioni. NVKE utilizza questi artefatti per predisporre e amministrare cluster attraverso API REST e controller dedicati. L’architettura permette di creare cluster cliente con piani di controllo Kubernetes, istanze etcd e gruppi di nodi separati, utilizzando NVIDIA Infra Controller e CAPNICo per l’assegnazione delle risorse bare-metal. Prima dell’assegnazione delle credenziali di partecipazione, ogni nodo deve presentare un’identità SPIFFE attestata. I due strumenti sono disponibili in anteprima pubblica con licenza Apache 2.0 e non sono ancora raccomandati da NVIDIA per carichi di produzione. Firmus e SK Telecom stanno integrando i componenti nelle rispettive infrastrutture, mentre altri fornitori, tra cui Mirantis, Netris, OpenNebula Systems, Rafay, Spectro Cloud e vCluster, hanno programmi di integrazione.
Il terzo componente, NVIDIA Snapshot, utilizza checkpoint della memoria CPU e GPU di carichi già inizializzati per ridurre i tempi di ripristino dell’inferenza. Il sistema evita di ripetere il caricamento dei pesi, la compilazione e la cattura dei grafi CUDA, ma richiede compatibilità con lo stesso modello di GPU e lo stesso driver utilizzati nella creazione del checkpoint. Nei test con GPU B200 e storage VAST NFS, NVIDIA ha registrato tempi di recupero compresi tra 3,6 e 42,7 secondi per configurazioni vLLM, SGLang e TensorRT LLM, con accelerazioni da otto a trentasei volte rispetto agli avvii a freddo. Le prove hanno interessato modelli da 600 milioni di parametri fino a sistemi con otto GPU e checkpoint prossimi a un terabyte. Il salvataggio ha richiesto tra quindici secondi e cinque minuti e mezzo, mentre il tempo complessivo di checkpoint e ripristino è risultato inferiore a quello di un singolo avvio tradizionale nelle configurazioni testate. Le misure non comprendono l’inizializzazione dell’intera infrastruttura e il caricamento delle immagini container, né conservano la cache key-value. Le novità presentate estendono così gli strumenti NVIDIA dal controllo degli agenti alla gestione delle risorse e dell’avvio dei modelli nelle infrastrutture AI distribuite.
Questo articolo è stato redatto con il supporto di strumenti di intelligenza artificiale (AI)