NVIDIA ha annunciato la nascita della Open Secure AI Alliance, una coalizione che riunisce circa quaranta aziende tecnologiche, fornitori di sicurezza informatica, laboratori di intelligenza artificiale e fondazioni open source con l’obiettivo di sviluppare modelli, strumenti e infrastrutture aperte destinati alla difesa dei sistemi digitali. L’iniziativa parte dal presupposto che i responsabili della cybersicurezza debbano poter ispezionare, modificare ed eseguire localmente modelli AI avanzati, soprattutto durante la gestione di incidenti in cui i dati non possono essere trasferiti verso servizi esterni o analizzati attraverso API commerciali soggette a filtri automatici.
Tra i membri inaugurali figurano NVIDIA, Microsoft, IBM, Red Hat, Cisco, CrowdStrike, Palo Alto Networks, Hugging Face, Palantir, Siemens, Linux Foundation, Adobe, Cloudflare, Databricks, Dell Technologies, Elastic, HPE, LangChain, Salesforce, SAP, ServiceNow, Snowflake, Thinking Machines Lab, Nous Research e Reflection AI. La coalizione intende costruire uno stack difensivo aperto che comprenda identità e autorizzazioni degli agenti, isolamento dei carichi di lavoro, formati sicuri per i modelli, sistemi di scansione multi-modello, registri delle attività, strumenti di valutazione e procedure per la scrittura e la verifica sicura del codice. Il lavoro si appoggerà alle attività già avviate dalla Linux Foundation con Akrites e dalla comunità OpenSSF per la scoperta, la correzione e la divulgazione coordinata delle vulnerabilità nei progetti open source.
Uno degli eventi che ha accelerato la creazione dell’alleanza è stato l’incidente informatico comunicato da Hugging Face il 16 luglio 2026. L’attacco sarebbe iniziato attraverso una pipeline di elaborazione dei dati, nella quale un dataset manipolato avrebbe attivato due percorsi capaci di eseguire codice su un worker. L’intruso avrebbe quindi ottenuto il controllo del nodo, estratto credenziali cloud e del cluster e attraversato diversi ambienti interni nel corso di un fine settimana. Durante l’analisi forense, i tecnici avrebbero tentato di utilizzare modelli avanzati disponibili tramite API commerciali, ma le richieste contenenti exploit reali, comandi e artefatti di controllo remoto sarebbero state bloccate dai sistemi di sicurezza dei fornitori, incapaci di distinguere il lavoro di un analista da quello di un attaccante.
Hugging Face avrebbe quindi trasferito l’attività su GLM 5.2, un modello open-weight eseguito sulla propria infrastruttura, utilizzandolo per ricostruire una sequenza composta da oltre 17.000 azioni dell’attaccante. In questo modo credenziali, payload e registri sensibili sarebbero rimasti all’interno dell’ambiente aziendale. Il caso viene utilizzato per dimostrare che, in una risposta a un incidente reale, la possibilità di eseguire localmente un modello sufficientemente capace non rappresenta soltanto una scelta architetturale, ma può diventare una necessità operativa quando i filtri dei servizi chiusi impediscono di analizzare materiale potenzialmente pericoloso.
Il principale contributo tecnico presentato da NVIDIA insieme all’alleanza è NVIDIA Labs Object-Oriented Agents, abbreviato in NOOA, un framework open source distribuito come anteprima di ricerca. NOOA rappresenta ogni agente come una singola classe Python: i metodi descrivono le capacità disponibili, i campi conservano lo stato, le docstring contengono le istruzioni e le annotazioni di tipo funzionano come contratti verificati dal runtime. I metodi deterministici vengono eseguiti come normale codice Python, mentre quelli lasciati intenzionalmente incompleti vengono completati durante l’esecuzione da un ciclo controllato da un modello linguistico. Questa struttura permette di trattare gli agenti come software tradizionale, sottoponendoli a revisioni del codice, test unitari, tracciamento, confronto tra versioni, audit e refactoring.
NOOA integra inoltre input e output tipizzati, passaggio degli oggetti per riferimento, uso del codice come azione, cicli di orchestrazione programmabili, stato esplicito e API che consentono al modello di consultare la cronologia e il contesto operativo. Il sistema comprende una memoria persistente archiviata in un database SQLite leggibile e ispezionabile, nel quale le informazioni possono essere classificate, collegate attraverso relazioni tipizzate e condivise tra più agenti senza dover ricorrere continuamente alla compressione o alla sintesi del contesto. L’obiettivo è ridurre la quantità di dati reinseriti nella finestra del modello, mantenendo nello stesso tempo una cronologia verificabile delle decisioni e delle operazioni effettuate.
Nel campo della ricerca delle vulnerabilità, NVIDIA ha implementato con NOOA una pipeline nella quale l’attività esplorativa del modello viene separata dalla validazione deterministica. Tre controlli verificano rispettivamente che l’input individuato produca realmente un crash, che il crash corrisponda alla vulnerabilità segnalata e che il risultato sia riproducibile. La scoperta viene quindi accettata solo quando i controlli eseguiti dal codice confermano il risultato, evitando che sia il modello stesso a certificare liberamente la propria conclusione. Sul benchmark CyberGym L1, dedicato alla riscoperta di vulnerabilità reali, il sistema ha risolto l’86,8% delle attività con l’accesso alla rete disabilitato e con tutte le traiettorie sottoposte a controlli contro eventuali scorciatoie o recuperi esterni delle soluzioni. NVIDIA lo definisce il sistema open source con il punteggio più elevato sul benchmark.
Il risultato non costituisce tuttavia il punteggio assoluto più alto comunicato pubblicamente. Microsoft aveva infatti riportato nel maggio 2026 un valore dell’88,45% sullo stesso benchmark attraverso MDASH, un sistema di scansione multi-modello nel quale agenti specializzati collaborano per individuare, discutere e dimostrare vulnerabilità sfruttabili. Microsoft ha attribuito a questo sistema la scoperta di sedici vulnerabilità nei componenti di rete e autenticazione di Windows, ma MDASH rimane disponibile soltanto come anteprima privata limitata. La distinzione è quindi tra il risultato più alto ottenuto da un sistema non scaricabile e quello più alto attribuito a un agente distribuito apertamente.
L’alleanza raccoglie anche tecnologie già esistenti. HPE contribuisce allo sviluppo di SPIFFE e SPIRE, standard zero-trust che permettono di verificare crittograficamente l’identità di agenti, servizi e carichi di lavoro. Hugging Face mette a disposizione Safetensors, un formato progettato per archiviare i pesi dei modelli evitando l’esecuzione remota di codice. IBM e Red Hat partecipano con Lightwell, un progetto destinato a estendere l’uso di patch firmate digitalmente lungo la catena di fornitura open source. Microsoft contribuisce con MDASH, mentre SpaceXAI ha reso open source Grok Build, un agente di programmazione utilizzabile da terminale, e ha dichiarato l’intenzione di pubblicare i pesi dei modelli della famiglia Grok. Tra questi contributi, NOOA e Lightwell rappresentano gli elementi presentati come nuovi insieme alla costituzione della coalizione, mentre altri progetti erano già pubblici.
OpenAI, Anthropic e Google non figurano tra i membri inaugurali della Open Secure AI Alliance, nonostante tutte e tre le aziende abbiano aderito ad Akrites al momento del lancio dell’iniziativa della Linux Foundation, avvenuto il 25 giugno 2026. La loro assenza assume rilievo perché l’alleanza concentra il proprio messaggio proprio sui limiti operativi dei modelli chiusi e dei relativi filtri di sicurezza. La posizione di NVIDIA presenta comunque anche un interesse industriale diretto: i modelli open-weight eseguiti localmente richiedono infrastrutture di calcolo e acceleratori, creando nuovi carichi di lavoro per GPU aziendali e data center privati.
Sul piano normativo, la coalizione chiede ai governi di non applicare restrizioni generalizzate ai modelli frontier aperti. Secondo i promotori, limitare indiscriminatamente la distribuzione dei pesi e degli strumenti avanzati concentrerebbe le capacità difensive nelle mani di pochi fornitori chiusi, aumentando dipendenza tecnologica e rischi di singoli punti di guasto. La proposta è invece quella di affiancare l’apertura a verifiche rigorose, regole contro gli utilizzi malevoli, controlli tecnici, valutazioni riproducibili e processi rapidi di correzione. Aziende e istituzioni vengono inoltre invitate a finanziare infrastrutture condivise per la difesa AI, tra cui dataset, benchmark, simulatori di attacco, ambienti di red teaming e procedure coordinate di divulgazione delle vulnerabilità.
La Open Secure AI Alliance si trova comunque ancora in una fase iniziale. Al momento del lancio, NOOA costituisce il principale nuovo strumento direttamente utilizzabile, mentre il coordinamento promesso tra identità, isolamento, formati sicuri, scansione multi-modello e distribuzione delle patch deve ancora essere costruito. Non sono stati indicati una governance operativa dettagliata, un soggetto unico incaricato di gestire l’intero stack o una tempistica precisa per il rilascio delle diverse componenti. Per i team di sicurezza, l’indicazione immediatamente applicabile è quindi predisporre e validare in anticipo almeno un modello avanzato eseguibile localmente, evitando di dover configurare una soluzione autonoma nel pieno di un incidente informatico.