OpenAI ha introdotto Defense Factory, un sistema di sicurezza autonomo progettato per automatizzare l’intero processo di gestione delle vulnerabilità, dalla loro individuazione fino alla verifica dell’effettiva distribuzione delle correzioni. Il progetto nasce dalla necessità di rispondere alla crescente capacità degli agenti AI di automatizzare anche attività offensive e, in particolare, alla possibilità che modelli open-weight sempre più potenti vengano utilizzati per condurre campagne informatiche prolungate. Defense Factory utilizza modelli AI avanzati e agenti autonomi per analizzare continuamente codice e sistemi, individuare vulnerabilità, verificarne la reale sfruttabilità, assegnarle ai team competenti, produrre patch, testarle e controllarne successivamente la distribuzione negli ambienti operativi.
Alla base dell’iniziativa c’è il concetto di “Defender’s Window”, con cui OpenAI identifica l’attuale differenza di capacità tra i modelli frontier disponibili ai difensori e i modelli open-weight accessibili più facilmente anche agli attaccanti. Secondo questa impostazione, i team di sicurezza dispongono ancora di modelli più avanzati rispetto a quelli liberamente utilizzabili per automatizzare gli attacchi, ma il progressivo miglioramento delle soluzioni open-weight potrebbe ridurre rapidamente questo vantaggio. Defense Factory punta quindi a sfruttare questa finestra temporale per automatizzare e accelerare le attività difensive prima che sistemi offensivi autonomi possano operare con capacità comparabili.
Per la costruzione del sistema OpenAI ha coinvolto più di 250 persone e sottoposto a verifiche di sicurezza oltre 100 aree di servizio. Gli agenti AI hanno ricevuto accesso diretto al codice e ai sistemi all’interno di ambienti controllati, analizzando centinaia di sistemi per individuare problemi, riprodurre le vulnerabilità, valutarne la gravità e proporre modifiche correttive. Il processo non si limita quindi alla scansione statica del codice, ma combina analisi, riproduzione dell’errore e verifica operativa della correzione.
Nel corso delle attività, il 37% delle segnalazioni individuate è risultato duplicato ed è stato eliminato automaticamente. L’assegnazione delle vulnerabilità ai team effettuata dagli agenti ha raggiunto un tasso di approvazione del 90,6%, mentre già nel primo giorno il sistema ha consentito di risolvere 53 vulnerabilità classificate con priorità Critical o High. Questi risultati sono stati ottenuti automatizzando progressivamente attività che normalmente richiedono l’intervento manuale dei team di sicurezza.
Uno degli elementi centrali di Defense Factory è un “reproducible data plane”, cioè un ambiente di esecuzione isolato che riproduce codice, dipendenze e configurazioni del servizio reale. Per ogni attività viene creato un nuovo ambiente all’interno del quale l’agente può riprodurre la vulnerabilità ed eseguire la patch proposta per verificarne il funzionamento. Terminata l’operazione, l’ambiente viene eliminato e ricostruito da zero per il test successivo, evitando che configurazioni o modifiche residue possano influenzare le verifiche successive.
La validazione dinamica permette quindi di distinguere i problemi teoricamente individuati nel codice dalle vulnerabilità effettivamente riproducibili durante l’esecuzione. Il 19,5% delle segnalazioni analizzate è stato riprodotto nel runtime reale simulato dal sistema e, dopo il processo di verifica, il tasso di falsi positivi è sceso allo 0,81%. L’obiettivo è ridurre il numero di segnalazioni prive di conseguenze operative che devono essere esaminate manualmente dai responsabili della sicurezza. Anche le patch generate dagli agenti hanno mostrato un livello elevato di affidabilità: soltanto lo 0,53% delle modifiche distribuite durante il funzionamento operativo ha richiesto successivamente un rollback.
L’automazione è stata introdotta in modo progressivo. Nelle prime fasi le modifiche venivano elaborate in piccoli gruppi con una revisione umana sistematica; con l’aumento dell’affidabilità dei risultati, operazioni ripetitive come classificazione delle vulnerabilità, assegnazione al team responsabile, generazione delle patch e validazione sono state affidate direttamente agli agenti. Le persone continuano invece a occuparsi della gestione delle eccezioni, della definizione dei limiti operativi e delle decisioni finali nei casi che richiedono valutazioni contestuali.
Le verifiche successive hanno inoltre evidenziato che l’integrazione di una patch nel codice non garantisce necessariamente che la correzione sia stata effettivamente distribuita su tutti i sistemi coinvolti. Per questo Defense Factory ha esteso il controllo anche alla fase di deployment, verificando la corrispondenza tra le modifiche integrate nelle codebase e quelle realmente presenti nei sistemi di produzione. L’automazione copre così non soltanto l’individuazione e la correzione della vulnerabilità, ma anche la verifica conclusiva dell’effettiva applicazione della soluzione.
L’approccio punta anche a risolvere un problema legato alla diffusione degli strumenti AI per la cybersecurity: aumentando la capacità automatizzata di individuare anomalie, potrebbe crescere rapidamente anche il volume delle segnalazioni che i team umani devono analizzare. Defense Factory cerca di evitare questo effetto automatizzando non soltanto la fase di detection, ma anche deduplicazione, classificazione, verifica dinamica, remediation e controllo del deployment, in modo che le segnalazioni arrivino agli operatori già filtrate e accompagnate da elementi utilizzabili per la risoluzione.
Parallelamente OpenAI sta ampliando i programmi dedicati all’impiego difensivo dell’AI nella cybersecurity. Tra questi figura Daybreak for Frontline Defenders, iniziativa da 1 miliardo di dollari, circa 1,4 miliardi di euro secondo la conversione indicata, destinata a supportare organizzazioni che difficilmente potrebbero accedere autonomamente a sistemi avanzati di sicurezza basati sull’intelligenza artificiale. Il programma è rivolto, tra gli altri, a gestori di reti idriche ed elettriche, amministrazioni locali, banche regionali e manutentori di progetti open source. OpenAI sta inoltre avviando un programma pilota destinato ai responsabili della sicurezza delle amministrazioni statali e locali degli Stati Uniti e una rete difensiva che coinvolge più di 350 aziende.
Questo articolo è stato redatto con il supporto di strumenti di intelligenza artificiale (AI)