OpenAI ha sospeso temporaneamente lo sviluppo e le attività interne di test di Astra, il modello di nuova generazione la cui pubblicazione era stata indicata da alcune fonti del settore come possibile già dalla settimana successiva. La decisione è stata presa dopo che le valutazioni interne hanno rilevato capacità di cybersicurezza considerate ad alto rischio, comprese potenziali abilità autonome nell’individuazione e nello sfruttamento di vulnerabilità zero-day. OpenAI ha comunicato il 7 agosto che Astra potrebbe avere raggiunto la soglia “Critical”, il livello massimo previsto per i rischi cyber dal proprio Preparedness Framework.
Nel Preparedness Framework, il livello Critical identifica uno scenario nel quale un modello è potenzialmente in grado di individuare e sviluppare autonomamente exploit basati su vulnerabilità zero-day utilizzabili contro sistemi reali fortemente protetti, coprendo differenti livelli di gravità senza necessitare dell’intervento umano. La stessa classificazione comprende anche la possibilità che un sistema AI elabori ed esegua strategie di attacco informatico nuove e complete, gestendo autonomamente l’intera sequenza operativa necessaria per colpire un obiettivo. Il livello rappresenta un aumento significativo del rischio rispetto alla precedente generazione di modelli, compreso GPT-5.6 Sol, valutata nella categoria immediatamente inferiore “High”.
In seguito ai risultati delle valutazioni, OpenAI ha interrotto le attività di ricerca e test relative ad Astra che non soddisfano i requisiti di sicurezza rafforzati previsti per un modello potenzialmente classificato Critical. Gli ambienti utilizzati per sviluppo e valutazione sono stati trasferiti verso infrastrutture isolate, nelle quali l’accesso alla rete esterna e agli strumenti disponibili al modello viene fortemente limitato. Le misure introdotte comprendono ambienti di esecuzione basati su sandbox, una maggiore protezione e cifratura dei pesi del modello e sistemi automatizzati destinati al monitoraggio continuo dei comportamenti considerati rischiosi.
Il sistema di controllo comprende anche il monitoraggio in tempo reale dei processi di ragionamento degli agenti AI, con l’obiettivo di individuare attività ad alto rischio e attivare immediatamente le procedure di sicurezza previste. La sospensione non indica quindi l’abbandono del progetto, ma il passaggio dello sviluppo a un regime di controllo più restrittivo nel quale le attività potranno proseguire soltanto all’interno degli ambienti e delle procedure compatibili con il livello di rischio individuato.
Astra viene descritto come il più grande modello preaddestrato da OpenAI dopo GPT-4.5 e sarebbe conosciuto internamente con il nome in codice “mewfour”. Prima dell’interruzione dei test, alcune indicazioni provenienti dal settore collocavano il possibile lancio già nella settimana successiva, ma l’emersione delle capacità cyber durante le valutazioni interne ha modificato il programma. OpenAI prevede ora di sottoporre il modello anche a verifiche di terze parti attraverso la collaborazione con organismi governativi e laboratori esterni specializzati nella sicurezza dell’intelligenza artificiale. La società intende inoltre mettere a disposizione dei partner linee guida standardizzate per la valutazione sicura dei modelli avanzati.
OpenAI ha collegato le nuove precauzioni anche alla gestione dei rischi derivanti dalle attività svolte dagli agenti durante le fasi di test. La società ha riferito di avere completato gli interventi necessari in relazione ad alcuni incidenti avvenuti accidentalmente durante prove condotte su sistemi appartenenti a società esterne, tra cui Hugging Face. Secondo OpenAI, l’individuazione delle capacità ad alto rischio di Astra è avvenuta all’interno dei meccanismi di sicurezza predisposti proprio per intercettare questo tipo di comportamento prima che il modello possa essere distribuito con livelli di accesso più ampi.