OpenAI propone la creazione di standard tecnici globali per lo sviluppo dell’intelligenza artificiale di frontiera, con un ruolo guida degli Stati Uniti e una cooperazione strutturata tra governi, laboratori di ricerca, sviluppatori e organismi internazionali. Il progetto riguarda in particolare i sistemi più avanzati e l’evoluzione della ricerca automatizzata sull’intelligenza artificiale, compresa la cosiddetta recursive self-improvement, o RSI, cioè il processo attraverso il quale sistemi AI sempre più autonomi partecipano allo sviluppo delle generazioni successive di modelli. La proposta si inserisce in una strategia che punta alla realizzazione di ricercatori AI automatizzati, al loro utilizzo per affrontare i problemi di allineamento e al mantenimento dell’intervento umano all’interno del ciclo di miglioramento, insieme all’obiettivo di trasformare i progressi dell’intelligenza artificiale in benefici scientifici ed economici e di rendere disponibili sistemi di AGI personali.
L’automazione della ricerca sull’AI può avvenire con livelli molto diversi di supervisione umana. Se una parte crescente del lavoro necessario a progettare e migliorare nuovi modelli viene affidata agli stessi sistemi artificiali, questi possono contribuire sempre più direttamente a un processo di auto-miglioramento ricorsivo, pur in presenza di esseri umani nel ciclo operativo. All’aumentare dell’automazione, anche la velocità del progresso potrebbe crescere rapidamente. OpenAI ritiene che questo tipo di ricerca automatizzata possa ridurre il costo dell’intelligenza avanzata, produrre modelli capaci di fornire benefici diretti alle persone e contribuire allo stesso tempo alla ricerca sulla sicurezza, perché un ricercatore AI automatizzato potrebbe essere utilizzato anche come ricercatore automatizzato dedicato all’allineamento e alla protezione dei sistemi più potenti. Modelli più capaci e correttamente allineati potrebbero inoltre contribuire alla difesa delle infrastrutture critiche, alla protezione da agenti AI pericolosi e allo sviluppo di nuove misure di sicurezza.
La recursive self-improvement completamente autonoma, tuttavia, non è attualmente in corso e, secondo OpenAI, non dovrebbe essere perseguita fino a quando non sarà possibile dimostrarne una gestione sicura. La possibilità di procedere dipenderebbe soprattutto dalla capacità di conservare un controllo umano effettivo e da decisioni democratiche informate sui benefici e sui rischi. Un processo scarsamente controllato potrebbe infatti portare gli esseri umani a perdere il controllo pratico dello sviluppo dei sistemi e a non essere più in grado di supervisionare attività di ricerca diventate troppo complesse per essere comprese direttamente. In questo contesto viene richiamato anche il cosiddetto Hugging Face Incident precedentemente reso pubblico da OpenAI: pur non essendo stato causato direttamente dalla recursive self-improvement, viene considerato un esempio preliminare del tipo di problemi che potrebbe assumere dimensioni molto maggiori in assenza di adeguate misure di allineamento e sicurezza.
Per questo motivo, oltre al progresso della ricerca sull’allineamento, viene considerata necessaria la definizione di standard condivisi tra Paesi e laboratori. Gli standard internazionali dovrebbero stabilire criteri comuni per determinare la qualità delle evidenze tecniche, misurare le capacità dei modelli e definire il livello di rigore necessario per le salvaguardie applicate ai sistemi di frontiera. Il problema nasce innanzitutto dalla frammentazione normativa e tecnica: sistemi di valutazione, obblighi di comunicazione e definizioni degli incidenti differenti tra un Paese e l’altro renderebbero più difficile confrontare i risultati, individuare nuove capacità emergenti e coordinare le risposte a rischi che possono attraversare i confini nazionali. A questo si aggiunge un problema di azione collettiva, perché decisioni prese indipendentemente dai singoli Stati potrebbero produrre risultati indesiderati per tutti, soprattutto se l’auto-miglioramento ricorsivo accelerasse la ricerca più rapidamente della capacità delle istituzioni di comprenderne l’evoluzione, valutarne i rischi e mantenere una supervisione umana significativa.
Un ulteriore elemento riguarda la distribuzione molto disomogenea delle capacità di sviluppo e delle competenze sull’intelligenza artificiale di frontiera nel mondo, una situazione che può amplificare sia la frammentazione sia le difficoltà di coordinamento. Questi problemi riguardano sia i modelli chiusi sia quelli aperti. Ogni laboratorio che sviluppi ricerca automatizzata sull’AI o capacità particolarmente avanzate dovrebbe quindi mantenere la responsabilità diretta della sicurezza dei propri sistemi e operare nel rispetto delle normative esistenti. L’introduzione di standard condivisi viene inoltre proposta come strumento per evitare un’eccessiva concentrazione del potere decisionale nei singoli laboratori e consentire anche a soggetti esterni di contribuire alla definizione delle modalità con cui le tecnologie più avanzate vengono sviluppate e utilizzate.
Il modello ipotizzato prevede standard nazionali e internazionali complementari, costruiti anche attraverso la rete degli istituti dedicati alla sicurezza dell’intelligenza artificiale già presenti in Australia, Canada, Germania, Francia, Kenya, Giappone, Corea del Sud, Singapore, India e Regno Unito. Negli Stati Uniti un ruolo centrale dovrebbe essere affidato al Center for AI Standards and Innovation, CAISI, insieme agli organismi industriali nazionali. Il lavoro dovrebbe concentrarsi sui modelli e sugli sviluppatori di frontiera individuati attraverso benchmark delle capacità e sulla gestione del rapporto tra benefici e rischi della ricerca automatizzata, compresi i processi di recursive self-improvement.
Il CAISI può inoltre partire dall’International Network for Advanced AI Measurement, Evaluation, and Science, creato nel 2024 per riunire istituzioni pubbliche impegnate nella misurazione, valutazione e ricerca sull’intelligenza artificiale. La rete comprende organismi governativi di Australia, Canada, Unione Europea, Francia, Giappone, Kenya, Corea del Sud, Singapore, Regno Unito e Stati Uniti. Nel giugno 2025 il segretario al Commercio statunitense Howard Lutnick ha affidato al CAISI il compito di sviluppare linee guida e buone pratiche per misurare e migliorare la sicurezza dei sistemi AI e favorire la creazione di standard volontari da parte dell’industria. Nel dicembre 2025 i membri della rete, insieme a rappresentanti dell’industria e di organizzazioni tecniche, si sono incontrati a San Diego durante NeurIPS per discutere pratiche e questioni ancora aperte relative alle valutazioni automatizzate dei sistemi AI; il 13 febbraio 2026 sono state successivamente pubblicate alcune aree di consenso sulle modalità di esecuzione di queste valutazioni.
Gli standard risultanti dovrebbero creare una base tecnica comune per misurare e valutare le capacità dei modelli, analizzare i rischi e determinare se le misure di protezione adottate siano sufficienti. Non sarebbero però licenze, procedure obbligatorie di revisione prima del rilascio o sistemi di autorizzazione preventiva dei modelli. Resterebbe ai singoli governi nazionali la decisione se e come integrarli nei rispettivi ordinamenti giuridici. La definizione delle regole dovrebbe coinvolgere sviluppatori di modelli aperti e chiusi, esperti tecnici indipendenti e mondo accademico, attraverso procedure trasparenti e senza introdurre meccanismi capaci di favorire specifiche aziende, Paesi o modelli di business oppure di rendere più difficile l’ingresso sul mercato di nuovi operatori e sviluppatori di modelli open-weight.
Come riferimento organizzativo vengono indicati settori come l’aviazione e la stabilità finanziaria, nei quali diversi Paesi hanno costruito standard tecnici comuni e canali affidabili di cooperazione mantenendo comunque la propria autonomia nazionale. Il sistema dovrebbe inoltre coordinarsi con organizzazioni già operative nella standardizzazione e nella sicurezza dell’intelligenza artificiale, tra cui ISO, Frontier Model Forum, Agentic AI Foundation e Open Secure AI Alliance, oltre alla Appia Foundation, impegnata nello sviluppo di specifiche pratiche in grado di collegare gli standard internazionali alle valutazioni reali dei sistemi AI.
Una seconda componente fondamentale riguarda la definizione di sistemi comuni di misurazione e di protocolli condivisi per la gestione degli incidenti. Gli standard potrebbero specificare come valutare i progressi dell’intelligenza artificiale rilevanti per la recursive self-improvement e come misurare la quantità di ricerca autonoma svolta all’interno di una società che sviluppa AI. Dovrebbero inoltre stabilire quali attività di ricerca automatizzata richiedano una revisione umana immediata e come classificare, monitorare, comunicare e gestire gli incidenti legati all’allineamento o alla ricerca automatizzata. Tra gli strumenti previsti rientrerebbero livelli comuni di gravità degli incidenti e soglie condivise per determinarne l’obbligo di segnalazione.
Accanto agli standard tecnici, viene considerata necessaria anche la creazione di canali di comunicazione sicuri tra governi e operatori delle infrastrutture critiche. Questi sistemi dovrebbero permettere di condividere informazioni riguardanti problemi di sicurezza nazionale, nuove vulnerabilità, minacce emergenti e buone pratiche relative alla sicurezza dell’intelligenza artificiale di frontiera. In questo ambito viene indicato come potenzialmente utile anche un dialogo diretto tra Stati Uniti e Cina, soprattutto per affrontare rischi che richiedono una gestione coordinata indipendentemente dalla competizione tecnologica tra i due Paesi.
La proposta assegna agli Stati Uniti un ruolo di coordinamento internazionale soprattutto per la posizione occupata dall’industria statunitense nello sviluppo dei sistemi AI più avanzati e per il peso del Paese nelle reti globali legate a finanza, commercio, difesa, tecnologia e sistemi informativi. La gestione della velocità dello sviluppo dell’intelligenza artificiale non viene quindi intesa come il mantenimento di un ritmo prestabilito, ma come la necessità di fare in modo che la ricerca sull’allineamento e l’applicazione concreta delle relative misure di sicurezza procedano almeno alla stessa velocità delle nuove capacità dei modelli. Sul piano istituzionale, l’obiettivo è collegare una governance nazionale solida a forme pratiche di cooperazione internazionale, creando regole tecniche utilizzabili in Paesi differenti senza eliminare l’autonomia dei singoli governi e mantenendo contemporaneamente condizioni favorevoli all’innovazione e alla diffusione dei benefici dei sistemi AI avanzati.
Questo articolo è stato redatto con il supporto di strumenti di intelligenza artificiale (AI)