Demis Hassabis, cofondatore e amministratore delegato di Google DeepMind, ritiene che l’intelligenza artificiale generale possa arrivare nel giro di pochi anni e ha proposto la creazione di un organismo statunitense incaricato di verificare i modelli AI più avanzati prima della loro distribuzione. L’obiettivo è sostituire gli interventi occasionali e le decisioni prese in emergenza con un sistema stabile di valutazione tecnica, capace di adattarsi rapidamente all’evoluzione delle capacità dei modelli.
Per AGI, Hassabis intende un sistema dotato dell’insieme delle capacità cognitive disponibili al cervello umano, e non soltanto un modello particolarmente efficace nella generazione di testi, immagini o codice. Secondo il responsabile di Google DeepMind, questa soglia potrebbe essere raggiunta in “pochi brevi anni”, mentre il settore si troverebbe già nelle prime fasi di quella che viene descritta come la singolarità tecnologica.
La velocità dello sviluppo rappresenta il punto centrale della proposta. Hassabis sostiene che le capacità dei sistemi AI stiano aumentando più rapidamente della comprensione dei loro effetti e della capacità delle istituzioni di predisporre strumenti adeguati. Le tecnologie attuali avrebbero già prodotto i primi segnali di rischio nel campo della cybersicurezza, ma entro circa 18 mesi modelli ancora più potenti potrebbero incorporare capacità pericolose anche nei settori biologico e nucleare.
Il problema non riguarderebbe soltanto i sistemi proprietari sviluppati dai maggiori laboratori. Modelli open source sufficientemente avanzati potrebbero essere copiati, modificati ed eseguiti al di fuori del controllo diretto delle aziende e dei governi. Una volta resi pubblicamente disponibili, sarebbe molto difficile limitarne la diffusione o impedire che determinate capacità vengano utilizzate per finalità dannose.
Hassabis propone quindi la costituzione di una Frontier AI Standards Authority guidata dagli Stati Uniti. Il modello organizzativo di riferimento sarebbe FINRA, la Financial Industry Regulatory Authority che supervisiona parte del settore finanziario statunitense. FINRA è un organismo privato finanziato dagli operatori del mercato, ma opera sotto la vigilanza della Securities and Exchange Commission. Una struttura simile permetterebbe di combinare competenze tecniche, finanziamento industriale e responsabilità nei confronti del governo.
La nuova autorità dovrebbe essere composta in maggioranza da membri indipendenti e includere alcuni dei maggiori esperti mondiali di intelligenza artificiale, tra cui vincitori del Premio Turing e ricercatori con competenze verificabili nei settori della sicurezza, dell’allineamento e della valutazione dei modelli. Nel consiglio dovrebbero essere rappresentati anche l’industria, il governo e la comunità open source, in modo da evitare che le regole vengano stabilite esclusivamente dalle grandi aziende tecnologiche o dalle autorità politiche.
L’organismo dovrebbe poter assumere ricercatori e ingegneri di altissimo livello, offrendo condizioni economiche adeguate a competere con i principali laboratori privati. Per Hassabis, una regolamentazione efficace dei modelli di frontiera richiede infatti personale capace di comprenderne realmente il funzionamento, progettare test avanzati e individuare rischi che non emergono attraverso controlli amministrativi tradizionali.
In una prima fase, i laboratori AI parteciperebbero volontariamente al programma. Le aziende sottoporrebbero i propri modelli all’autorità fino a 30 giorni prima del rilascio previsto, consentendo agli esperti di eseguire valutazioni indipendenti. Il periodo dovrebbe essere sufficientemente lungo da permettere test approfonditi, ma abbastanza breve da non rallentare eccessivamente l’innovazione e la competizione tra gli sviluppatori.
I controlli riguarderebbero soprattutto le capacità che possono produrre conseguenze gravi per la sicurezza nazionale e internazionale. Tra queste rientrano l’individuazione e lo sfruttamento automatizzato di vulnerabilità informatiche, la progettazione o il potenziamento di agenti biologici, l’accesso a conoscenze utilizzabili in ambito nucleare e la capacità dei modelli di ingannare intenzionalmente gli utenti o nascondere il proprio comportamento durante le valutazioni.
La verifica non dovrebbe limitarsi all’analisi delle barriere di sicurezza inserite dal produttore. L’autorità avrebbe il compito di sottoporre i modelli a stress test, tentare di aggirarne le protezioni e controllare se le misure dichiarate dall’azienda resistano a utenti esperti, attacchi automatizzati e procedure di jailbreak particolarmente avanzate.
In caso di risultati preoccupanti, l’organismo potrebbe chiedere al produttore di rafforzare le protezioni, limitare determinate funzionalità o rinviare la distribuzione del sistema. Qualora emergessero minacce particolarmente gravi, dovrebbe inoltre poter coordinare un rallentamento comune tra i principali laboratori, evitando che una singola azienda continui a sviluppare o pubblicare un modello mentre le concorrenti sospendono volontariamente le proprie attività.
La fase iniziale avrebbe lo scopo di verificare che il sistema di test sia realmente efficace, robusto e indipendente. Una volta dimostrata la validità del metodo, la partecipazione volontaria potrebbe essere sostituita da un regime obbligatorio. I modelli classificati come frontier AI dovrebbero quindi superare la valutazione prima di poter essere distribuiti nel mercato statunitense.
Le regole si applicherebbero a tutti i modelli che superano determinate soglie di capacità, indipendentemente dal Paese in cui sono stati sviluppati e dal fatto che siano proprietari oppure open source. Un’azienda straniera che volesse distribuire negli Stati Uniti un sistema particolarmente potente dovrebbe quindi rispettare gli stessi requisiti previsti per Google DeepMind, OpenAI, Anthropic e gli altri operatori statunitensi.
La definizione di modello di frontiera non dovrebbe essere legata a un numero fisso di parametri, alla quantità di potenza di calcolo utilizzata o a una particolare architettura. Hassabis propone invece di basare la classificazione sulle capacità effettive del sistema, valutate attraverso benchmark aggiornati periodicamente. Questo permetterebbe di includere modelli più piccoli ma particolarmente efficienti e di evitare che soglie tecniche statiche diventino rapidamente obsolete.
Il superamento della verifica potrebbe trasformarsi anche in un elemento di prestigio per i produttori. Un modello sottoposto ai controlli dell’autorità verrebbe riconosciuto come appartenente alla fascia più avanzata del settore e come conforme a standard di sicurezza indipendenti. L’esame preventivo potrebbe quindi essere percepito non soltanto come un obbligo, ma anche come una certificazione utile per rafforzare la fiducia di imprese, governi e utenti.
Hassabis ha discusso la proposta con l’amministrazione statunitense, con altri responsabili dei principali laboratori AI e con rappresentanti europei prima di presentarla pubblicamente. Il riscontro ricevuto sarebbe stato positivo e, secondo il responsabile di DeepMind, esisterebbe già un accordo generale tra le maggiori aziende sulla necessità di un sistema di supervisione più strutturato.
La tempistica indicata è particolarmente rapida. L’obiettivo sarebbe avviare il nuovo organismo nel giro di pochi mesi e renderlo operativo entro la fine del 2026. Hassabis ritiene infatti che il settore non disponga del tempo necessario per attendere la costruzione di un’autorità internazionale completa attraverso lunghi negoziati multilaterali. Gli Stati Uniti dovrebbero iniziare con una struttura nazionale aperta alla cooperazione internazionale e trasformarla progressivamente nel punto di riferimento per standard condivisi a livello globale.
La proposta nasce anche dalle difficoltà emerse durante recenti interventi governativi nei confronti dei modelli più avanzati. Le autorità statunitensi hanno adottato misure immediate nei confronti di alcuni sistemi di Anthropic dopo la comparsa di preoccupazioni legate alla sicurezza, ma il processo si è svolto senza regole consolidate, procedure di test comuni o un protocollo già definito.
Anthropic avrebbe dovuto negoziare per circa due settimane e mezzo la possibilità di distribuire nuovamente i propri modelli più potenti dopo un blocco imposto attraverso strumenti di controllo delle esportazioni. OpenAI, per evitare una situazione analoga, avrebbe inizialmente limitato l’accesso a GPT-5.6 a partner approvati dal governo, prima di ottenere la possibilità di distribuirlo più ampiamente dopo verifiche e trattative con il Dipartimento del Commercio.
Per Hassabis, questi episodi dimostrano che il governo non può continuare a intervenire caso per caso attraverso provvedimenti improvvisati. I laboratori hanno bisogno di conoscere in anticipo quali test verranno applicati, quali soglie devono essere rispettate e quali procedure seguire quando vengono individuate capacità pericolose. Anche le autorità pubbliche necessitano di una struttura tecnica permanente che permetta di prendere decisioni basate su valutazioni riproducibili.
La proposta di Google DeepMind presenta punti di contatto con quella avanzata dal CEO di Anthropic Dario Amodei, favorevole a una regolamentazione vincolante dei modelli più potenti. Amodei ha indicato come possibile riferimento la Federal Aviation Administration, un’autorità pubblica dotata del potere di impedire l’utilizzo di tecnologie considerate non sicure. Le due impostazioni concordano quindi sulla necessità di controlli obbligatori, ma differiscono nella struttura istituzionale: Hassabis preferisce un organismo finanziato dall’industria e vigilato dal governo, mentre Amodei attribuirebbe l’autorità direttamente a un’agenzia federale.
La funzione del nuovo organismo non dovrebbe però limitarsi a bloccare i modelli pericolosi. Hassabis sostiene che standard chiari e test condivisi possano favorire anche l’innovazione, riducendo l’incertezza per le aziende e permettendo agli sviluppatori di conoscere preventivamente i requisiti necessari alla distribuzione. Un sistema trasparente potrebbe inoltre evitare che la regolamentazione venga utilizzata in modo arbitrario o come strumento per favorire alcuni operatori rispetto ad altri.
La necessità di una supervisione più forte viene collegata alla portata potenziale dell’AGI. Hassabis considera l’intelligenza artificiale una tecnologia capace di modificare la società con una velocità e un’intensità superiori a quelle della Rivoluzione industriale. Le conseguenze potrebbero interessare la medicina, la scoperta di nuovi farmaci, la produzione energetica, la ricerca scientifica, il lavoro, l’economia e l’organizzazione politica.
L’impatto, tuttavia, non dovrebbe essere discusso esclusivamente da ingegneri, ricercatori e dirigenti delle aziende tecnologiche. La società dovrebbe iniziare a confrontarsi sulle trasformazioni economiche, filosofiche ed etiche che potrebbero derivare dalla presenza di sistemi dotati di capacità cognitive paragonabili o superiori a quelle umane.
Tra le questioni da affrontare rientrano la distribuzione dei benefici economici, il significato del lavoro, il controllo delle infrastrutture intelligenti e la definizione dei valori che dovranno guidare sistemi sempre più autonomi. Per Hassabis, il periodo attuale rappresenta una finestra particolarmente preziosa: i modelli non hanno ancora raggiunto l’AGI, ma sono già sufficientemente avanzati da rendere visibili sia le opportunità sia i rischi.
La proposta della Frontier AI Standards Authority punta quindi a utilizzare questa finestra per costruire un sistema di controllo prima che le capacità più pericolose diventino ampiamente disponibili. L’idea è intervenire mentre i principali modelli sono ancora sviluppati da un numero relativamente limitato di laboratori e possono essere sottoposti a verifiche preventive, anziché tentare di imporre controlli dopo la diffusione globale di sistemi impossibili da ritirare.
Hassabis descrive il risultato ottenuto dall’intelligenza artificiale contemporanea come la capacità di “far pensare la sabbia”, riferendosi ai materiali semiconduttori da cui derivano i chip. La stessa tecnologia che considera straordinaria richiederebbe però istituzioni all’altezza delle sue conseguenze. Le decisioni adottate in questa fase potrebbero determinare non soltanto la direzione dell’industria AI, ma il modo in cui si svilupperà la prossima fase della civiltà.