Dario Amodei, CEO di Anthropic ha proposto un approccio normativo per l’intelligenza artificiale ispirato ai meccanismi di certificazione utilizzati nel settore aeronautico, sostenendo che i modelli AI più potenti dovrebbero essere sottoposti a verifiche indipendenti prima della distribuzione pubblica. La proposta riguarda esclusivamente i sistemi di frontiera più avanzati e non l’intero ecosistema delle applicazioni AI.
L’idea centrale consiste nell’introdurre procedure di valutazione analoghe a quelle adottate dalla Federal Aviation Administration per gli aeromobili. In questo modello, gli sviluppatori continuerebbero a progettare e addestrare i propri sistemi, ma i modelli che superano determinate soglie di capacità dovrebbero affrontare controlli esterni focalizzati sull’identificazione di rischi sistemici, comportamenti imprevisti e potenziali utilizzi dannosi prima del rilascio commerciale.
Secondo Anthropic, le attuali iniziative basate principalmente sulla trasparenza volontaria non sarebbero sufficienti per gestire la nuova generazione di modelli foundation. La società sostiene la necessità di test indipendenti obbligatori per i sistemi più potenti, con particolare attenzione alle capacità che potrebbero influenzare infrastrutture critiche, cybersicurezza, ricerca scientifica avanzata o altri ambiti considerati ad alto impatto.
Un simile schema normativo richiederebbe la definizione di benchmark standardizzati, procedure di red teaming esterne, audit delle capacità emergenti e processi formali di documentazione tecnica. I laboratori AI dovrebbero quindi dimostrare non soltanto le prestazioni dei propri modelli, ma anche la capacità di monitorarne il comportamento, applicare controlli di sicurezza e mitigare eventuali rischi identificati durante le fasi di valutazione.
Per le aziende che adottano modelli foundation, una regolazione di questo tipo potrebbe tradursi nella disponibilità di sistemi accompagnati da certificazioni, valutazioni indipendenti e documentazione più dettagliata sulle capacità e sui limiti operativi. Questo approccio potrebbe facilitare i processi di governance interna, conformità normativa e gestione del rischio, aspetti che stanno assumendo crescente importanza man mano che gli agenti AI vengono integrati in workflow aziendali sempre più critici.
La proposta si inserisce in un dibattito più ampio sul controllo dei modelli frontier, alimentato dalla crescente velocità di sviluppo dell’intelligenza artificiale generativa. Anthropic sostiene che i sistemi futuri potrebbero raggiungere livelli di autonomia e capacità significativamente superiori a quelli attuali e che, per questo motivo, la supervisione dovrebbe evolvere da semplici obblighi di trasparenza verso meccanismi di verifica preventiva simili a quelli utilizzati nei settori industriali dove sicurezza e affidabilità rappresentano requisiti fondamentali prima dell’immissione sul mercato.