Anthropic ha avviato una collaborazione con Accenture per introdurre un sistema di valutazione indipendente dei modelli di intelligenza artificiale direttamente all’interno dei processi di sviluppo dell’azienda. Il progetto sarà guidato da Faculty, la divisione specializzata in AI di Accenture, e comprenderà attività di valutazione e red teaming dei modelli, verifiche sull’allineamento e test delle misure di sicurezza. Anthropic e Accenture prevedono inoltre di investire ciascuna almeno un miliardo di dollari nei prossimi cinque anni per sviluppare capacità, competenze e infrastrutture dedicate a questo tipo di verifica dei sistemi di frontiera.
L’elemento centrale dell’iniziativa è il modello di “embedded evaluation”, nel quale i valutatori indipendenti non operano esclusivamente dall’esterno dell’organizzazione sottoposta a verifica, ma lavorano al suo interno con un livello di accesso paragonabile a quello dei dipendenti. Questo dovrebbe consentire agli specialisti di osservare i modelli mentre vengono sviluppati e addestrati, seguire le decisioni che determinano le modalità con cui vengono costruiti e successivamente distribuiti e confrontarsi direttamente con il personale coinvolto nei diversi processi. L’accesso interno dovrebbe inoltre permettere di verificare il rispetto degli impegni di sicurezza, individuare eventuali aree non adeguatamente considerate e analizzare più direttamente il funzionamento dei processi organizzativi che accompagnano lo sviluppo dei modelli.
I valutatori potranno inoltre documentare eventuali incidenti e contribuire alla pubblicazione di informazioni sui rischi e sui benefici riscontrati. Il modello proposto prevede infatti che il gruppo esterno disponga di postazioni negli uffici, badge, computer aziendali e accesso a spazi di lavoro, strumenti e autorizzazioni in larga parte comparabili a quelli disponibili ai team interni incaricati della valutazione dei rischi. Le eccezioni riguarderanno, tra gli altri casi, informazioni la cui condivisione sia impedita dalla legge o da obblighi contrattuali e dati riservati appartenenti a clienti o partner. Anthropic precisa che l’introduzione di valutatori indipendenti non trasferisce a questi ultimi la responsabilità per la sicurezza dei modelli, che rimane in capo all’azienda, ma punta a rendere maggiormente verificabili le procedure adottate.
Un altro elemento riguarda l’autonomia con cui gli organismi esterni dovrebbero poter comunicare i risultati delle verifiche. L’impostazione delineata da Anthropic prevede il diritto dei revisori di pubblicare informazioni rilevanti sui livelli di rischio individuati, sugli incidenti osservati, sulle pratiche aziendali e sul livello di accesso effettivamente ricevuto, senza che Anthropic eserciti un controllo editoriale sui risultati. L’azienda manterrebbe una possibilità limitata di oscurare informazioni sensibili sotto il profilo della sicurezza, coperte da privilegio legale, commercialmente riservate o appartenenti a terzi, ma non potrebbe utilizzare questa possibilità semplicemente per eliminare conclusioni sfavorevoli. I valutatori potrebbero inoltre rendere noto quando una rimozione abbia interessato informazioni considerate importanti per le proprie conclusioni. Come riferimento per questo tipo di presenza continuativa all’interno di un’organizzazione viene richiamato anche il modello utilizzato nel settore bancario, dove gli organismi di supervisione possono operare direttamente accanto al personale degli istituti controllati.
Il sistema è ancora in fase iniziale e non esistono attualmente standard condivisi che stabiliscano quali informazioni debbano essere accessibili ai valutatori integrati o con quali modalità debbano essere comunicati i risultati. Non è stato definito neppure un meccanismo stabile per finanziare queste attività. Nel lungo periodo Anthropic ritiene che il finanziamento dovrebbe provenire da fondi comuni o da soggetti pubblici; in assenza di questi strumenti, l’azienda prevede però di utilizzare differenti modelli di finanziamento a seconda dell’organizzazione coinvolta. Nel caso di Accenture sarà Anthropic a sostenere direttamente i costi delle attività, mentre sono già in corso interlocuzioni con METR e con altri valutatori non profit per sperimentare alcuni elementi del sistema utilizzando forme di finanziamento indipendenti. L’obiettivo dichiarato è arrivare a un ecosistema composto da più valutatori che possano lavorare secondo standard condivisi.
L’accordo con Accenture non è esclusivo. Anthropic prevede di coinvolgere ulteriori organizzazioni di valutazione, alcune delle quali dovrebbero essere annunciate nelle prossime settimane, mentre Accenture potrà svolgere attività analoghe anche per altri sviluppatori di sistemi AI. L’impostazione prevede quindi che i laboratori che sviluppano modelli di frontiera possano essere affiancati contemporaneamente da più soggetti indipendenti, invece di affidarsi a un unico valutatore. Anthropic continuerà nel frattempo ad addestrare e rilasciare nuovi modelli di frontiera, facendo lavorare i valutatori parallelamente alle proprie attività di sviluppo, con un sistema destinato a essere modificato man mano che saranno definiti metodi, standard e procedure più consolidati.
L’iniziativa si inserisce inoltre in una collaborazione già esistente tra Anthropic e Accenture. Nel dicembre 2025 le due società avevano costituito l’Accenture Anthropic Business Group attraverso un accordo pluriennale che prevede la formazione di circa 30.000 professionisti Accenture sull’utilizzo di Claude e la disponibilità di Claude Code per decine di migliaia di sviluppatori della società. Le aziende avevano inoltre presentato un’offerta congiunta destinata ad aiutare i CIO a misurare il valore generato dall’intelligenza artificiale e ad accelerarne l’adozione nelle organizzazioni di sviluppo software, affiancandola a prime soluzioni rivolte a settori regolamentati come servizi finanziari, life science, sanità e pubblica amministrazione. Il nuovo programma estende quindi la collaborazione dall’adozione aziendale dei sistemi Anthropic alla verifica indipendente dei modelli durante il loro sviluppo e utilizzo.
Questo articolo è stato redatto con il supporto di strumenti di intelligenza artificiale (AI)