Il giorno dopo la nomina di un importante assistente alla Casa Bianca come direttore del nuovo US AI Safety Institute (USAISI) presso il National Institute of Standards and Technology (NIST), l’amministrazione Biden ha annunciato la creazione dell’US AI Safety Institute Consortium (AISIC), considerato il primo consorzio dedicato alla sicurezza dell’intelligenza artificiale.
Questo consorzio conta più di 200 aziende e organizzazioni membri, dalle grandi società tecnologiche come Google, Microsoft e Amazon, alle società leader in modelli linguistici di grandi dimensioni (LLM) come OpenAI, Cohere e Anthropic, fino a vari laboratori di ricerca, organizzazioni civili, accademie, governi statali e locali, e organizzazioni non profit.
L’AISIC si propone di essere il più grande insieme di team di test e valutazione mai istituiti fino ad oggi, con un focus sulla creazione di una nuova scienza delle misurazioni nella sicurezza dell’IA. Operando sotto l’USAISI, contribuirà alle azioni prioritarie delineate dall’ordine esecutivo del presidente Biden, tra cui lo sviluppo di linee guida per il red-teaming, valutazioni delle capacità, gestione del rischio, sicurezza e protezione, e watermarking dei contenuti sintetici.
Il Consorzio è stato annunciato come parte dell’Ordine Esecutivo sull’IA, e il suo sviluppo è stato comunicato il 31 ottobre 2023. La partecipazione è aperta a tutte le organizzazioni interessate che possono contribuire con competenze, prodotti, dati e/o modelli alle attività del Consorzio.
I partecipanti, selezionati tramite un Accordo di Ricerca e Sviluppo Cooperativo del Consorzio (CRADA) con il NIST e tenuti a versare una quota annuale di $1000, lavoreranno su linee guida chiave, inclusa la creazione di nuove metodologie e strumenti per l’uso sicuro dell’intelligenza artificiale, nonché lo sviluppo di linee guida per valutare e gestire le capacità dell’IA che potrebbero causare danni.
Tuttavia, i dettagli sui finanziamenti per l’US AISI non sono chiari. Nonostante le richieste di finanziamento, come quella di 10 milioni di dollari da un gruppo bipartisan di senatori e le critiche per la mancanza di trasparenza nei processi di sovvenzione del NIST, rimane incerto da dove verranno i finanziamenti.
In un’intervista, Rumman Chowdhury, che ha esperienza nell’ambito dell’intelligenza artificiale presso Accenture e Twitter, ha evidenziato le sfide di finanziamento per l’US AISI, sottolineando che nonostante il mandato, l’ordine esecutivo non ha fornito finanziamenti adeguati per supportare l’iniziativa.