Con l’avanzamento rapido della ricerca e dell’adozione dell’intelligenza artificiale (IA), crescono anche i rischi associati a questa tecnologia. Per aiutare le organizzazioni a gestire questi rischi, i ricercatori del MIT e di altre istituzioni hanno creato l’AI Risk Repository, un database completo che documenta centinaia di rischi legati ai sistemi di IA. Questo repository è pensato per supportare i decisori in governo, ricerca e industria nella valutazione dei rischi emergenti dell’IA.
Fino ad ora, la documentazione e la classificazione dei rischi dell’IA sono state frammentate, con molti sistemi di classificazione diversi. “Il nostro obiettivo era ottenere una panoramica completa dei rischi dell’IA,” ha spiegato Peter Slattery del MIT FutureTech. “Abbiamo scoperto che le classificazioni esistenti erano incomplete, come pezzi di un puzzle.”
Il AI Risk Repository supera questa frammentazione integrando informazioni da 43 tassonomie esistenti, tra cui articoli scientifici, preprint, relazioni di conferenze e report. Questo processo ha portato alla creazione di un database con oltre 700 rischi documentati.
Il repository usa una classificazione bidimensionale:
- Classificazione Causale: I rischi sono classificati in base alla loro causa (responsabile umano o IA), intento (intenzionale o non intenzionale) e tempistica (pre-distribuzione o post-distribuzione).
- Classificazione Tematica: I rischi sono suddivisi in sette aree principali, come discriminazione, privacy e sicurezza, disinformazione, attori malintenzionati e uso improprio.
L’AI Risk Repository è una risorsa utile per le organizzazioni che sviluppano o utilizzano IA. Per esempio, un’azienda che crea sistemi di assunzione basati su IA può consultare il repository per identificare rischi di discriminazione e pregiudizi. Un’organizzazione che usa IA per moderare contenuti può esplorare il dominio della “Disinformazione” per sviluppare misure di sicurezza adeguate.
Il team di ricerca prevede di aggiornare regolarmente il database con nuovi rischi e risultati di ricerca, dimostrandosi non solo una risorsa pratica per le organizzazioni, ma anche un importante strumento per i ricercatori.
Il team di ricerca utilizzerà il repository per esplorare se ci sono aree di rischio trascurate e per garantire che il database rimanga utile e aggiornato con l’evoluzione dei rischi legati all’IA.