IBM commercializza i suoi fogli informativi sull’IA. Potrebbe diventare uno standard del settore?
IBM ha recentemente annunciato la commercializzazione dei suoi FactSheets AI, che sono stati introdotti per la prima volta nel 2018. In una versione ufficiale, la società ha scritto che prevede di “commercializzare funzionalità di documentazione automatizzata chiave dalla metodologia AI FactSheets di IBM Research in Watson Studio in Cloud Pak for Data per tutto il 2021 “.
Questa scheda informativa fornirà alle aziende una struttura per definire come utilizzare l’AI, misurare le prestazioni di un modello e generare report sulla trasparenza interna ed esterna.
Può una simile scheda informativa di IBM diventare uno standard del settore?
Che cos’è IBM FactSheet e perché è necessario?
Alcuni dei fattori più importanti da considerare per ottenere fiducia nell’IA sono: equità, sicurezza, spiegabilità, affidabilità e responsabilità. Oltre a questi fattori, deve essere accompagnato dall’avere un parametro rispetto al quale vengono misurati i modelli. Molto di questo potrebbe essere attribuito al crescente utilizzo di modelli e servizi di intelligenza artificiale, anche in situazioni ad alto rischio come la valutazione del rischio finanziario, la diagnosi medica, l’acquisizione di talenti, la polizia e la governance.
In primo luogo proposto nel 2018, gli autori di IBM AI schede informative s’hanno sostenuto che ogni sviluppatore di servizio AI e il fornitore devono rilasciare una dichiarazione del fornitore di conformità al fine di assicurare la trasparenza e la fiducia. In effetti, tale scheda informativa era simile alle etichette nutrizionali che si possono trovare sugli alimenti o sui fogli informativi degli elettrodomestici. “Standardizzare e pubblicizzare queste informazioni è fondamentale per creare fiducia nei servizi di intelligenza artificiale in tutto il settore”, aveva poi osservato IBM.
Insieme a questo, le schede informative includono suggerimenti iniziali, informazioni sul funzionamento del sistema, algoritmi utilizzati, configurazione dei test, benchmark delle prestazioni e controlli di equità e robustezza.
Con il recente annuncio di IBM , questo strumento AI FactSheet integrerà IBM Cloud Pak for Data. In particolare, IBM ha anche aggiunto nuove funzionalità per Cloud Pak for Data per fornire una base per l’AI da eseguire su qualsiasi cloud, fornendo al contempo governance e sicurezza migliorate. Ciò garantirà l’apprendimento federato per facilitare l’addestramento del modello su set di dati distribuiti garantendo la sicurezza.
Offerta FactSheets AI:
L’ambito della creazione di politiche che definisce quali informazioni vengono raccolte sui modelli, chi può utilizzare il modello e per quale scopo e il modo in cui dovrebbe funzionare.
I FactSheets AI sono progettati per aiutare ad acquisire automaticamente i fatti del modello come descritto in dettaglio nel modello FactSheet durante il ciclo di vita dell’IA.
Questi FactSheets possono offrire conoscenze sul modello AI in più formati a seconda delle preferenze dell’utente e del pubblico esterno.
Alcune delle domande dai FactSheets di IBM includono:
Se il set di dati utilizzato per l’addestramento dispone di un foglio dati o di un’istruzione dati?
Quali sono le politiche di bias rispetto alle quali è stato controllato il set di dati per eventuali bias?
Qual è l’utente di destinazione per la spiegazione: esperto di machine learning, esperto di dominio, consumatore o regolatore
Qual è la metodologia di test seguita?
Politiche di robustezza seguite per garantire la protezione del modello da possibili attacchi avversari.
Comportamenti previsti se l’input devia dai dati di addestramento / test
Come viene monitorato il flusso di lavoro complessivo per il servizio AI?
Inoltre, per valutare la qualità della scheda informativa, IBM ha anche sviluppato una serie di dimensioni di qualità che si basano su ricerche precedenti nello sviluppo del software e nella comunicazione.
Può diventare uno standard del settore?
Per implementare e scalare l’IA, le aziende devono investire la loro fiducia nei loro modelli e nei risultati di business dell’intero ciclo di vita dell’IA. IBM afferma che il nuovo annuncio di commercializzazione dei FactSheets AI su Watson fornirà un facile accesso ai clienti del loro portafoglio completo di soluzioni di governance AI, che a sua volta aumenterà la trasparenza, gestirà i rischi e stabilirà la fiducia sui modelli AI.
È vero che, a parte un tale FactSheet, non esiste uno standard per spiegare o stabilire le capacità di un modello di intelligenza artificiale. Costringe i clienti a prendere una decisione disinformata e ad andare con il consenso comune. Quindi, naturalmente, una scheda informativa standardizzata sulla falsariga di IBM FactSheet aiuterà ad affrontare indirettamente i problemi, come suggerito anche dagli esperti del settore.
