5 pilastri fondamentali per garantire un’IA responsabile
Stiamo assistendo a una crescita travolgente nei sistemi AI / ML per elaborare oceani di dati generati nella nuova economia digitale. Tuttavia, con questa crescita, è necessario considerare seriamente le implicazioni etiche e legali dell’IA.
Poiché affidiamo compiti sempre più sofisticati e importanti ai sistemi di IA, come ad esempio l’approvazione automatica del prestito, dobbiamo essere assolutamente certi che questi sistemi siano responsabili e affidabili. La riduzione dei pregiudizi nell’IA è diventata una vasta area di interesse per molti ricercatori e ha enormi implicazioni etiche, così come la quantità di autonomia che diamo a questi sistemi.
Il concetto di intelligenza artificiale responsabile è un framework importante che può aiutare a creare fiducia nelle distribuzioni di intelligenza artificiale. Ci sono cinque pilastri fondamentali fondamentali per l’AI responsabile. Questo articolo li esplorerà per aiutarti a costruire sistemi migliori.
- Riproducibilità
C’è un vecchio detto nel mondo dello sviluppo software che dice: “ehi, funziona sulla mia macchina” In ML e AI, la frase potrebbe essere modificata per essere: “ehi, funziona sul mio set di dati”. Questo per dire che i modelli di machine learning possono spesso tendere ad essere una scatola nera. Molti set di dati di formazione possono avere pregiudizi intrinseci come errori di campionamento o errori di conferma che riducono l’accuratezza del prodotto finale.
Per contribuire a rendere i sistemi AI / ML più riproducibili, e quindi accurati e affidabili, il primo passo è standardizzare la pipeline MLOps. Anche i data scientist più intelligenti hanno le loro tecnologie e librerie preferite, il che significa che l’ingegneria delle caratteristiche e i modelli risultanti non sono uniformi da persona a persona. Utilizzando strumenti come MLflow, è possibile standardizzare la pipeline MLOps e ridurre queste differenze.
Un altro modo per contribuire a rendere i sistemi AI / ML più riproducibili è attraverso l’uso di quelli che vengono chiamati “set di dati d’oro”. Si tratta di set di dati rappresentativi che fungono essenzialmente da test e convalida di nuovi modelli prima che vengano rilasciati per la produzione.
- Trasparenza
Come affermato in precedenza, molti modelli ML, in particolare le reti neurali, sono scatole nere. Per renderli più responsabili, dobbiamo renderli più interpretabili. Per sistemi semplici come gli alberi decisionali, è abbastanza facile capire come e perché il sistema ha preso una certa decisione, ma, man mano che la precisione e la complessità di un sistema di intelligenza artificiale aumentano, la sua interpretabilità spesso diminuisce.
C’è una nuova area di ricerca chiamata “spiegabilità” che sta cercando di portare trasparenza anche ai sistemi di IA complessi come le reti neurali e il deep learning . Questi utilizzano modelli proxy per copiare le prestazioni di una rete neurale, ma cercano anche di fornire spiegazioni valide di quali caratteristiche siano importanti.
Tutto questo porta all’equità; vuoi sapere perché viene presa una certa decisione e assicurarti che questa decisione sia giusta. Vuoi anche assicurarti che le caratteristiche inappropriate non vengano considerate in modo che i pregiudizi non si insinuino nel tuo modello.
- Responsabilità
Forse l’aspetto più importante dell’IA responsabile è la responsabilità. C’è molta conversazione su questo argomento, anche nel settore governativo, poiché si occupa di quali politiche guideranno i risultati dell’IA. Questo approccio guidato dalla politica determina in quale fase gli esseri umani dovrebbero essere coinvolti.
La responsabilità richiede monitor e metriche robusti per guidare i responsabili delle politiche e controllare i sistemi AI / ML. La responsabilità lega davvero insieme riproducibilità e trasparenza, ma necessita di una supervisione efficace sotto forma di comitati etici dell’IA. Questi comitati possono gestire le decisioni politiche, decidere cosa è importante misurare e condurre verifiche dell’equità.
- Sicurezza
La sicurezza dell’IA si concentra sulla riservatezza e l’integrità dei dati. Quando i sistemi elaborano i dati, vuoi che siano in un ambiente sicuro. Si desidera che i dati vengano crittografati sia quando sono a riposo nel database sia mentre vengono chiamati tramite la pipeline, ma esistono ancora vulnerabilità mentre vengono inseriti in un modello di apprendimento automatico come testo normale. Tecnologie come la crittografia omomorfica risolvono questo problema consentendo la formazione di machine learning in un ambiente crittografato.
Un altro aspetto è la sicurezza del modello stesso. Ad esempio, gli attacchi di inversione del modello consentono agli hacker di apprendere i dati di addestramento utilizzati per creare il modello. Esistono anche attacchi di avvelenamento del modello, che inseriscono dati errati nel modello durante l’addestramento e ne danneggiano completamente le prestazioni. Testare il tuo modello per gli attacchi del contraddittorio come questi può mantenerlo sicuro e protetto.
- Privacy
Google e OpenMined sono due organizzazioni che di recente hanno dato la priorità alla privacy AI e OpenMined ha ospitato una recente conferenza proprio su questo argomento. Con nuove normative come GDPR e CCPA, e potenzialmente altre in arrivo, la privacy giocherà un ruolo centrale nel modo in cui addestriamo i modelli di apprendimento automatico.
Un modo per assicurarti di gestire i dati dei tuoi clienti in modo consapevole della privacy è utilizzare l’ apprendimento federato . Questo metodo decentralizzato di machine learning addestra diversi modelli a livello locale, quindi aggrega ogni modello in un hub centrale mantenendo i dati al sicuro, protetti e privati. Un altro metodo consiste nell’introdurre il rumore statistico in modo che i valori individuali dei clienti non vengano diffusi. Ciò ti consente di lavorare con l’aggregato in modo che i dati di un individuo siano intatti e non disponibili per l’algoritmo.
Mantenere l’IA responsabile
In definitiva, mantenere l’IA responsabile dipende da ogni organizzazione che progetta sistemi AI / ML. Perseguendo intenzionalmente le tecnologie all’interno di ciascuno di questi cinque aspetti dell’IA responsabile, non solo puoi trarre vantaggio dal potere dell’intelligenza artificiale, ma puoi farlo in modo affidabile e diretto che rassicurerà la tua organizzazione, i clienti e le autorità di regolamentazione.
