Mentre le aziende in ogni settore stanno adottando nuovi strumenti e tecnologie di intelligenza artificiale, emergono preoccupazioni da parte di leader e dipendenti riguardo all’affidabilità e ai rischi di tali sistemi. In risposta a queste sfide, Armilla Assurance, uno spin-off assicurativo di Armilla AI con sede a Toronto, ha lanciato un nuovo servizio di garanzia chiamato Armilla Guaranteed, volto a fornire certezza sulle prestazioni dei prodotti AI.
La questione della responsabilità dei sistemi basati sull’intelligenza artificiale e sull’apprendimento automatico non è più puramente ipotetica o isolata. Ad esempio, in eventi recenti, Facebook è stato giudicato perseguibile per algoritmi discriminatori, mentre la compagnia assicurativa State Farm e Wells Fargo sono state accusate di discriminazione razziale.
In un’intervista, Karthik Ramakrishnan, co-fondatore e CEO di Armilla Assurance, ha sottolineato che le cause legali sono già in corso e stanno emergendo varie problematiche legali relative all’intelligenza artificiale. Egli ritiene che i sistemi automatizzati usati per assistere le decisioni aziendali siano alla radice di tali problemi e per questo è fondamentale che i decision makers investano in prodotti sicuri e affidabili come Armilla Guaranteed.
Il nuovo servizio di Armilla si basa su due elementi fondamentali: una valutazione indipendente dei modelli di intelligenza artificiale, che se superata attribuirà uno status “verificato” agli sviluppatori di algoritmi, e una garanzia, Armilla Guaranteed, per proteggere gli acquirenti nel caso un modello “verificato” non raggiunga gli indicatori chiave di prestazione (KPI) prestabiliti.
Se un modello garantito non soddisfa i KPI, l’acquirente sarà rimborsato attraverso i partner riassicurativi di Armilla: Swiss Re, Greenlight Re e Chaucer. Hayley Maynard, responsabile di Innovazione a Chaucer, ha sottolineato l’importanza del settore (ri)assicurativo nel fornire copertura nei confronti dei rischi associati all’intelligenza artificiale e colmare l’esistente divario di protezione.
L’obiettivo è rafforzare la fiducia dei fornitori e dei clienti nelle soluzioni AI, affrontando direttamente questioni relative alla qualità, accuratezza e rischio. Ramakrishnan ha espresso che l’intenzione è di facilitare l’adozione di IA assicurando protezione e supporto, soprattutto nella fase iniziale della sua implementazione.
È essenziale chiarire che Armilla Guaranteed non è un’assicurazione di responsabilità civile, ma un prodotto di garanzia per consentire una migliore valutazione dei modelli. Il processo di valutazione di Armilla esamina sia aspetti qualitativi che quantitativi dei modelli in relazione al loro caso d’uso specifico, e le valutazioni possono essere completate in poche ore. I modelli che superano il processo ricevono il badge “Armilla Verificato”.
Ramakrishnan ha enfatizzato che offrono competenza nell’ambito della sottoscrizione, valutando e quantificando i rischi dei modelli in modo appropriato. Un esempio di collaborazione è dato dalla piattaforma di rimborso medico automatizzata BUDDI AI, che ha definito lavorare con Armilla un “momento decisivo”. BUDDI AI utilizza algoritmi di deep learning per convertire le cartelle cliniche dei pazienti in codici medici, riducendo i rifiuti del 60% e offrendo garanzie contrattuali con un’accuratezza superiore al 95% su codici medici e richieste di indennizzo.
Attualmente, i benchmark dei modelli BUDDI AI sono sostenuti dal servizio di verifica di prodotto Armilla e dalla garanzia Armilla Guaranteed. Affrontando le preoccupazioni sulla qualità e rischio dell’IA, Armilla Guaranteed si propone di promuovere l’adozione di soluzioni IA responsabili e affidabili, offrendo un modello per il settore in risposta alle crescenti preoccupazioni su come assicurare le prestazioni dei sistemi IA. Con il supporto assicurativo, mira a dare maggiore fiducia e protezione a venditori e clienti.
In ultima analisi, lo scudo offerto da questa garanzia è considerato da Ram Swaminathan, CEO e co-fondatore di BUDDI AI, come un elemento mancante che fornisce una protezione contro il rischio intrinseco e un conforto ai clienti per gli scenari “what if”. Secondo Swaminathan, questa offerta di garanzia è ciò che il settore dell’IA stava attendendo e ha notevolmente aiutato a ridurre i cicli di vendita con gli ospedali.