Un nuovo whitepaper di TÜV AUSTRIA e dell’Institute for Machine Learning della Johannes Kepler University (JKU) ha stabilito una metodologia di certificazione per gli algoritmi di intelligenza artificiale (AI).
Il documento riconosce innanzitutto come l’intelligenza artificiale sia una delle aree tematiche in più rapida crescita in tutto il mondo, essendo dietro a molte applicazioni quotidiane che coinvolgono il riconoscimento delle immagini, i sistemi di raccomandazione, i chatbot, la diagnostica o le previsioni.
Prosegue poi sollevando queste domande:
Questa intelligenza artificiale è affidabile e sicura?
L’IA svolge la funzione che ci si aspetta?
L’uso dell’IA apporta il valore aggiunto atteso?
I dati di allenamento sono puliti e utilizzati correttamente?
La grande quantità di dati sensibili viene gestita con attenzione?
I nuovi metodi di certificazione sviluppati da TÜV AUSTRIA e JKU mirano a supportare i produttori nello sviluppo di modelli di apprendimento automatico sicuri, affidabili e di alta qualità. Offriranno inoltre agli utenti un marchio di qualità per sistemi di intelligenza artificiale affidabili.
Il professor Sepp Hochreiter è direttore del Machine Learning Institute.
“L’apprendimento automatico è attualmente la tecnologia abilitante più importante e avrà un’enorme influenza sul nostro ambiente tecnico e su tutta la nostra vita, sulla società, a lungo termine”, afferma il professor Hochreiter. “Pertanto, è ancora più importante rafforzare la fiducia dei consumatori in questa tecnologia attraverso la certificazione delle applicazioni di machine learning. Ecco perché siamo lieti di essere coinvolti nella definizione dei criteri di qualità necessari”.
Il professor Hochreiter ha una reputazione mondiale quando si tratta di intelligenza artificiale e ha svolto un ruolo chiave nell’implementazione della prima cattedra di apprendimento automatico in Austria e del primo diploma di intelligenza artificiale presso la JKU Linz. È anche membro del consiglio di amministrazione di ELLIS, una rete di eccellenza dei migliori scienziati europei nel campo dell’apprendimento automatico.
Certificare le applicazioni
Il primo livello di successo, secondo il whitepaper, è già stato raggiunto. Le applicazioni di apprendimento supervisionato nel rischio basso-medio possono già essere certificate.
DI.Dr. Stefan Haas è CEO del Gruppo TÜV AUSTRIA.
“Abbiamo iniziato a realizzare i primi progetti di certificazione, per cui le applicazioni si trovano principalmente in ambito industriale ma anche nel settore consumer. Nelle prossime fasi della cooperazione allo sviluppo, gli attuali approcci saranno ampliati per poter certificare applicazioni critiche per la sicurezza, basate su uno spettro più ampio di metodi di apprendimento automatico”, afferma DI.Dr. Haas. “Siamo particolarmente lieti di avere al nostro fianco il JKU Machine Learning Institute come partner altamente competente e riconosciuto a livello internazionale per questa impresa impegnativa”.
La certificazione prevede che i modelli di machine learning e i loro processi di sviluppo vengano verificati in dettaglio in più dimensioni. Ciò significa che non vengono esaminate solo le funzioni effettive e l’affidabilità dei modelli addestrati, ma anche la sicurezza del software e il suo processo di sviluppo. C’è anche un esame di come i dati personali vengono gestiti in modo confidenziale e altre questioni etiche.
