NuEnergy.ai, impresa canadese con base a Ottawa, specializzata nella governance dell’AI, ha ottenuto un brevetto USA per la sua tecnica Machine Trust Index (MTI), uno standard di misura per il monitoraggio dell’intelligenza artificiale.
Questo traguardo giunge in un momento di crescente competizione nel delicato e dinamico settore della trasparenza e dell’interpretabilità dell’AI, conferendo a NuEnergy un vantaggio competitivo e una protezione legale aggiuntiva. Il suo MTI, elaborato nel 2018, precede l’attuale boom degli investimenti nell’intelligenza artificiale generativa.
Harry Major, Vice Presidente del software presso NuEnergy, ha dichiarato in un comunicato della settimana scorsa: “L’AI sta rivoluzionando numerosi settori e potenziando l’efficienza attraverso innovazioni audaci. Ma, all’aumentare dell’integrazione di questi sistemi nel nostro quotidiano, è vitale assicurare un utilizzo etico e responsabile dei medesimi”.
Fondata nel 2017 da Niraj Bhargava e un insieme di esperti tecnologici e politici, NuEnergy ha compreso che le nuove sfide poste dall’AI necessitano di risposte concrete e multidisciplinari.
Bhargava ha spiegato in un’intervista esclusiva con VentureBeat: “Abbiamo scelto di dedicarci interamente alla governance e di agire come un ente terzo imparziale in materia, poiché molte società sostengono di padroneggiare l’etica e l’AI responsabile, ma governano e commercializzano il proprio AI, introducendo inevitabili bias”.
Inoltre, il fresco brevetto di NuEnergy, intitolato “Metodi e sistemi per misurare l’affidabilità relativa della tecnologia potenziata con algoritmi di apprendimento dell’intelligenza artificiale”, incarna ciò che Bhargava ha enunciato come la missione dell’azienda: “Spiegare alle persone non specializzate ciò che devono sapere in termini di precauzioni per l’AI”.
“Desideriamo valutare la affidabilità di un algoritmo di AI… in modo trasparente e confermabile”, ha aggiunto.
Pertanto, l’elaborazione di “analisi intricate in un semplice punteggio da zero a 100”, che, secondo Bhargava, “facilita la comprensione sia per le parti tecniche che per quelle non tecniche”, assume una posizione chiave.
MTI è, inoltre, strutturato per mantenere gli executive aziendali al corrente della fiducia nei tool AI della propria organizzazione perché, come ha detto Bhargava: “la governance riguarda il livello di consiglio di amministrazione”.
MTI valuta vari aspetti dei modelli e delle applicazioni AI, compresi privacy, equità, bias, sicurezza, e altro ancora.
Bhargava ha osservato che MTI può anche essere personalizzato “per il nostro cliente dell’organizzazione… non è una soluzione adatta a tutti”.
Per sostenere questo impegno, MTI può adattare parametri specifici per settori distinti come la sanità, i trasporti, le entità governative e altri, garantendo pertinenza e insight applicabili per ogni settore e azienda.
NuEnergy ha concepito metodi per una valutazione indiretta, fondamentali con la prevalenza di modelli AI “black box” integrati e opachi.
“Dedicare tanto tempo alle metodologie per le black box quanto per le white box”, ha dichiarato Bhargava a VentureBeat.
MTI fornisce un mezzo astratto di misurazione per gestire tematiche come bias, privacy e trasparenza, anche quando un esame diretto di un sistema AI non è fattibile a causa della sua natura insondabile.
“Abbiamo metodi per misurare gli input e gli output di modelli a cui potresti non avere accesso ai dati di training. Fondamentalmente, generiamo dati di test per ottenere l’indice di affidabilità della macchina”, ha dichiarato Bhargava.
Ulteriori misure vigilano sulla deriva del modello nel tempo e la conformità a standard come la Canadian Algorithmic Impact Assessment integrata nella loro piattaforma.
Mentre i sistemi autonomi proseguono la loro penetrazione in ogni ambito della vita contemporanea, il lavoro di NuEnergy stabilisce un prezioso paradigma che guida uno sviluppo etico e inclusivo.