I ricercatori di Google stanno introducendo un nuovo cambiamento nel campo dell’intelligenza artificiale insegnando alle macchine a dire “non lo so”. Questo innovativo approccio, chiamato ASPIRE, potrebbe avere un impatto significativo sul modo in cui interagiamo con le nostre assistenti digitali, incoraggiandole a esprimere dubbi quando non sono certe di una risposta.
La presentazione di questa innovazione è avvenuta alla conferenza EMNLP 2023 ed è finalizzata a introdurre una maggiore cautela nelle risposte dell’IA. L’acronimo ASPIRE sta per “Adattamento con Autovalutazione per Migliorare la Previsione Selettiva nei Modelli Linguistici”, e funge da strumento integrato di valutazione della fiducia per le macchine intelligenti, aiutandole a valutare la sicurezza delle proprie risposte prima di fornirle.
Per comprendere meglio il concetto, immagina di chiedere consiglio al tuo smartphone su una questione di salute. Invece di ricevere una risposta potenzialmente errata, l’IA potrebbe rispondere con un semplice “Non sono sicuro”, grazie a ASPIRE. Questo sistema addestra l’IA a assegnare un punteggio di fiducia alle proprie risposte, indicando chiaramente quanto dovremmo fidarci della sua risposta.
Il team dietro questa innovazione, tra cui Jiefeng Chen e Jinsung Yoon di Google, sta aprendo la strada verso un processo decisionale digitale più affidabile. Essi sostengono che sia fondamentale per l’IA, soprattutto quando si tratta di informazioni critiche, riconoscere i propri limiti e comunicarli in modo trasparente.
Chen, ricercatore presso l’Università del Wisconsin-Madison e coautore dello studio, ha sottolineato: “I Modelli Linguistici di Grandi Dimensioni ora sono in grado di comprendere e generare linguaggio in modo senza precedenti, ma il loro utilizzo in applicazioni ad alto rischio è limitato a causa delle potenziali inesattezze”. La loro ricerca suggerisce che anche i modelli di intelligenza artificiale più piccoli dotati di ASPIRE possono superare quelli più grandi privi di questa capacità introspettiva. In sostanza, ASPIRE crea un’intelligenza artificiale più cauta e, sorprendentemente, più affidabile, in grado di riconoscere quando un essere umano potrebbe essere più adatto a rispondere.