Un team del Korea Advanced Institute of Science and Technology, KAIST, ha sviluppato Neural Value Alignment, o NVA, una tecnologia di interfaccia cervello-computer progettata per permettere a un sistema di intelligenza artificiale di modificare il proprio comportamento in tempo reale sulla base delle risposte cerebrali dell’utente. Il progetto è stato realizzato dal gruppo guidato dal professor Sangwan Lee, docente di Brain and Cognitive Sciences e direttore del Neuroscience-AI Convergence Research Center del KAIST, in collaborazione con Microsoft Research Asia. L’obiettivo è superare uno dei principali limiti dei sistemi AI che cercano di inferire le intenzioni umane esclusivamente da segnali esterni come linguaggio, azioni e gesti, utilizzando invece anche informazioni cognitive rilevate direttamente tramite elettroencefalografia.
La difficoltà nasce dal fatto che un medesimo comportamento osservabile può corrispondere a obiettivi differenti. Il gesto di prendere una tazza, ad esempio, può indicare l’intenzione di bere oppure quella di porgerla a un’altra persona, e dall’azione isolata non è necessariamente possibile distinguere le due finalità. Questa ambiguità tra comportamento e obiettivo può portare un sistema AI a interpretare in modo errato ciò che l’utente desidera, obbligandolo successivamente a ripetere il comando o a correggere esplicitamente il comportamento del sistema. Neural Value Alignment cerca di ridurre questa dipendenza dal feedback verbale sfruttando invece le risposte neurali che si manifestano quando una persona osserva un risultato diverso da quello previsto.
Il gruppo di ricerca si è concentrato in particolare sugli errori di previsione generati inconsciamente dal cervello davanti a eventi inattesi. Quando un sistema AI esegue un’azione considerata errata dall’utente, l’attività cerebrale può infatti mostrare segnali riconducibili alla discrepanza tra ciò che la persona si aspettava e ciò che è realmente accaduto. I ricercatori hanno distinto due componenti. Il Reward Prediction Error, RPE, viene associato ai casi in cui il sistema ha interpretato in modo errato l’obiettivo finale dell’utente, mentre lo State Prediction Error, SPE, riguarda le situazioni nelle quali l’obiettivo è corretto ma il percorso, lo stato intermedio o il metodo utilizzato per raggiungerlo non corrispondono alle aspettative della persona.
Per verificare questa distinzione, i ricercatori hanno registrato mediante EEG l’attività cerebrale di partecipanti che osservavano un sistema AI mentre eseguiva un compito. I risultati hanno mostrato pattern differenti quando il sistema sbagliava l’obiettivo rispetto ai casi in cui raggiungeva l’obiettivo corretto attraverso una procedura considerata inappropriata. Sono stati inoltre individuati segnali caratteristici per le situazioni nelle quali RPE e SPE si presentavano contemporaneamente. Queste differenze consentono quindi di ottenere dal segnale EEG informazioni non soltanto sulla presenza generica di un errore percepito, ma anche sulla natura della discrepanza rilevata dall’utente.
Il team ha quindi applicato tecniche di deep learning per classificare automaticamente queste risposte neurali e distinguere, a partire dalle sole onde cerebrali registrate, se l’utente sta reagendo a un errore relativo all’obiettivo oppure al metodo seguito dall’AI. Il sistema non ricostruisce pensieri o intenzioni complete direttamente dal cervello, ma identifica specifici segnali di errore generati durante l’osservazione del comportamento dell’intelligenza artificiale. In questo modo l’utente può fornire implicitamente un feedback assimilabile a “l’obiettivo è sbagliato” oppure “l’obiettivo è corretto ma il metodo non lo è”, senza dover formulare verbalmente la correzione.
Su questa base è stato sviluppato un algoritmo di cooperazione uomo-AI fondato sull’allineamento dei valori neurali, nel quale il feedback EEG viene trasmesso al sistema durante l’esecuzione del compito e utilizzato per aggiornare autonomamente il comportamento. Quando viene rilevato uno State Prediction Error, l’AI interpreta il segnale come indicazione che l’obiettivo generale è corretto ma che occorre modificare la strategia utilizzata per raggiungerlo. In presenza di un Reward Prediction Error, invece, il sistema considera possibile un errore nella stima dell’obiettivo stesso e procede a rivalutare ciò che l’utente intende ottenere.
Nelle simulazioni, Neural Value Alignment ha mostrato una maggiore rapidità di adattamento rispetto ai metodi di riferimento anche in scenari caratterizzati da informazioni incomplete o da improvvisi cambiamenti delle intenzioni dell’utente. Il sistema è stato quindi progettato per operare anche quando alcuni segnali utili alla comprensione del compito non sono disponibili oppure quando la finalità desiderata cambia durante l’interazione, utilizzando il feedback neurale come ulteriore fonte di informazione per aggiornare il comportamento dell’AI.
La tecnologia potrebbe trovare applicazione futura nei sistemi robotici domestici e industriali, nei quali l’intelligenza artificiale deve adattarsi continuamente alle preferenze e agli obiettivi delle persone con cui collabora. Un robot potrebbe, ad esempio, rilevare attraverso un’interfaccia EEG che l’utente considera errato il modo in cui sta svolgendo un’operazione oppure che ha interpretato in maniera sbagliata il risultato desiderato, modificando conseguentemente il proprio comportamento senza attendere una correzione esplicita. Secondo Sangwan Lee, il risultato mostra la possibilità di affiancare ai tradizionali segnali comportamentali anche segnali cognitivi direttamente associati alla valutazione interna dell’utente, creando un canale di feedback aggiuntivo per l’interazione tra esseri umani e sistemi AI.
Questo articolo è stato redatto con il supporto di strumenti di intelligenza artificiale (AI)