IL NUOVO STUDIO DI YOSHUA BENGIO PER MONITORARE I PROGRESSI NELLA PNL – WORLD SCOPE
Di recente, uno dei massimi esperti mondiali di intelligenza artificiale e un pioniere dell’apprendimento profondo, Yoshua Bengio , insieme al suo team ha proposto il World Scope (WS). World Scope è considerato come un obiettivo attraverso il quale i ricercatori hanno cercato di vedere i progressi dell’elaborazione del linguaggio naturale (PNL) che sono stati fatti finora.
L’elaborazione del linguaggio naturale ha fatto alcune delle scoperte come nuove teorie della rappresentazione, tecniche di modellazione, paradigmi di raccolta dei dati, tra gli altri in questi pochi anni. Ciò è possibile solo grazie ai miglioramenti dell’hardware e all’immensa raccolta di dati.
Il motivo alla base di questa ricerca è quello di creare un quadro che fungerà da tabella di marcia per una comprensione linguistica veramente contestuale, fornire una visione a volo d’uccello della direzione della PNL , nonché sulla relazione delle lingue con l’IA, le scienze cognitive e le comunità linguistiche più ampie . Per questo, i ricercatori hanno considerato il lavoro sui fondamenti contestuali del linguaggio, che sono fondamento, incarnazione e interazione sociale.
Dietro World Scope
In questa ricerca, sono stati proposti cinque livelli di World Scopes che sono considerati
WS1: Corpus
WS2: Internet
WS3: percezione
WS4: forma di realizzazione
WS5: Social
WS1: corpora e rappresentazioni
A questo livello, sono stati presi in considerazione i lavori precedenti nella PNL . I ricercatori hanno menzionato una serie di studi precedenti che si basano su corpora. Secondo loro, l’istanza più adatta a questo livello è la Penn Treebank, che è un sottoinsieme sterilizzato del linguaggio generato naturalmente, elaborato e annotato allo scopo di studiare rappresentazioni.
WS2: The Written World
Il lavoro più recente in PNL è rappresentato nel secondo livello di World Scope. Dopo i corpora, l’uso di dati non strutturati, senza etichetta, multi-dominio e multilingue amplia questo livello. I ricercatori hanno dichiarato: “Non siamo più vincolati a un singolo autore o fonte e la tentazione per la PNL è di credere che tutto ciò che ha bisogno di conoscenza possa essere appreso dal mondo scritto”.
Ciò, di conseguenza, ha fatto passi in avanti verso sostanziali progressi nelle prestazioni rispetto ai nuovi e attuali parametri di riferimento della comunità. Questi progressi sono stati raggiunti grazie all’apprendimento del trasferimento reso possibile dalle rappresentazioni in modelli profondi. Secondo i ricercatori, i modelli attuali sono il prossimo passo nella modellizzazione delle distribuzioni lessicali. Gli approcci moderni all’apprendimento di rappresentazioni dense ci consentono anche di stimare meglio queste distribuzioni da corpora massicci.
WS3: Il mondo di immagini e suoni
Il terzo livello di World Scope riguarda il processo di apprendimento delle lingue naturali attraverso immagini e suoni. Secondo i ricercatori, l’apprendimento delle lingue richiede una percezione che includa input uditivi, tattili e visivi. Mentre l’input uditivo è necessario per comprendere il sarcasmo, lo stress e il significato impliciti attraverso la prosodia, i sensi tattili forniscono significato sia fisico che astratto a concetti come pesante e morbido. La percezione visiva è un segnale per modellare una vastità di esperienze nel mondo che non possono essere documentate dal solo testo.
WS4: realizzazione e azione
Nel quarto livello, i ricercatori hanno parlato di incarnazione e azione. Secondo i ricercatori, un agente incarnato deve tradurre dal linguaggio al controllo e all’azione in qualsiasi forma del mondo, tra cui, reale, virtuale, mondo a griglia o navigazione con visione e linguaggio.
I ricercatori hanno dichiarato: “Il controllo è il luogo in cui le persone apprendono per la prima volta l’astrazione e semplici esempi di post-condizioni attraverso prove ed errori”. Oltre ad apprendere le proprietà fisiche di base del mondo dall’interazione, WS4 consente anche all’agente di costruire rappresentazioni pre-linguistiche ricche.
WS5: Il mondo sociale
Il quinto livello di WS è abilitare la comunicazione interpersonale. Secondo i ricercatori, la comunicazione interpersonale al servizio della cooperazione nel mondo reale è l’uso prototipo del linguaggio e la capacità di facilitare tale cooperazione rimane la prova finale di un agente appreso.
I ricercatori hanno affermato: “Comprendere che ciò che si dice può cambiare ciò che la gente fa permette al linguaggio di assumere il suo ruolo più attivo. Questo è l’obiettivo finale per la generazione del linguaggio naturale : un linguaggio che fa qualcosa al mondo. “
Come aiuta
Secondo i ricercatori, nonostante l’enorme efficacia dei modelli di elaborazione del linguaggio formati sul testo, questi sistemi mostrano ancora difetti ed errori che derivano dalla mancata correlazione del linguaggio con il mondo fisico che descrive e con le interazioni sociali che facilita.
I ricercatori della PNL hanno costantemente riconosciuto i limiti dei corpora in termini di copertura del linguaggio e dell’esperienza, motivo per cui i ricercatori hanno estratto i precedenti lavori in PNL , scienze cognitive e linguistica, al fine di fornire una tabella di marcia per colmare queste lacune.
I ricercatori hanno affermato: “Riteniamo che gli universi di conoscenza ed esperienza disponibili per i modelli di PNL possano essere definiti da ambiti mondiali successivamente più ampi: da un singolo corpus a un contesto completamente incarnato e sociale”.
riassumendo
Secondo i ricercatori, i proposti scenari del mondo sono passi ripidi e c’è la possibilità che WS5 sia considerato completo di AI. WS1, WS2, WS3 e WS4 danno ulteriore profondità all’interpretazione del linguaggio attraverso il contesto, perché espandono le fattorizzazioni delle informazioni disponibili per definire il significato e WS5 implica che l’agente persistente sta vivendo il tempo, nonché un insieme personalizzato di esperienze.
Leggi il documento qui .