Il ricercatore di Google Deepmind sull’intelligenza artificiale, Minqi Jiang, ha recentemente espresso la prospettiva che la prossima fase dell’intelligenza artificiale si sposti verso sistemi capaci non solo di rispondere alle domande, ma anche di porle attivamente. Ha condiviso questa visione durante un podcast, sottolineando che sistemi in grado di porre domande interessanti potrebbero avvicinarsi alle nozioni tradizionali di un’AGI forte.
Parlando dei modelli attuali, dalla ChatGPT alla Stable Diffusion, Jiang ha notato che, nonostante la loro impressionante capacità di rispondere alle domande, il loro ruolo principale rimane quello di lavorare nel contesto delle domande e risposte. In sostanza, quando posti loro una domanda o impartisci un comando, ottieni una risposta.
Recentemente, Jiang è stato coautore di un articolo intitolato “CURRICULA SENZA PREMI PER LA FORMAZIONE DI MODELLI MONDIALI ROBUSTI”, che affronta la sfida di formare modelli mondiali robusti senza l’ausilio di ricompense. L’articolo esplora l’idea di apprendere modelli del mondo attraverso l’esplorazione in assenza di ricompense, un approccio promettente per sviluppare agenti generalmente capaci di adattarsi a nuovi compiti senza ulteriore formazione ambientale. Gli autori considerano la robustezza in termini di rimpianto minimax su tutte le istanze ambientali, mostrando come ciò possa essere collegato alla minimizzazione dell’errore massimo nel modello mondiale attraverso le diverse istanze dell’ambiente.