Illya Sutskever, co-fondatore di OpenAI, ha recentemente dichiarato che l’era della “scalabilità” nell’addestramento dei modelli linguistici di grandi dimensioni (LLM) sta giungendo al termine, a causa dell’esaurimento dei dati disponibili. Durante la conferenza NeurIPS a Vancouver, ha sottolineato che, mentre la capacità computazionale continua a crescere, la quantità di dati di alta qualità è limitata, poiché “internet è uno solo”.
Sutskever ha evidenziato che, con l’esaurimento dei dati utili, lo sviluppo dell’intelligenza artificiale si sposterà verso agenti AI e capacità di ragionamento avanzate. Ha previsto che, dotando gli agenti AI di abilità di ragionamento, essi potranno raggiungere una comprensione più profonda e persino una consapevolezza di sé, portando all’emergere di una superintelligenza con capacità oltre le aspettative umane.
Inoltre, ha paragonato l’evoluzione dei sistemi AI alla biologia evolutiva, suggerendo che, così come gli ominidi hanno deviato dalle leggi di scala standard sviluppando cervelli significativamente più grandi, l’AI potrebbe superare i limiti attuali attraverso nuovi approcci focalizzati sul ragionamento. Ha anche affermato che i sistemi AI con capacità di ragionamento saranno in grado di comprendere meglio il mondo con dati limitati, riducendo la confusione e migliorando l’efficienza.
Queste dichiarazioni indicano un cambiamento di paradigma nello sviluppo dell’intelligenza artificiale, spostando l’attenzione dalla semplice espansione dei modelli alla creazione di sistemi più intelligenti e consapevoli attraverso il miglioramento delle capacità di ragionamento.