Negli ultimi anni il campo dell’intelligenza artificiale ha assistito a un’accelerazione significativa nello sviluppo di sistemi autonomi capaci di eseguire compiti complessi senza supervisione continua da parte dell’uomo. In questo contesto si inserisce il nuovo progetto open source “AutoResearch”, presentato dall’ingegnere e ricercatore Andrej Karpathy, figura molto influente nel settore dell’AI e già noto per il suo ruolo come cofondatore di OpenAI e per la guida del team di intelligenza artificiale per il sistema Autopilot di Tesla. Il progetto introduce un approccio radicalmente diverso alla sperimentazione nel campo del machine learning, permettendo di eseguire automaticamente centinaia di esperimenti di ricerca in una sola notte utilizzando agenti AI coordinati.
L’idea alla base di AutoResearch consiste nel trasformare il processo tradizionale della ricerca in deep learning in un ciclo automatizzato guidato da agenti software. Nella pratica, invece di affidare a un ricercatore umano la progettazione manuale degli esperimenti, la modifica dei parametri di addestramento e la valutazione dei risultati, il sistema utilizza agenti AI che gestiscono autonomamente l’intero ciclo sperimentale. Questi agenti sono in grado di modificare il codice di training di un modello, eseguire un esperimento, analizzare le metriche ottenute e decidere quale modifica provare successivamente, creando una sequenza iterativa di test e ottimizzazioni.
Il framework è stato progettato per funzionare anche su hardware relativamente accessibile, come una singola GPU, sfruttando architetture di training compatte come nanochat. L’obiettivo è ridurre drasticamente il costo e la complessità della ricerca sperimentale sui modelli linguistici e sui sistemi di apprendimento automatico, consentendo a piccoli team o ricercatori indipendenti di effettuare un numero molto elevato di test in tempi brevi. Nel modello tradizionale di sviluppo AI, ogni iterazione sperimentale richiede spesso interventi manuali significativi, che rallentano il ciclo di miglioramento dei modelli. AutoResearch mira invece a trasformare questo processo in una pipeline quasi completamente autonoma.
Il funzionamento del sistema si basa su un ciclo di ricerca automatizzato che combina elementi di programmazione generativa, valutazione quantitativa delle prestazioni e decisione autonoma sulle modifiche successive da applicare al codice. Gli agenti AI operano su uno script di training modificabile, intervenendo su parametri come architettura del modello, hyperparameter, strategie di ottimizzazione o pipeline di dati. Dopo ogni esecuzione del training, il sistema raccoglie metriche di valutazione, ad esempio la perdita o l’accuratezza su un dataset di validazione, e utilizza queste informazioni per determinare la prossima configurazione da testare. In questo modo il processo assume una struttura simile a un ciclo evolutivo di sperimentazione continua, in cui le configurazioni più promettenti emergono progressivamente attraverso iterazioni successive.
Dal punto di vista concettuale, questo approccio rientra nella categoria più ampia degli “AI agents”, cioè sistemi software progettati per agire autonomamente perseguendo un obiettivo definito. Gli agenti AI differiscono dai tradizionali chatbot o modelli generativi perché sono progettati per eseguire sequenze di azioni, utilizzare strumenti esterni e prendere decisioni in base ai risultati intermedi ottenuti durante l’esecuzione del compito.
La ricerca su sistemi agentici di questo tipo rappresenta uno dei principali filoni di sviluppo dell’AI contemporanea. Framework precedenti come AutoGPT avevano già dimostrato la possibilità di creare agenti software in grado di decomporre un obiettivo complesso in sottotask e tentare di completarli autonomamente, ma tali sistemi hanno mostrato limiti significativi in termini di affidabilità e stabilità operativa.
AutoResearch si inserisce in questa evoluzione cercando di applicare il paradigma agentico direttamente al processo di ricerca scientifica sull’intelligenza artificiale stessa. In sostanza, il sistema utilizza l’AI per progettare e testare nuove configurazioni di modelli AI, creando una forma di “meta-ricerca” automatizzata. L’obiettivo non è semplicemente accelerare lo sviluppo di singoli modelli, ma trasformare il metodo di lavoro dei ricercatori, spostando il focus dalla sperimentazione manuale alla progettazione di ambienti di ricerca autonomi.
Un aspetto particolarmente interessante del progetto è il concetto di ricerca continua. In una configurazione tipica, il sistema può eseguire centinaia di esperimenti durante la notte, sfruttando il tempo di inattività dei ricercatori umani. Ogni iterazione produce dati che alimentano la decisione successiva, generando un flusso costante di miglioramenti incrementali del modello. Questo approccio richiama alcune tecniche di ottimizzazione automatica già studiate nella ricerca accademica, come la ricerca automatica di architetture neurali e i sistemi di apprendimento rinforzato applicati alla progettazione dei modelli.
L’introduzione di sistemi di ricerca automatizzata potrebbe avere implicazioni profonde per l’ecosistema dell’intelligenza artificiale. Tradizionalmente, il progresso nei modelli di machine learning è stato guidato da team di ricerca altamente specializzati che progettano manualmente nuove architetture e strategie di training. Se strumenti come AutoResearch dovessero dimostrarsi efficaci su larga scala, una parte significativa di questo lavoro potrebbe essere delegata a sistemi automatizzati, accelerando il ritmo dell’innovazione e riducendo il tempo necessario per individuare configurazioni di modelli più efficienti.
Questo scenario si inserisce in una trasformazione più ampia del modo in cui il software viene sviluppato nell’era dell’AI. Lo stesso Karpathy ha descritto negli ultimi anni l’emergere di nuovi paradigmi di sviluppo, tra cui il cosiddetto “vibe coding”, in cui il programmatore interagisce con modelli linguistici per generare codice attraverso istruzioni in linguaggio naturale. In questo contesto, l’evoluzione verso sistemi completamente autonomi che progettano e testano codice rappresenta un ulteriore passo verso quello che alcuni osservatori definiscono “agentic engineering”, una forma di ingegneria del software in cui gli esseri umani definiscono obiettivi e vincoli mentre gli agenti AI eseguono gran parte del lavoro operativo.
Nonostante il grande entusiasmo attorno a queste tecnologie, diversi ricercatori sottolineano che gli agenti AI presentano ancora numerosi limiti, tra cui errori cumulativi, instabilità nei processi decisionali e difficoltà nel mantenere una memoria coerente tra le iterazioni. Lo stesso Karpathy ha in passato espresso cautela riguardo allo stato attuale degli agenti autonomi, sostenendo che potrebbero essere necessari molti anni prima che tali sistemi raggiungano livelli di affidabilità sufficienti per applicazioni critiche.