I ricercatori indipendenti Yaonan Qu e Meng Lu hanno sviluppato Bilevel Autoresearch, un framework nel quale un sistema di intelligenza artificiale non si limita a condurre autonomamente una serie di esperimenti, ma analizza e modifica anche il metodo utilizzato per scegliere gli esperimenti successivi. Il progetto estende il paradigma dell’autoresearch introducendo due cicli di ottimizzazione collegati: un ciclo interno lavora direttamente sul problema assegnato, mentre un ciclo esterno osserva il comportamento del primo, individua eventuali limiti nella strategia di ricerca e genera nuovo codice Python per trasformarne il funzionamento durante l’esecuzione.
L’autoresearch tradizionale applica a un’attività di ricerca una sequenza ripetitiva composta da proposta, esecuzione, valutazione e selezione. Un agente modifica il codice o i parametri di un esperimento, avvia il processo di addestramento, misura il risultato ottenuto e conserva il cambiamento soltanto quando la metrica scelta migliora; la procedura riparte quindi dal nuovo stato, consentendo al sistema di eseguire numerosi tentativi senza richiedere un intervento umano per ciascuna iterazione.
Questo approccio è stato reso noto dal progetto Autoresearch di Andrej Karpathy, costruito intorno a un piccolo ambiente di preaddestramento GPT nel quale un agente può modificare autonomamente il codice, avviare brevi sessioni di training e confrontare i risultati attraverso una metrica di validazione. Il processo permette di concentrare centinaia di esperimenti in un periodo limitato e trasforma il lavoro di ottimizzazione in un ciclo eseguibile continuamente, nel quale il ricercatore definisce inizialmente l’obiettivo e lascia al sistema il compito di esplorare le possibili modifiche.
La struttura a ciclo singolo tende però a ereditare le preferenze e le abitudini del modello linguistico che propone gli esperimenti. Quando una determinata strategia produce un risultato positivo, l’agente può continuare a generare variazioni molto simili, restringendo progressivamente l’esplorazione a una regione già conosciuta; la ricerca entra così in una fase di stagnazione, perché il sistema modifica i parametri o il codice senza cambiare il criterio con cui decide quali direzioni analizzare.
Bilevel Autoresearch interviene su questo limite separando l’ottimizzazione del compito dall’ottimizzazione del processo di ricerca. Il livello interno, denominato Level 1, esegue il ciclo operativo principale: propone una modifica, addestra il modello, valuta la metrica ottenuta e decide se mantenere o scartare il cambiamento. Il sistema continua quindi a intervenire sul codice di training e sugli iperparametri secondo una procedura analoga a quella utilizzata dagli ambienti autoresearch convenzionali.
Un livello intermedio, indicato come Level 1.5, modifica periodicamente alcuni parametri della strategia di esplorazione. Nel protocollo sperimentale questa regolazione avviene ogni cinque iterazioni del ciclo interno e riguarda aspetti come la quantità di esperimenti da dedicare a determinate categorie di modifiche, il grado di esplorazione e il modo in cui i risultati precedenti vengono utilizzati per orientare le proposte successive.
Il Level 2 costituisce il vero ciclo esterno di meta-ricerca. Questo componente osserva le traiettorie prodotte dal ciclo interno, analizza i tentativi eseguiti, identifica i comportamenti ripetitivi e conduce sessioni dedicate alla progettazione di nuovi meccanismi di ricerca. Al termine di ogni sessione genera direttamente codice Python, lo inserisce nel sistema già in funzione e modifica in tempo reale il modo in cui il ciclo interno sceglie e organizza gli esperimenti.
L’innovazione riguarda quindi la natura delle modifiche introdotte. Il ciclo esterno non si limita a riscrivere un prompt, cambiare una temperatura o regolare un coefficiente numerico, perché può creare nuove procedure algoritmiche e nuovi criteri di selezione; durante le prove ha introdotto autonomamente tecniche provenienti dall’ottimizzazione combinatoria, dai problemi multi-armed bandit e dalla progettazione statistica degli esperimenti, senza ricevere istruzioni preventive sulle discipline dalle quali ricavare queste soluzioni.
Le tecniche multi-armed bandit consentono, per esempio, di bilanciare l’impiego delle strategie che hanno già prodotto risultati favorevoli con l’esplorazione di direzioni meno provate. La progettazione degli esperimenti permette invece di scegliere combinazioni informative di variabili e di valutare in modo più sistematico gli effetti delle modifiche, mentre l’ottimizzazione combinatoria offre procedure utili per esplorare spazi caratterizzati da numerose alternative discrete.
Questi meccanismi hanno la funzione di spezzare la prevedibilità del ciclo interno. Un modello linguistico tende infatti a proporre cambiamenti compatibili con le proprie conoscenze pregresse e con le soluzioni più frequenti osservate durante l’addestramento; l’inserimento di una struttura algoritmica esterna forza la ricerca a visitare configurazioni che il modello avrebbe probabilmente ignorato, aumentando la diversità degli esperimenti e la probabilità di superare un punto di stagnazione.
L’architettura è definita bilevel perché il risultato di un livello dipende dal comportamento dell’altro. Il ciclo interno produce dati concreti sull’efficacia delle modifiche applicate al modello, mentre il ciclo esterno utilizza questi dati per cambiare il processo attraverso cui vengono generate le modifiche successive; il nuovo metodo di ricerca altera quindi la traiettoria del ciclo interno, producendo ulteriori informazioni che alimentano una nuova fase di meta-ottimizzazione.
Un aspetto rilevante del progetto riguarda il modello utilizzato nei due livelli. Il ciclo esterno non impiega un sistema più grande o più potente per supervisionare quello interno, poiché entrambi funzionano attraverso lo stesso modello linguistico; il miglioramento nasce dalla distribuzione dei ruoli e dalla progettazione dell’architettura, non dall’introduzione di un modello superiore incaricato di correggere quello più debole. Nelle sperimentazioni gli autori hanno utilizzato DeepSeek Chat per tutti i livelli del sistema.
La valutazione è stata condotta sul benchmark di preaddestramento GPT derivato dall’ambiente di Karpathy, nel quale l’obiettivo consiste nel ridurre la metrica validation bits per byte, abbreviata in val_bpb. Questo indicatore misura quanti bit il modello richiede mediamente per rappresentare ciascun byte dei dati di validazione; un valore più basso corrisponde a una migliore capacità di previsione e compressione del testo.
Gli esperimenti hanno confrontato diverse configurazioni lungo trenta iterazioni del ciclo interno. Il valore iniziale della metrica variava indicativamente tra 1,094 e 1,114 a causa della componente casuale presente nell’addestramento, motivo per cui gli autori hanno misurato l’efficacia del sistema attraverso la differenza tra il miglior risultato raggiunto e il valore di partenza di ciascuna esecuzione.
Il ciclo autoresearch standard ha prodotto un miglioramento medio di circa 0,009 punti di val_bpb. La configurazione completa con meta-ottimizzazione del meccanismo di ricerca ha raggiunto una riduzione di circa 0,045 punti, pari a un miglioramento cinque volte superiore in valore assoluto; il risultato è stato ottenuto utilizzando lo stesso modello linguistico nelle due configurazioni, isolando così il contributo dell’architettura a doppio ciclo.
Lo studio ha esaminato anche una versione nella quale il livello superiore poteva regolare soltanto alcuni parametri del processo, senza introdurre nuovi meccanismi attraverso il codice. Questa soluzione non ha generato un vantaggio affidabile rispetto al ciclo standard, indicando che la semplice ottimizzazione numerica della strategia esistente non è sufficiente quando il problema deriva dalla struttura stessa del metodo di esplorazione.
La configurazione completa ha superato il ciclo interno standard di circa cinque volte e la variante basata sulla sola regolazione dei parametri di circa sette volte e mezzo, secondo il confronto della variazione assoluta della metrica. Il divario suggerisce che la capacità di creare nuove procedure operative incide maggiormente della possibilità di regolare più accuratamente un insieme di controlli già definiti.
Il ciclo esterno opera attraverso sessioni articolate in più fasi, durante le quali esamina la cronologia della ricerca, formula un’ipotesi sul limite incontrato, progetta un nuovo meccanismo e ne prepara l’implementazione. Il codice generato viene verificato e caricato nell’ambiente in esecuzione, consentendo al sistema di cambiare strategia senza interrompere l’intero esperimento e senza richiedere a uno sviluppatore di modificare manualmente il framework.
Questa forma di aggiornamento dinamico amplia il concetto di codice generato dagli agenti. Il software prodotto dall’AI non serve soltanto a risolvere il compito finale, perché modifica anche l’infrastruttura decisionale utilizzata dall’agente stesso; la ricerca diventa quindi un processo nel quale codice sperimentale e codice metodologico possono evolvere contemporaneamente, seguendo metriche distinte ma collegate.
Gli autori descrivono il sistema come una forma di “meta-autoresearch”, perché applica il metodo autoresearch all’autoresearch stesso. I precedenti framework autonomi erano stati migliorati attraverso l’intervento di persone che analizzavano il codice, riconoscevano un collo di bottiglia e implementavano una nuova soluzione; Bilevel Autoresearch automatizza questo passaggio e assegna all’LLM il compito di leggere il processo, diagnosticare il limite e produrre una modifica strutturale.
Il progetto rimane legato a obiettivi chiaramente misurabili, poiché ogni cambiamento deve essere valutato attraverso una metrica quantitativa e riproducibile. Un ambiente nel quale il risultato non può essere misurato automaticamente rende più difficile stabilire se una nuova strategia sia effettivamente migliore, mentre attività come l’ottimizzazione di modelli, algoritmi, configurazioni software e procedure sperimentali offrono segnali numerici utilizzabili dal ciclo di selezione.
La disponibilità di una metrica non elimina il rischio di ottimizzare caratteristiche secondarie o di sfruttare difetti nel sistema di valutazione. Un agente capace di modificare il proprio metodo di ricerca potrebbe trovare percorsi che migliorano il punteggio senza produrre un progresso realmente generalizzabile; servono quindi ambienti isolati, test separati, registri completi delle modifiche e criteri che impediscano al sistema di intervenire direttamente sulle procedure usate per certificare il risultato.
Anche l’esecuzione automatica del codice generato richiede controlli specifici, perché il ciclo esterno può modificare componenti fondamentali della pipeline durante il funzionamento. Il framework deve limitare l’accesso alle risorse, verificare la sintassi e il comportamento del codice, conservare versioni recuperabili e interrompere le esecuzioni che superano i budget di tempo, memoria o capacità computazionale.
Bilevel Autoresearch mostra che il miglioramento dei sistemi autonomi non dipende soltanto dalla potenza del modello impiegato. La struttura che organizza il ragionamento, la sperimentazione e l’esplorazione può produrre differenze considerevoli anche quando il modello sottostante rimane invariato; la progettazione del loop diventa quindi una componente centrale dell’ingegneria degli agenti destinati alla ricerca.
Il passaggio dal singolo ciclo al doppio ciclo introduce un sistema nel quale l’AI conduce gli esperimenti e contemporaneamente rivede il proprio modo di condurli. Il ciclo interno cerca una soluzione migliore per il problema, il ciclo esterno cerca una procedura migliore per trovare quella soluzione e il codice generato collega i due livelli in tempo reale. Questa architettura trasforma l’autoresearch da sequenza automatizzata di tentativi in un processo capace di modificare autonomamente la propria metodologia.