Meta ha presentato il 19 novembre 2026 Self-Improving Memory, una metodologia di apprendimento che consente agli agenti di intelligenza artificiale di perfezionare autonomamente le strategie utilizzate per memorizzare, organizzare e recuperare informazioni durante l’esecuzione di attività successive. La ricerca, intitolata Self-Improving Memory: Meta-Optimization and Harness Distillation for Continual Learning Agents, introduce un processo articolato in due componenti, Harness Optimization e Harness Distillation, attraverso le quali un modello individua modalità più efficaci di gestione della memoria e successivamente ne incorpora una parte nei propri parametri. L’obiettivo consiste nel superare la dipendenza dalle istruzioni statiche predisposte dagli sviluppatori, permettendo agli agenti di adattare il comportamento della memoria alle caratteristiche specifiche delle attività svolte e di trasferire parte delle competenze acquisite direttamente nel modello.
L’architettura sperimentale utilizza una directory persistente come memoria esterna, accessibile mediante strumenti di lettura, scrittura e modifica dei file. Le attività vengono suddivise in sessioni successive, ciascuna delle quali inizia con una finestra di contesto vuota. Le informazioni elaborate durante una sessione non sono quindi trasferite automaticamente alla successiva, ma devono essere salvate esplicitamente nei file persistenti. La gestione viene coordinata attraverso due istruzioni fondamentali: LOAD, utilizzata per recuperare le informazioni necessarie prima di affrontare un’attività, e OFFLOAD, incaricata di selezionare e conservare i contenuti utili al termine dell’elaborazione. Nelle implementazioni tradizionali queste istruzioni vengono definite manualmente e rimangono sostanzialmente invariate, anche quando le esigenze informative cambiano tra attività differenti.
La prima fase di Self-Improving Memory, denominata Harness Optimization, utilizza un meta-agente incaricato di analizzare le sequenze operative prodotte dall’agente principale. Il sistema esamina le informazioni memorizzate, i risultati ottenuti, gli errori commessi e le difficoltà incontrate nel recupero dei dati, proponendo modifiche alle istruzioni LOAD e OFFLOAD. Le configurazioni alternative vengono sottoposte a valutazioni comparative e quelle più efficaci vengono selezionate per ulteriori revisioni. Il processo inizia da strategie predisposte dai ricercatori, comprendenti riassunti delle attività, recupero selettivo delle informazioni, organizzazione delle conoscenze in librerie di competenze e registrazione delle ipotesi formulate durante il lavoro. Le istruzioni vengono progressivamente modificate sulla base dei risultati, mantenendo un insieme di configurazioni candidate anziché adottare necessariamente la prima soluzione migliorativa.
La ricerca utilizza il modello Kimi-K2.6 sia per l’agente che esegue le attività sia per il meta-agente incaricato di ottimizzare la memoria. La valutazione è stata effettuata su tre categorie del benchmark Continual Learning Bench, denominate Database, Codebase e Spectrum. Le istruzioni elaborate automaticamente hanno raggiunto un punteggio medio di 56,0, rispetto ai 44,6 punti della migliore configurazione sviluppata manualmente dai ricercatori e ai 36,1 punti ottenuti con le istruzioni generiche iniziali. Il miglioramento rispetto alla migliore strategia umana è quindi pari a 11,4 punti, mentre il vantaggio rispetto alla configurazione di base raggiunge 19,9 punti. I risultati indicano che l’ottimizzazione automatica delle regole di memoria può superare, nei compiti esaminati, strategie costruite preventivamente da esperti.
La seconda fase, Harness Distillation, affronta il problema della dipendenza dalle istruzioni esterne. Dopo aver individuato le configurazioni più efficaci, i ricercatori eseguono nuovamente le attività utilizzando le strategie ottimizzate e registrano le interazioni del modello, comprendendo richieste, risposte, chiamate agli strumenti, argomenti utilizzati e risultati ottenuti. Nelle sequenze registrate, le istruzioni avanzate per la gestione della memoria vengono successivamente sostituite con quelle generiche, mantenendo invariato il comportamento prodotto dall’agente. Le sequenze così trasformate vengono utilizzate per il fine-tuning, attraverso il quale il modello apprende a riprodurre parte delle strategie più efficaci anche senza ricevere nuovamente le istruzioni dettagliate.
I risultati della seconda fase mostrano un punteggio di 43,1 per il modello addestrato sulle sequenze ottenute attraverso le strategie ottimizzate, rispetto ai 37,6 punti raggiunti da un modello sottoposto a fine-tuning su sequenze generate utilizzando soltanto istruzioni generiche. La differenza di 5,5 punti dimostra che una parte delle capacità individuate attraverso l’ottimizzazione esterna può essere trasferita nei pesi del modello. Il risultato non equivale all’incorporazione completa della strategia originaria, poiché le prestazioni rimangono inferiori a quelle ottenute utilizzando direttamente le istruzioni ottimizzate, ma documenta un trasferimento misurabile di competenze dal sistema di gestione esterno alla rete neurale.
La metodologia comprende anche una distinzione tra le informazioni utilizzate per elaborare le strategie e quelle riservate alla valutazione, allo scopo di verificare che i miglioramenti non dipendano esclusivamente dall’adattamento ai singoli esempi osservati. Il processo non garantisce tuttavia che ogni modifica produca un vantaggio. Su 44 proposte di revisione delle istruzioni esaminate nella ricerca, 37 non hanno superato la migliore configurazione precedentemente individuata. L’efficacia dipende quindi dalla selezione dei candidati, dai criteri di valutazione e dalle procedure di addestramento definite dai ricercatori.
Self-Improving Memory si inserisce in una linea di ricerca che comprende precedenti sistemi come MemEvolve e ALMA, dedicati alla progettazione automatica delle strutture di memoria. La differenza principale consiste nell’integrazione di un secondo passaggio di apprendimento, attraverso il quale le strategie individuate durante l’utilizzo vengono trasferite almeno parzialmente nei parametri del modello. La tecnologia rimane una procedura sperimentale di miglioramento circoscritto e non costituisce un sistema di autoevoluzione generale completamente autonomo. Il risultato specifico è la possibilità di utilizzare le esperienze operative degli agenti per migliorare le istruzioni di memoria e successivamente trasformare parte di queste conoscenze in capacità direttamente apprese dal modello.
Questo articolo è stato redatto con il supporto di strumenti di intelligenza artificiale (AI)
