NVIDIA ha dimostrato le capacità di Agentic Variation Operator, o AVO, tecnologia per agenti AI generalisti presentata inizialmente a marzo e progettata per affrontare attività prolungate attraverso cicli continui di pianificazione, esecuzione, verifica e correzione. Nel benchmark pubblico ARC-AGI-3, AVO ha completato tutti i 183 livelli distribuiti in 25 ambienti, raggiungendo un punteggio RHAE, Relative Human Action Efficiency, del 100%. Il risultato è stato ottenuto in scenari nei quali all’agente non vengono fornite preventivamente né le regole né l’obiettivo da raggiungere: il sistema deve interagire con un ambiente sconosciuto, osservare le conseguenze delle proprie azioni e ricostruire autonomamente la logica necessaria per procedere.
L’elemento centrale dell’architettura non è soltanto il modello linguistico utilizzato come motore di ragionamento, ma il cosiddetto harness, cioè il sistema che gestisce l’agente durante attività che possono durare molte ore o giorni. Un LLM isolato tende infatti a perdere continuità tra le diverse fasi di lavoro, mentre AVO mantiene una memoria persistente nella quale vengono conservati risultati precedenti, tentativi falliti, output degli strumenti esterni e informazioni utili alle iterazioni successive. L’harness collega inoltre il modello a strumenti come compilatori e profiler, registra gli esiti delle operazioni e utilizza queste informazioni per alimentare il ciclo successivo di ragionamento.
AVO lavora modificando direttamente il codice, eseguendolo, osservando il risultato e formulando quindi una nuova ipotesi. La sequenza viene ripetuta continuamente attraverso un ciclo composto da formulazione dell’ipotesi, azione, osservazione, aggiornamento dello stato e modifica della strategia. A questa struttura si aggiunge un sistema di supervisione incaricato di riconoscere quando l’agente rimane bloccato su un errore o continua a seguire una direzione improduttiva. In queste condizioni il supervisore interviene inducendo il sistema a cambiare approccio, riducendo il rischio che una lunga sessione autonoma venga consumata ripetendo variazioni dello stesso tentativo fallito.
Le capacità dell’architettura erano state inizialmente verificate su un problema molto diverso da ARC-AGI-3: l’ottimizzazione dei kernel GPU, uno degli ambiti più specialistici dell’elaborazione AI. NVIDIA ha affidato ad AVO il compito di migliorare un kernel di attention, lasciando il sistema operativo ininterrottamente per sette giorni. Durante questo periodo l’agente ha esplorato oltre 500 possibili direzioni di ottimizzazione e implementato direttamente 40 differenti versioni di codice. Il kernel multi-head attention ottenuto alla fine del processo, eseguito su un sistema NVIDIA DGX B200, ha raggiunto prestazioni fino al 3,5% superiori a cuDNN e fino al 10,5% superiori a FlashAttention-4.
Dopo aver completato l’ottimizzazione del kernel multi-head attention, AVO ha inoltre impiegato soltanto 30 minuti per adattare la soluzione alla Grouped Query Attention, GQA, tecnica utilizzata per ridurre il consumo di memoria durante l’elaborazione dell’attention. Questo passaggio ha mostrato come il sistema non si limiti alla ricerca iterativa di una singola soluzione, ma possa riutilizzare il contesto acquisito e trasferire rapidamente il lavoro svolto verso una variante architetturale correlata.
Per verificare se la stessa struttura potesse funzionare anche al di fuori dell’ottimizzazione del codice GPU, NVIDIA ha quindi utilizzato AVO su ARC-AGI-3. Il benchmark presenta ambienti interattivi sconosciuti senza spiegare all’agente quali siano le regole del gioco o l’obiettivo da perseguire. AVO non ha ricevuto immagini tradizionali dell’ambiente, ma esclusivamente una rappresentazione sotto forma di griglia testuale 64 × 64, dalla quale ha dovuto dedurre progressivamente la relazione tra azioni e cambiamenti di stato.
Il sistema ha completato tutti i 183 livelli attraverso 6.624 azioni complessive. Il precedente sistema VISTA, anch’esso capace di terminare gli stessi livelli, ne aveva richieste 7.542: AVO ha quindi completato il benchmark utilizzando circa il 12% di azioni in meno. La maggiore efficienza deriva in particolare dalla capacità della memoria di conservare ciò che è già stato appreso, evitando che l’agente ripeta continuamente esplorazioni già effettuate e consentendogli di riutilizzare informazioni ricavate nei passaggi precedenti.
L’architettura è stata inoltre progettata per non dipendere rigidamente da uno specifico modello linguistico. Per l’esecuzione completa di ARC-AGI-3 NVIDIA ha utilizzato Claude Opus 5, mentre in test separati AVO è stato collegato anche a GPT-5.6 Sol. I due modelli hanno mostrato comportamenti differenti: GPT-5.6 Sol è riuscito a raggiungere più rapidamente alcuni livelli, mentre Claude Opus 5 ha completato determinate sequenze utilizzando un numero inferiore di azioni. L’harness può quindi sfruttare caratteristiche diverse del modello sottostante senza modificare il principio operativo dell’agente.
Il confronto tra l’ottimizzazione dei kernel GPU e ARC-AGI-3 serve soprattutto a verificare la generalità del metodo. Scrivere codice CUDA altamente ottimizzato e scoprire le regole di un ambiente interattivo sconosciuto sono attività profondamente differenti, ma possono essere affrontate attraverso lo stesso ciclo operativo: formulare un’ipotesi, eseguire un’azione, osservare il risultato, aggiornare la memoria e modificare la strategia. È proprio questa continuità operativa, più che la sola quantità di conoscenze memorizzate nel modello linguistico, a permettere all’agente di affrontare attività che richiedono migliaia di passaggi consecutivi.
I risultati ottenuti da AVO mostrano quindi un approccio nel quale le capacità di un agente a lungo termine dipendono dall’interazione tra LLM, memoria persistente, strumenti esterni e supervisione automatica. Il modello rimane il componente responsabile del ragionamento, ma è l’harness a conservare lo stato dell’attività, trasformare gli output degli strumenti in nuovo contesto e impedire che il sistema perda quanto appreso durante il percorso. NVIDIA intende ora estendere AVO oltre il coding e l’ottimizzazione GPU, applicando la stessa architettura ad altre categorie di attività autonome di lunga durata.
Questo articolo è stato redatto con il supporto di strumenti di intelligenza artificiale (AI)