Baidu ha presentato il 9 novembre 2026 ERNIE Evolve, un sistema di ricerca automatizzata che utilizza agenti di intelligenza artificiale per individuare opportunità di miglioramento nei modelli e nelle infrastrutture di esecuzione, modificare il codice, condurre esperimenti e selezionare le soluzioni che superano verifiche indipendenti. La piattaforma è stata applicata sia a benchmark pubblici di addestramento sia all’ottimizzazione dell’inferenza del modello ERNIE-5.5-Flash, ancora in sviluppo. Baidu dichiara di aver superato i risultati pubblici di riferimento in tre prove NanoChat e NanoGPT e di aver ottenuto, in uno specifico test di inferenza deterministica, un aumento del throughput del 33,7%. L’architettura non si limita alla generazione automatica di modifiche software, ma gestisce la scelta delle direzioni di ricerca, la formulazione delle ipotesi, l’esecuzione delle verifiche e il riutilizzo delle conoscenze acquisite, comprendendo anche i risultati negativi. L’obiettivo operativo è automatizzare una parte del lavoro sperimentale normalmente svolto dagli ingegneri, mantenendo criteri di accettazione separati dagli agenti che propongono le modifiche.
Il sistema riceve come input un repository software, un obiettivo di ottimizzazione e i criteri necessari per valutare i risultati. Un componente esterno denominato Director seleziona la direzione di ricerca e la versione iniziale da utilizzare, consultando un Experience Bank che conserva i risultati degli esperimenti precedenti e una Knowledge Base composta da pubblicazioni scientifiche, codice open source e conoscenze specifiche del settore. Le attività vengono distribuite su percorsi paralleli che mantengono alberi di versioni candidate. All’interno di ciascun percorso, un Selector individua una versione e un’ipotesi da verificare, mentre un Executor implementa le modifiche ed esegue gli esperimenti in ambienti isolati. Le proposte vengono successivamente esaminate da due componenti distinti: un Evaluator fisso, esterno al repository e non visibile agli agenti, che verifica il superamento di una soglia di miglioramento superiore al rumore sperimentale, e un Reviewer che controlla la coerenza con la direzione di ricerca stabilita. Le modifiche estranee all’obiettivo e quelle che sfruttano eventuali lacune del sistema di valutazione vengono escluse, impedendo che risultati apparentemente migliori diventino automaticamente la nuova versione di riferimento.
Nel benchmark NanoChat AutoResearch, che prevede cinque minuti di addestramento su una GPU NVIDIA B200, ERNIE Evolve ha ottenuto un valore di 0,8763 validation bits per byte, rispetto a una media pubblica di riferimento pari a 0,887791 calcolata su dieci seed. In questa metrica un valore inferiore indica un risultato migliore. Nel NanoGPT Speedrun Track 1, eseguito su otto GPU H100, il sistema ha raggiunto una perdita di validazione FineWeb pari a 3,28 in 38,92 secondi, calcolati su 18 esecuzioni, contro un riferimento di 39,9 secondi. Nel Track 3, che mantiene fissi dati, dimensione dei batch e architettura, ha raggiunto lo stesso obiettivo dopo 2.590 passaggi di addestramento, rispetto ai 2.690 del confronto pubblico, su otto esecuzioni. Per NanoChat, una delle soluzioni individuate ha affiancato alla rete neurale due rami predittivi aggiuntivi: il primo basato sulle statistiche degli n-grammi del corpus di addestramento e il secondo sulla ricerca di documenti corrispondenti e sulla previsione delle loro continuazioni. Un meccanismo di gating appreso regola il contributo dei diversi rami in funzione delle prestazioni registrate nelle posizioni precedenti della sequenza di token.
Baidu ha inoltre valutato ERNIE Evolve su SOL-ExecBench, un insieme di 235 problemi relativi ai kernel di elaborazione. Il sistema ha raggiunto un punteggio medio speed-of-light di 0,819 rispetto a un riferimento analitico delle prestazioni della GPU B200, rimanendo sotto il miglior risultato pubblico di 0,827. La società segnala comunque prestazioni superiori ad altri sistemi considerati nel confronto, tra cui Recursive e Hyra-1.0, senza sostenere di aver ottenuto il primato assoluto. Il repository pubblicato contiene codice finale e registri delle misurazioni, con il codice eseguito incorporato nei log oppure identificato attraverso hash SHA-256. Sono inoltre riportati sette kernel SOL-ExecBench con punteggi compresi tra 0,6669 e 0,9920, mentre le definizioni dei compiti e i dati di carico appartenenti a NVIDIA non vengono redistribuiti.
Le attività di ottimizzazione dell’inferenza hanno interessato tre aree: riduzione della latenza sulla piattaforma Kunlunxin P800, incremento del throughput deterministico su GPU e accelerazione della decodifica per richieste singole. Molti dei sistemi di partenza erano già stati ottimizzati manualmente dagli ingegneri e le modifiche proposte dovevano superare gli stessi controlli di correttezza e test di carico previsti per gli interventi umani. Sui processori Kunlunxin P800, quattro cicli di ricerca hanno portato la velocità di generazione al 623,6% del valore iniziale, mantenendo invariati il modello e la configurazione di distribuzione. I primi interventi hanno introdotto connessioni iperconnesse vincolate alla varietà e fuse, insieme alla speculative decoding; le modifiche successive hanno ridotto i costi di pianificazione e sincronizzazione sul lato host, mentre un’ulteriore correzione del dispatch ha abilitato il percorso a bassa latenza di DeepEP.
Per l’addestramento tramite reinforcement learning, Baidu ha affrontato il problema dell’inferenza deterministica, nella quale i token generati e le probabilità logaritmiche devono rimanere identici a livello di bit indipendentemente dalla composizione dei batch e corrispondere al ricalcolo della sequenza completa. La modalità deterministica di SGLang soddisfa tali requisiti attraverso un ordine fisso delle riduzioni, ma può limitare l’utilizzo delle GPU. Dopo circa tre giorni di ottimizzazione automatizzata, Baidu ha registrato una riduzione del 26% del tempo medio per token in uscita e del 12% del tempo necessario al primo token, conservando il determinismo. Il maggiore contributo individuale è derivato dalla sostituzione di una procedura di campionamento deterministica, che occupava circa il 14% del tempo GPU per passaggio, con un kernel Triton capace di elaborare in parallelo segmenti del vocabolario. Nella decodifica di una singola richiesta GPU, il sistema ha ottenuto un incremento di velocità del 14,9% rispetto a un servizio già ottimizzato dagli ingegneri, senza modificare l’accuratezza. Tre delle sette direzioni di ricerca esaminate hanno prodotto miglioramenti, comprendendo l’utilizzo di istruzioni FP16 native per moltiplicazioni matriciali FP8 con meno di otto righe di input e l’introduzione di uno scheduler mixture-of-experts a due livelli in sostituzione della scansione sequenziale degli esperti.
I test hanno evidenziato anche limiti di determinismo, vincoli tra moduli e miglioramenti talvolta comparabili al rumore delle misurazioni, rendendo necessarie verifiche end-to-end anziché affidarsi esclusivamente alle prestazioni dei singoli kernel. Baidu prevede di estendere ERNIE Evolve ai sistemi di addestramento e successivamente alla ricerca guidata da metriche sulle capacità dei modelli, con generazione automatica di ipotesi, progettazione degli esperimenti e costruzione di nuove valutazioni. L’azienda precisa che i processi di miglioramento ricorsivo devono rimanere controllabili e interrompibili dall’uomo, entro limiti espliciti relativi agli obiettivi, ai permessi e alle risorse, accompagnati da verifiche di sicurezza continue e supervisione umana.
Questo articolo è stato redatto con il supporto di strumenti di intelligenza artificiale (AI)