Immagine AI

Liquid AI ha rilasciato Antidoom, una tecnica di addestramento pensata per correggere uno dei problemi più tipici dei modelli di ragionamento: la tendenza a entrare in cicli ripetitivi durante la generazione della risposta. Il fenomeno, spesso indicato come “doom loop”, si verifica quando il modello continua a ripetere passaggi come “Wait”, “So” o formulazioni equivalenti, senza riuscire a chiudere il ragionamento e produrre una soluzione finale utile.

Il punto tecnico più interessante è che Antidoom non punta ad aggiungere nuova conoscenza al modello né ad aumentarne genericamente le capacità. L’obiettivo è più mirato: individuare il momento in cui nasce la ripetizione e intervenire solo sul token che innesca il loop. In questo modo il modello mantiene il proprio comportamento generale, ma viene addestrato a scegliere un’alternativa più coerente quando sta per ricadere in una sequenza ricorsiva improduttiva.

La tecnica si basa su FTPO, Final Token Preference Optimization, un approccio simile per logica alle tecniche di preference optimization, ma applicato in modo molto più selettivo. Invece di penalizzare globalmente la ripetizione o modificare l’intera distribuzione dei token, FTPO agisce sul punto esatto in cui il modello sta per iniziare il ciclo. Il sistema confronta il token problematico con più alternative preferibili e ottimizza la scelta finale, riducendo il rischio di bloccare parole utili o di alterare inutilmente il comportamento linguistico del modello.

Il problema è particolarmente rilevante nei modelli di ragionamento piccoli, che durante compiti complessi di matematica o programmazione possono restare intrappolati in sequenze di pensiero autoreferenziali. In questi casi il modello non fallisce perché non possiede necessariamente l’informazione corretta, ma perché non riesce a uscire da una traiettoria generativa instabile. La ripetizione consuma finestra di contesto, aumenta i costi di inferenza e impedisce di arrivare alla risposta conclusiva.

Antidoom evidenzia anche un limite delle soluzioni più semplici, come l’aumento della temperatura o l’uso di penalità generiche contro la ripetizione. Una temperatura più alta può aiutare il modello a uscire da un loop, ma introduce maggiore variabilità e può ridurre la stabilità del ragionamento. Le penalità globali, invece, rischiano di correggere il sintomo in modo troppo ampio. L’approccio di Liquid AI è più chirurgico: riconosce che il problema non riguarda ogni ripetizione, ma alcuni punti decisionali specifici nella sequenza generata.

I risultati indicano che la rimozione dei doom loop può migliorare le prestazioni senza modificare in profondità il modello. Questo è un aspetto importante per l’AI applicata, perché suggerisce che una parte dei miglioramenti nei sistemi di reasoning non dipende solo da modelli più grandi o da nuove fasi di pre-training, ma anche da tecniche di allineamento e correzione mirate. Se un modello riesce a evitare traiettorie degenerative, può sfruttare meglio capacità che possiede già.

Per gli sviluppatori di modelli e applicazioni AI, Antidoom è rilevante soprattutto in scenari dove l’affidabilità della risposta conta quanto la qualità teorica del modello: coding agent, strumenti matematici, sistemi di analisi automatizzata, assistenti tecnici e workflow agentici. In questi contesti un loop non è solo un difetto stilistico, ma un errore operativo che può bloccare un processo, far crescere i costi e rendere meno prevedibile l’esperienza utente.

La direzione è significativa: l’ottimizzazione dei modelli di ragionamento sta diventando sempre più granulare. Non si lavora soltanto sulla capacità generale di risolvere problemi, ma anche sui meccanismi interni che determinano quando un modello procede, quando si corregge e quando invece resta bloccato. Antidoom si inserisce proprio in questa fase, in cui l’affidabilità dell’inferenza diventa una componente tecnica centrale della prossima generazione di modelli AI.

Di Fantasy