Sakana AI ha presentato PC-ALM, acronimo di Augmented Lagrangian Predictive Coding, un metodo di addestramento progettato come alternativa locale alla backpropagation utilizzata normalmente nelle reti neurali profonde. L’approccio combina il predictive coding con tecniche basate sulla lagrangiana aumentata e consente a ciascun layer di aggiornarsi utilizzando principalmente informazioni locali, senza richiedere il classico passaggio globale all’indietro del gradiente attraverso l’intera rete. L’obiettivo è affrontare uno dei limiti teorici attribuiti alla backpropagation, cioè la necessità di coordinare in modo preciso calcolo forward, propagazione dell’errore e aggiornamento dei pesi in tutti i livelli della rete, un meccanismo per il quale non esiste un equivalente diretto nei circuiti biologici.
Nel predictive coding tradizionale, ogni layer cerca di ridurre la differenza tra il proprio stato e la previsione generata dai layer vicini, producendo segnali di errore che vengono utilizzati per aggiornare attivazioni e pesi. Questo approccio permette di effettuare aggiornamenti locali, ma nelle reti molto profonde il segnale utile per attribuire il merito delle decisioni tende a indebolirsi durante la propagazione, soprattutto quando i layer sono numerosi e relativamente stretti. PC-ALM introduce invece una variabile duale, equivalente a un moltiplicatore di Lagrange, associata a ciascun layer e utilizzata per accumulare nel tempo gli errori di vincolo. Questa memoria dell’errore viene reinserita nella dinamica locale delle attivazioni, permettendo di costruire un segnale di apprendimento più stabile anche a grande profondità.
Dal punto di vista matematico, PC-ALM sostituisce il normale passo di inferenza del predictive coding con una procedura derivata dal metodo dei moltiplicatori applicato alla lagrangiana aumentata. Nei modelli lineari, quando il sistema raggiunge l’equilibrio, i moltiplicatori di Lagrange convergono esattamente verso il segnale di gradiente utilizzato dalla backpropagation. Questo significa che ogni layer può ricostruire localmente un segnale equivalente a quello che sarebbe stato ottenuto propagando il gradiente attraverso l’intera rete, pur utilizzando soltanto il proprio stato, quelli dei layer adiacenti e le variabili duali accumulate durante l’inferenza.
Gli autori descrivono questa dinamica come una forma di propagazione “balistica” del segnale di credito, in contrapposizione alla propagazione più lenta e diffusa osservata nel predictive coding standard. Nel metodo tradizionale il segnale tende infatti a concentrarsi vicino alla funzione di perdita e a raggiungere con difficoltà i layer più lontani, mentre PC-ALM distribuisce il credito in modo molto più uniforme lungo la rete. Nei test sperimentali questa proprietà ha permesso di ridurre in modo significativo il divario tra predictive coding e backpropagation nelle architetture profonde e strette, dove il metodo convenzionale mostrava le difficoltà maggiori.
Le verifiche sono state condotte inizialmente su reti MLP residuali utilizzando Fashion-MNIST e MNIST, variando profondità, larghezza e funzione di attivazione. Impostando il numero di iterazioni di inferenza a T=2L, dove L rappresenta la profondità della rete, PC-ALM ha ottenuto prestazioni vicine a quelle della backpropagation in differenti configurazioni e ha superato il predictive coding tradizionale soprattutto nelle reti profonde e con pochi neuroni per layer. In un esperimento su MNIST con larghezza 32, funzione ReLU e una rete residuale da 1.000 layer, ripetuto cinque volte, la differenza rispetto alla backpropagation è rimasta entro circa due punti percentuali.
Il confronto è stato esteso anche ad architetture convoluzionali. Nei test con ResNet-18 su CIFAR-10 e Tiny ImageNet, PC-ALM ha ottenuto risultati migliori rispetto al predictive coding tradizionale. Nel paper gli autori sottolineano inoltre che, mantenendo lo stesso budget di inferenza, il metodo riesce a ridurre il divario con la backpropagation fino a reti con profondità 128 nei benchmark principali, mentre gli esperimenti su configurazioni ancora più profonde servono soprattutto a studiare la dinamica con cui il segnale di credito attraversa la rete.
PC-ALM rimane comunque una tecnica sperimentale. L’implementazione pubblicata dai ricercatori è scritta in JAX e può essere eseguita anche su CPU, ma è destinata principalmente alla ricerca e le prove disponibili riguardano ancora soprattutto attività di classificazione di immagini di dimensioni relativamente contenute. Il metodo richiede inoltre più memoria rispetto al predictive coding convenzionale, perché deve conservare sia le attivazioni sia le variabili duali utilizzate per accumulare gli errori nei diversi layer.
Il lavoro non dimostra quindi che la backpropagation possa essere sostituita immediatamente nei grandi modelli utilizzati in produzione, ma mostra che una procedura di apprendimento basata esclusivamente su dinamiche locali può avvicinarsi ai suoi segnali di gradiente e alle sue prestazioni in reti molto profonde. L’interesse principale di PC-ALM riguarda proprio questa possibilità: ottenere un meccanismo di attribuzione del credito distribuito tra i layer senza eseguire un unico passaggio globale all’indietro attraverso l’intera rete.
Questo articolo è stato redatto con il supporto di strumenti di intelligenza artificiale (AI)