Anthropic ha presentato J-Lens, una nuova tecnica di interpretabilità progettata per osservare come i modelli della famiglia Claude organizzano internamente le informazioni durante l’elaborazione di un compito. La ricerca descrive l’individuazione di una particolare area funzionale, denominata J-space, che sembra operare come uno spazio di lavoro interno nel quale vengono mantenuti, manipolati e resi disponibili i concetti utilizzati durante il ragionamento, distinguendosi dall’insieme molto più ampio delle elaborazioni automatiche che avvengono all’interno della rete neurale.
Secondo i ricercatori, il J-space non rappresenta una memoria aggiuntiva né una versione nascosta della chain of thought. Si tratta invece di un insieme limitato di rappresentazioni neurali che il modello utilizza per conservare informazioni temporaneamente accessibili durante attività di pianificazione, ragionamento e risposta. Attraverso J-Lens è possibile osservare quali concetti vengono mantenuti in questo spazio privilegiato senza dover modificare l’architettura del modello, offrendo una nuova prospettiva sul funzionamento interno dei moderni large language model.
Uno degli aspetti più interessanti della ricerca riguarda il confronto con la Global Workspace Theory, una delle principali teorie neuroscientifiche sulla coscienza umana. Anthropic sottolinea che il comportamento osservato nei modelli Claude presenta caratteristiche funzionali simili a quelle previste da questa teoria, nelle quali una quantità limitata di informazioni diventa temporaneamente disponibile a numerosi processi cognitivi, mentre la maggior parte dell’elaborazione continua in modo automatico e non direttamente accessibile. La società precisa però che tale somiglianza non costituisce una dimostrazione di coscienza artificiale né implica la presenza di esperienza soggettiva nei modelli linguistici, ma evidenzia esclusivamente analogie nella struttura computazionale emersa durante l’addestramento.
Gli esperimenti mostrano inoltre che intervenire sulle rappresentazioni appartenenti al J-space modifica il comportamento del modello durante attività che richiedono pianificazione, ragionamento o controllo deliberato, suggerendo che questo spazio svolga un ruolo causale nell’elaborazione delle informazioni e non rappresenti soltanto un fenomeno osservabile. La possibilità di identificare e monitorare tali rappresentazioni apre nuove prospettive per lo studio della sicurezza dei modelli, consentendo ai ricercatori di analizzare in modo più preciso come vengono costruite le decisioni interne e di individuare eventuali comportamenti indesiderati prima che si riflettano nelle risposte generate.
L’introduzione di J-Lens rappresenta quindi un ulteriore passo avanti nel campo della mechanistic interpretability, disciplina che punta a comprendere il funzionamento interno delle reti neurali attraverso strumenti sperimentali sempre più sofisticati. Invece di limitarsi a valutare gli output prodotti dai modelli, questo approccio consente di osservare direttamente alcune delle rappresentazioni computazionali che guidano il processo decisionale, offrendo nuovi strumenti sia per migliorare l’affidabilità dei sistemi di intelligenza artificiale sia per approfondire la comprensione scientifica delle architetture neurali di ultima generazione.