Anthropic ha annunciato il 12 ottobre 2026 un rafforzamento delle misure di protezione dei modelli Claude contro i tentativi di distillazione non autorizzata, con particolare attenzione all’acquisizione sistematica delle informazioni generate durante il ragionamento. Secondo i dati diffusi dall’azienda, le nuove difese hanno ridotto del 90-99% la quantità di dati di ragionamento che gli operatori malevoli riescono a estrarre attraverso richieste ripetute. La distillazione è una tecnica di apprendimento attraverso la quale un modello viene addestrato utilizzando gli output di un sistema più avanzato, con l’obiettivo di trasferirne almeno parzialmente le capacità. Il procedimento può essere impiegato legittimamente nella ricerca e nell’ottimizzazione dei modelli, ma diventa problematico quando comporta l’acquisizione automatizzata e non autorizzata di grandi quantità di risposte, contenuti riservati o informazioni interne. Anthropic sostiene che alcune operazioni di estrazione si siano trasformate in attività organizzate su scala industriale, condotte attraverso reti di proxy e centinaia di migliaia di account creati per interrogare ripetutamente Claude. In una precedente indagine, pubblicata a febbraio, l’azienda aveva individuato una rete che gestiva contemporaneamente oltre 20.000 account falsi.
Una parte delle nuove difese riguarda direttamente i blocchi di ragionamento protetti, ossia le rappresentazioni del processo inferenziale che Claude può utilizzare durante l’elaborazione di richieste complesse. Tali informazioni risultano particolarmente interessanti per chi intende addestrare modelli concorrenti, perché possono contenere dettagli sulle modalità di risoluzione dei problemi non ricavabili dalla sola risposta finale. Anthropic ha quindi introdotto restrizioni per impedire che questi blocchi vengano trasferiti da una conversazione all’altra o inseriti in contesti elaborati da modelli dotati di protezioni meno rigorose. Nei modelli Fable 5.1 e Opus 5.5 viene applicata una funzione denominata preserved thinking, mentre gli account API creati dal 31 agosto 2026 sono sottoposti a limitazioni sulla possibilità di modificare arbitrariamente il contesto delle conversazioni precedenti. Per Sonnet 5.5 è stato inoltre introdotto un controllo che limita l’accesso ai contenuti di ragionamento all’organizzazione responsabile della richiesta originale. Queste misure sono progettate per ostacolare gli attacchi che tentano di ricostruire progressivamente le tracce inferenziali attraverso conversazioni separate o richieste effettuate da identità differenti.
Un secondo livello di protezione consiste in un sistema di classificazione in tempo reale che analizza le richieste alla ricerca di tentativi di estrazione dei ragionamenti. La tecnologia deriva dalle ricerche sui Constitutional Classifiers e utilizza un’architettura a due livelli per identificare istruzioni dirette a ottenere la riproduzione integrale delle catene di pensiero o a eludere i meccanismi che ne limitano l’esposizione. I controlli sono applicati ai principali modelli della famiglia Claude, tra cui Sonnet 5.5, Opus 5 e 5.5, Fable 5 e Fable 5.1. Anthropic ha dichiarato che il livello di protezione ottenuto è comparabile a quello utilizzato per contrastare richieste particolarmente pericolose in ambito biologico, mantenendo un tasso di falsi positivi inferiore allo 0,1%. Durante le verifiche sono stati identificati tentativi di aggiramento basati sulla traduzione dei ragionamenti in altre lingue e sull’inserimento di marcatori specifici nelle risposte. L’azienda aggiorna progressivamente i classificatori per intercettare queste varianti e adattare le difese a nuove tecniche di estrazione.
Il terzo livello riguarda la gestione degli account e dei costi associati alle richieste abusive. I sistemi di rilevamento possono applicare limitazioni alle utenze che presentano comportamenti sospetti ripetuti e procedere alla sospensione definitiva quando vengono individuate attività riconducibili alla distillazione non autorizzata. Dal 24 settembre Anthropic ha inoltre iniziato ad addebitare i costi di alcune richieste bloccate dai meccanismi di sicurezza, comprese quelle classificate come tentativi di estrazione con un livello di affidabilità elevato. La misura introduce un costo economico anche per le operazioni che non riescono a ottenere il contenuto richiesto. L’azienda dichiara che, dopo l’introduzione delle nuove difese, il numero di token di ragionamento sottratti è sceso a un livello compreso tra un centesimo e un decimo di quello precedente. Sono stati inoltre bloccati decine di migliaia di account associati alle operazioni individuate, in alcuni casi entro due ore dall’inizio dell’attività sospetta.
Anthropic ha collegato il problema della distillazione anche alla diffusione di capacità avanzate in materia di cybersicurezza, sostenendo che modelli ottenuti attraverso estrazioni non autorizzate potrebbero replicare competenze particolarmente sensibili senza riprodurre necessariamente le relative protezioni. L’azienda ha indicato la società cinese Z.ai tra i soggetti sospettati di aver cercato di acquisire capacità informatiche di Claude durante lo sviluppo di GLM-5.3, un modello open weight al quale il centro statunitense CAISSI ha attribuito capacità particolarmente elevate in ambito cyber. Le affermazioni relative ai tentativi di distillazione sono attribuite ad Anthropic e non costituiscono una verifica indipendente delle responsabilità dei soggetti citati. L’azienda ha inoltre riconosciuto che le nuove misure comportano costi economici e operativi significativi, compresa la rinuncia a traffico a pagamento nell’ordine di migliaia di miliardi di token e la necessità, per alcuni sviluppatori legittimi, di modificare le proprie integrazioni API. La strategia combina così restrizioni sull’accesso ai dati inferenziali, classificazione delle richieste sospette e interventi sulle utenze, con l’obiettivo dichiarato di rendere più difficile ed economicamente onerosa la replica non autorizzata delle capacità dei modelli Claude.
Questo articolo è stato redatto con il supporto di strumenti di intelligenza artificiale (AI)