Anthropic ha avviato il ritiro di una funzione sperimentale inserita in Claude Code che analizzava alcuni segnali tecnici dell’utente, tra cui fuso orario, utilizzo di proxy e possibili collegamenti con organizzazioni di ricerca cinesi. Il meccanismo, introdotto nel corso di marzo, era stato progettato per individuare accessi indiretti al servizio, abusi di account attraverso rivenditori non autorizzati e potenziali attività di model distillation.
La model distillation consiste nell’utilizzare in modo sistematico le risposte di un modello avanzato per addestrare o migliorare un altro modello. Quando questo processo avviene senza autorizzazione, può trasformarsi in una forma di estrazione di capacità: grandi volumi di prompt vengono inviati a un modello proprietario, le risposte vengono raccolte e impiegate come dati sintetici per replicarne comportamento, conoscenze operative e modalità di ragionamento. Per i fornitori di modelli frontier, il problema riguarda sia la tutela della proprietà intellettuale sia il consumo di risorse computazionali e API da parte di reti organizzate.
Nel caso di Claude Code, il test avrebbe inserito nel contesto di sistema informazioni derivate dall’ambiente di utilizzo, con l’obiettivo di rafforzare i controlli contro aggiramenti geografici e accessi da canali non ufficiali. Anthropic non offre formalmente Claude in Cina, ma sviluppatori e utenti possono tentare di raggiungere il servizio tramite numeri telefonici, carte di pagamento e infrastrutture di rete estere. L’analisi di elementi come timezone, instradamento del traffico e configurazioni proxy può quindi essere usata per stimare anomalie o incongruenze tra account, localizzazione apparente e modalità di accesso.
La funzione ha però sollevato un problema rilevante di trasparenza. Anche quando il fine è la prevenzione degli abusi, raccogliere o dedurre informazioni tecniche senza una comunicazione chiara all’utente espone il servizio a critiche sulla gestione dei dati e sulla proporzionalità del monitoraggio. In un ambiente di sviluppo assistito dall’AI, Claude Code può infatti operare su repository, terminali, file locali e flussi di lavoro aziendali: per questo gli utenti si aspettano che ogni telemetria aggiuntiva, soprattutto se finalizzata alla profilazione del rischio, sia spiegata in modo esplicito e documentato.
Anthropic ha chiarito che il test era temporaneo e che verrà completamente rimosso, sostenendo di aver introdotto nel frattempo misure più robuste contro account abuse e distillation. L’episodio evidenzia una tensione sempre più concreta per le piattaforme AI: proteggere modelli, credenziali e infrastrutture da utilizzi coordinati e non autorizzati senza trasformare i sistemi di sicurezza in strumenti opachi di sorveglianza tecnica. In questa fase, la qualità delle difese non dipenderà soltanto dalla capacità di individuare segnali sospetti, ma anche dalla chiarezza con cui fornitori e sviluppatori definiscono quali dati vengono trattati, per quale scopo e con quali limiti.