Anthropic ha denunciato l’esistenza di un ecosistema illecito utilizzato da alcune società di intelligenza artificiale straniere, in particolare cinesi, per accedere su larga scala a Claude e raccoglierne le risposte con l’obiettivo di addestrare modelli concorrenti attraverso tecniche di distillazione. Secondo Jacob Klein, responsabile della threat intelligence di Anthropic, gruppi organizzati starebbero creando grandi quantità di account per aggirare le restrizioni imposte dall’azienda e ottenere accesso ai suoi modelli. Anthropic distingue questa attività dalla normale competizione tecnologica, sostenendo che in alcuni casi le modalità utilizzate configurerebbero una vera e propria appropriazione illecita di capacità sviluppate da altri.
Uno degli strumenti principali sarebbe il dark web, utilizzato non soltanto per acquistare credenziali compromesse, ma anche per reperire dati di carte di credito rubate e account AI sottratti a utenti legittimi. Queste risorse permetterebbero a organizzazioni situate in Paesi nei quali l’accesso a Claude è limitato o vietato di creare account di pagamento apparentemente validi e utilizzare normalmente il servizio. Secondo Anthropic, alcuni gruppi arriverebbero a creare da decine di migliaia fino a centinaia di migliaia di account fraudolenti, distribuendo il traffico su una rete molto ampia di indirizzi IP. Questa struttura serve a evitare che migliaia di richieste concentrate su un singolo account o su un unico indirizzo IP vengano immediatamente identificate come comportamento anomalo e bloccate.
Gli account così ottenuti vengono utilizzati per inviare enormi quantità di richieste a Claude e raccogliere sistematicamente le risposte generate. Questi output possono poi diventare dati di addestramento per altri sistemi AI. È il principio della distillazione, una tecnica nella quale un modello più avanzato, definito teacher model, produce risposte utilizzate per trasferire parte delle proprie capacità a un modello più piccolo o meno costoso, lo student model. La distillazione in sé è una tecnica legittima e largamente utilizzata nello sviluppo dell’intelligenza artificiale; il problema indicato da Anthropic riguarda invece l’impiego di account rubati, strumenti di pagamento fraudolenti e infrastrutture costruite appositamente per aggirare i limiti di accesso e raccogliere output in quantità molto superiori a quelle consentite.
Anthropic aveva già accusato diverse società cinesi di ricorrere a procedure di distillazione non autorizzate sui modelli AI più avanzati. Tra i nomi citati figurano Moonshot AI, sviluppatrice della famiglia Kimi e del modello Kimi K3, DeepSeek e MiniMax. Accuse analoghe sono state rivolte anche ad Alibaba, che secondo Anthropic avrebbe tentato di estrarre su larga scala le capacità di Claude attraverso operazioni di distillazione. La questione non riguarda quindi soltanto l’accesso abusivo a un servizio commerciale, ma la possibilità di utilizzare gli output di un modello proprietario come base per accelerare lo sviluppo di sistemi concorrenti senza sostenere integralmente i costi di ricerca, addestramento e sviluppo sostenuti dal produttore originario.
Il fenomeno non sarebbe inoltre limitato alla Cina. Gli stessi meccanismi potrebbero essere utilizzati da soggetti operanti in Iran, Russia, Corea del Nord e in altri Paesi sottoposti a limitazioni nell’accesso ai servizi AI statunitensi. Dark web, credenziali compromesse, strumenti di pagamento fraudolenti e reti distribuite di indirizzi IP possono infatti consentire di aggirare i controlli geografici e rendere più difficile distinguere il traffico illecito da quello generato da utenti legittimi.
La scala delle operazioni rappresenta uno dei principali ostacoli alla difesa. Quando vengono utilizzate decine o centinaia di migliaia di identità digitali, la chiusura di un singolo account ha un impatto minimo perché nuove credenziali possono essere generate o acquistate rapidamente. Anthropic descrive questo processo come una continua rincorsa tra sistemi di rilevamento e infrastrutture fraudolente: ogni account identificato può essere sostituito, mentre la distribuzione delle richieste su molteplici indirizzi IP riduce l’efficacia dei controlli basati esclusivamente sul volume di traffico.
Per Anthropic l’obiettivo realistico non è quindi necessariamente impedire ogni singolo tentativo di accesso, ma aumentare in modo significativo il costo operativo delle campagne di distillazione e ridurne velocità e capacità di scalare. Il problema mette insieme sicurezza degli account, frodi nei pagamenti, controllo degli accessi ai modelli e protezione delle capacità generate dai sistemi AI, trasformando la distillazione non autorizzata in una questione che riguarda contemporaneamente cybersecurity e protezione della proprietà tecnologica.
Questo articolo è stato redatto con il supporto di strumenti di intelligenza artificiale (AI)