Un utente sudcoreano di Claude ha ricevuto da Anthropic richieste di pagamento per milioni di dollari nonostante utilizzasse il piano gratuito, non avesse mai impiegato le API e visualizzasse un consumo pari a zero nel pannello del proprio account. L’importo più elevato ha raggiunto 16.627.739,70 dollari, equivalenti a circa 250 miliardi di won sudcoreani.
Il caso non riguardava una semplice comunicazione fraudolenta costruita per imitare Anthropic. Le email provenivano dall’infrastruttura ufficiale di fatturazione collegata all’azienda e utilizzavano il sistema di pagamento Stripe. La banca dell’utente ha inoltre registrato reali richieste di autorizzazione per operazioni internazionali, successivamente respinte. Nessuna somma è stata trasferita, ma il blocco è avvenuto grazie ai controlli dell’istituto di credito e non perché la richiesta fosse rimasta confinata a un documento privo di effetti operativi.
La prima comunicazione indicava un debito di 1.669.875,90 dollari. Nel giro di circa ventiquattro ore è comparsa una seconda richiesta da 16.627.739,70 dollari, quasi dieci volte superiore. Nello stesso periodo, il pannello di gestione dell’account continuava a mostrare una spesa API di 0,00 dollari.
L’anomalia appare particolarmente rilevante perché l’utente ha dichiarato di non avere utilizzato l’interfaccia di programmazione di Anthropic. I servizi API vengono normalmente fatturati in base al numero di token elaborati dai modelli, mentre l’accesso gratuito al chatbot Claude non dovrebbe generare un consumo del valore di milioni di dollari. Anche un processo automatico rimasto accidentalmente in esecuzione avrebbe dovuto lasciare tracce nella cronologia dell’organizzazione, nei dati di utilizzo e nei limiti di spesa associati all’account.
Secondo la ricostruzione resa pubblica dall’utente, sul profilo non risultava neppure registrato un metodo di pagamento destinato alle API. La banca ha tuttavia rilevato almeno due tentativi di addebito provenienti dagli Stati Uniti. Questo elemento lascia aperta una questione importante: la richiesta non ha prodotto soltanto fatture con cifre errate, ma è arrivata fino alla rete utilizzata per autorizzare il pagamento.
Anthropic ha successivamente riconosciuto che si trattava di un errore del sistema di fatturazione e ha dichiarato di avere risolto il problema con la persona coinvolta. L’azienda non ha però fornito una spiegazione tecnica pubblica, non ha precisato quale componente abbia generato gli importi e non ha indicato se l’anomalia potesse riguardare altri account.
L’assenza di un chiarimento impedisce di stabilire se il problema sia nato nel calcolo dei consumi, nell’associazione tra una fattura e l’account corretto, nella conversione delle unità monetarie oppure nella trasmissione dei dati al sistema di pagamento. Non è possibile neppure confermare che l’aumento di dieci volte tra le due richieste dipendesse da un nuovo conteggio dei consumi. Qualsiasi spiegazione più dettagliata, in mancanza dei registri interni di Anthropic, rimarrebbe un’ipotesi.
Il caso mette comunque in evidenza la separazione tra le diverse componenti di una piattaforma AI. Il contatore mostrato all’utente, il sistema che calcola la spesa, il servizio che genera le fatture e il processore che tenta l’addebito possono utilizzare archivi e procedure differenti. Se i dati non vengono riconciliati prima dell’emissione, un valore errato può attraversare più livelli dell’infrastruttura anche quando il pannello principale continua a mostrare un saldo nullo.
Una piattaforma di questo tipo dovrebbe normalmente applicare diversi controlli prima di presentare una richiesta di pagamento così elevata. Il totale fatturato dovrebbe essere confrontato con il consumo registrato, con la presenza di una chiave API attiva, con il limite di spesa impostato dall’utente e con gli importi abituali dell’account. Una variazione improvvisa da zero a oltre 16 milioni di dollari dovrebbe inoltre attivare una revisione manuale prima di raggiungere il circuito bancario.
Le API di Anthropic consentono agli sviluppatori di impostare limiti e soglie di utilizzo, proprio per evitare che un’applicazione, un errore nel codice o un agente rimasto in esecuzione generino costi incontrollati. Questi strumenti sono però efficaci soltanto quando la fatturazione deriva realmente dall’attività dell’account corretto. Se il problema nasce a valle del consumo, per esempio nell’associazione dei dati a un cliente o nella produzione della fattura, un limite applicato alle chiamate API potrebbe non essere sufficiente.
L’episodio ha riguardato un conto personale con capacità di pagamento molto inferiore all’importo richiesto. In un contesto aziendale, però, carte corporate, mandati di addebito e strumenti associati a limiti più elevati potrebbero rendere le conseguenze più complesse. Anche quando la transazione viene respinta, i ripetuti tentativi possono provocare il blocco della carta, l’apertura di verifiche antifrode e l’interruzione temporanea di altri servizi pagati attraverso lo stesso metodo.
Nel caso sudcoreano, la carta principale dell’utente sarebbe stata bloccata in seguito alle richieste respinte. La soluzione ha inoltre richiesto numerosi contatti con i diversi canali di assistenza prima che il problema venisse inoltrato a un operatore competente. Secondo la ricostruzione condivisa pubblicamente, sarebbero state inviate circa quindici comunicazioni prima dell’escalation.
La gestione dell’assistenza rappresenta quindi una seconda componente del problema. Un sistema automatizzato può classificare con difficoltà una segnalazione eccezionale quando l’account, osservato attraverso gli strumenti ordinari, non mostra alcun consumo. Il chatbot di supporto potrebbe verificare il saldo nullo e concludere che non esiste una fattura da contestare, mentre l’utente dispone di email ufficiali e di tentativi di pagamento registrati dalla banca.
Per gestire correttamente casi simili, il personale dovrebbe poter confrontare gli identificativi delle fatture, gli eventi prodotti dal processore di pagamento, i dati dell’account Claude e i registri dell’organizzazione API. La sola consultazione del pannello visibile al cliente non è sufficiente, perché proprio la discrepanza tra queste fonti costituisce il centro dell’anomalia.
Altri utenti hanno segnalato pubblicamente problemi differenti legati alla fatturazione di Claude, tra cui abbonamenti pagati ma non attivati correttamente, ripetuti piccoli addebiti e difficoltà nell’ottenere assistenza umana. Queste testimonianze non dimostrano che tutti i casi abbiano la stessa origine tecnica e non permettono di considerarli parte di un unico malfunzionamento. Mostrano però quanto sia importante disporre di procedure rapide per verificare le transazioni quando i dati del cliente e quelli del sistema di pagamento non coincidono.
La fatturazione dei modelli di intelligenza artificiale è più difficile da verificare rispetto a quella di molti servizi digitali tradizionali. I costi possono dipendere dai token in entrata e in uscita, dal modello utilizzato, dalla durata della cache, dagli strumenti richiamati e dall’eventuale elaborazione interna necessaria per produrre la risposta. Il fornitore conserva inoltre gran parte delle informazioni necessarie a ricostruire il calcolo, mentre il cliente può controllare soltanto i dati esposti nel pannello o restituiti dalle API.
Questa asimmetria rende indispensabile la coerenza tra registri tecnici e documenti contabili. Se il pannello indica zero richieste e zero token consumati, una fattura dovrebbe essere automaticamente sospesa fino alla verifica della sua origine. Non dovrebbe spettare all’utente dimostrare di non avere prodotto un’attività che lo stesso sistema del fornitore non riesce a mostrare.
L’errore attribuito ad Anthropic non ha causato la perdita dei 16,6 milioni di dollari indicati, ma ha prodotto conseguenze concrete: richieste bancarie reali, blocco della carta e diversi giorni necessari per ottenere una risposta. Il fatto che un addebito sia tecnicamente impossibile da completare non rende quindi innocuo il malfunzionamento.
Il caso mostra soprattutto la necessità di applicare alla fatturazione automatizzata gli stessi controlli richiesti ai sistemi finanziari tradizionali. Gli importi anomali devono essere fermati prima dell’autorizzazione, le fatture devono poter essere riconciliate con eventi di utilizzo verificabili e le contestazioni di particolare gravità devono raggiungere rapidamente un operatore umano.
Anthropic ha dichiarato di avere risolto la situazione con l’utente coinvolto, ma la mancata pubblicazione della causa lascia irrisolte le domande sull’affidabilità dei controlli che precedono l’emissione e l’addebito delle fatture. Per gli utenti e per le imprese che utilizzano servizi AI a consumo, la vicenda ricorda che il monitoraggio delle API non dovrebbe limitarsi ai token: deve comprendere anche notifiche bancarie, limiti delle carte, soglie di spesa e procedure immediate per bloccare pagamenti incoerenti con l’attività realmente registrata.