Anthropic ha introdotto in beta pubblica Message Threads, una nuova funzionalità della Messages API disponibile sulla piattaforma Claude che permette alle applicazioni di mantenere una conversazione attiva sul server e trasmettere, a ogni richiesta successiva, soltanto i nuovi messaggi anziché inviare nuovamente l’intera cronologia. La soluzione è stata progettata principalmente per gli agenti di intelligenza artificiale impegnati in attività prolungate, come lo sviluppo software, l’interazione automatizzata con applicazioni e interfacce grafiche, l’elaborazione di grandi documenti e la gestione di contenuti multimediali. In questi scenari, una sessione può accumulare centinaia di migliaia di token, comprendendo istruzioni, risposte precedenti, risultati degli strumenti, immagini e schermate. Nelle implementazioni tradizionali della Messages API, ogni nuovo turno richiede la ritrasmissione completa di questi contenuti, con conseguenti operazioni ripetute di trasferimento, validazione e tokenizzazione. Message Threads interviene su questa componente dell’elaborazione, conservando temporaneamente la cronologia sul server e utilizzando un identificativo per recuperarla. Anthropic dichiara che, nelle richieste comprendenti da 500.000 a un milione di token, l’utilizzo della funzionalità ha prodotto una riduzione di circa il 35% del tempo mediano necessario a ricevere il primo token della risposta, sulla base dell’esperienza con Claude Code, dove il sistema risulta già attivato per la maggior parte degli utenti.
L’architettura prevede due operazioni distinte, denominate create e continue. Nella richiesta iniziale, l’applicazione invia la conversazione completa, il prompt di sistema, gli strumenti disponibili e il parametro dedicato al thread. Il servizio conserva questi elementi insieme alla risposta generata da Claude, associandoli all’identificativo della risposta stessa. Nei turni successivi, il client può trasmettere soltanto i messaggi aggiunti dopo l’ultima risposta, accompagnati dal relativo identificativo, senza ripetere il prompt di sistema o le definizioni degli strumenti. Il server ricostruisce quindi il contesto necessario all’elaborazione. Ogni nuova risposta genera un identificativo utilizzabile per il turno seguente, creando una sequenza incrementale nella quale i messaggi possono essere aggiunti ma non modificati retroattivamente. La caratteristica è importante anche dal punto di vista economico: sebbene diminuiscano i dati trasferiti e alcune operazioni preliminari, Claude continua a elaborare l’intera conversazione a ogni turno. Di conseguenza, Message Threads non riduce il numero di token fatturabili, non modifica le tariffe ordinarie e non introduce nuovi limiti di utilizzo rispetto a quelli già applicati ai modelli.
La conservazione dei thread è temporanea e non sostituisce un sistema di archiviazione delle conversazioni. Anthropic specifica che la possibilità di proseguire una sessione viene mantenuta secondo un criterio best-effort, con scadenza dopo cinque minuti dall’ultima richiesta; ogni risposta memorizzata rinnova questa finestra. I contenuti vengono conservati in memoria con crittografia gestita dal server, senza essere scritti su uno storage persistente, e sono eliminati entro un’ora dall’ultimo utilizzo. Il thread comprende anche una rappresentazione dei parametri fissi della richiesta, utilizzata per verificare la compatibilità delle operazioni successive. Gli eventuali file vengono mantenuti tramite riferimenti, rendendo necessario che l’applicazione continui a renderli disponibili per l’intera durata della sessione. Il client rimane quindi responsabile della cronologia completa e deve poterla inviare nuovamente per ricreare il thread in caso di scadenza, errore o incompatibilità. Anthropic mette a disposizione anche un helper negli SDK che gestisce la creazione e la continuazione delle sessioni, aggiunge automaticamente l’header richiesto dalla beta, conserva i messaggi nella memoria dell’applicazione e può effettuare una singola ricostruzione completa in presenza di determinati errori di continuazione.
Sono previste limitazioni specifiche per la gestione del contesto e delle risposte. I thread non attivano automaticamente il prompt caching, che deve essere configurato separatamente mediante cache breakpoints o tramite il parametro cache_control, con un massimo di quattro punti di controllo per richiesta. Ogni identificativo di risposta può essere utilizzato una sola volta per proseguire la conversazione, mentre le modifiche ai campi stabiliti nella richiesta iniziale, compresi il prompt di sistema e gli strumenti, richiedono la creazione di un nuovo thread completo. Nelle risposte in streaming, il client deve attendere l’evento message_stop prima di utilizzare l’identificativo ricevuto, poiché una continuazione prematura può produrre un errore HTTP 404. Inoltre, l’helper SDK non ripete automaticamente una continuazione dopo l’interruzione dello stream, e gli eventuali turni eseguiti mediante modelli di fallback non vengono registrati nel thread. In quest’ultimo caso, per ripristinare la continuità è necessario inviare nuovamente l’intera conversazione.
La beta è disponibile sulla piattaforma Claude gestita direttamente da Anthropic, su Claude Platform on AWS, su Claude in Microsoft Foundry e sui modelli Claude distribuiti attraverso Google Cloud sotto gestione Anthropic, con supporto per tutti i modelli. Non sono invece disponibili API dedicate all’elenco, alla lettura o alla cancellazione dei thread, né il supporto a Message Batches, conteggio preventivo dei token, compattazione del contesto su richiesta e gran parte delle operazioni di modifica della cronologia. La funzionalità non è utilizzabile dalle organizzazioni che hanno attivato gli Inference hooks e non è idonea agli ambienti soggetti ai requisiti di Zero Data Retention o HIPAA, senza tuttavia modificare l’idoneità delle altre funzionalità che rispettano tali requisiti. Message Threads introduce dunque un meccanismo di riutilizzo temporaneo della cronologia orientato soprattutto alla riduzione della latenza delle API, mantenendo nelle applicazioni la responsabilità della persistenza, del recupero e della gestione completa delle sessioni.
Questo articolo è stato redatto con il supporto di strumenti di intelligenza artificiale (AI)