Anthropic ha introdotto nella Claude Platform il supporto all’esportazione delle tracce OpenTelemetry, rendendo disponibile in beta pubblica un sistema di osservabilità per monitorare le operazioni eseguite da Claude Managed Agents, Messages API e SDK della piattaforma. La funzionalità consente agli sviluppatori di inviare a strumenti esterni le informazioni associate all’esecuzione degli agenti, comprese chiamate ai modelli, utilizzo di strumenti, tempi di risposta, identificatori delle richieste e consumo di token, adottando le convenzioni semantiche OpenTelemetry GenAI e il protocollo standard OTLP. Le tracce possono essere analizzate insieme ai log e alle metriche delle applicazioni, permettendo di ricostruire il comportamento di un agente attraverso i diversi componenti software che intervengono nell’elaborazione di una richiesta.
L’integrazione prevede due modalità di configurazione, corrispondenti ai differenti livelli di osservabilità disponibili. Nel caso delle API e di Claude Managed Agents, gli amministratori configurano una destinazione di esportazione nella Claude Console, autorizzando l’invio delle tracce verso il sistema esterno; per gli SDK, invece, gli sviluppatori possono registrare direttamente nel codice un tracer provider, senza richiedere autorizzazioni amministrative specifiche. Ogni trace rappresenta l’intero percorso di elaborazione di una richiesta e contiene una serie di span relativi alle singole attività, come l’interrogazione di un modello o l’esecuzione di uno strumento. La combinazione delle due modalità permette di ottenere informazioni sulle operazioni eseguite dal lato API e sulle attività gestite dal client, comprese le chiamate a strumenti locali, l’esecuzione in ambienti sandbox e ulteriori richieste come il caricamento di file. Per le richieste indirizzate alla Claude Platform attraverso AWS, gli span API vengono invece registrati in tracce separate.
La gestione dei contenuti esportati prevede due livelli di dettaglio. La modalità predefinita Metadata only include identificatori, tempi, stati di esecuzione, consumo di token e alcune informazioni descrittive relative ad agenti e strumenti; Full content consente di aggiungere prompt e risposte dei modelli. In quest’ultimo caso, il limite ordinario per span è fissato a 0,75 MB, una dimensione progettata per contenere il testo di una finestra contestuale di circa 200.000 token e rimanere al di sotto del limite di un megabyte applicato da numerosi strumenti di osservabilità. Quando i contenuti superano tale soglia vengono troncati e contrassegnati dall’attributo anthropic.content.truncated. Le restrizioni contrattuali previste per organizzazioni soggette a requisiti HIPAA, FERPA o relativi ai servizi per l’istruzione K-12 limitano l’esportazione API ai metadati; per gli ambienti con zero data retention, invece, l’esportazione Full content può operare mantenendo temporaneamente i dati in memoria fino alla consegna alla destinazione configurata, secondo le condizioni specifiche del servizio.
Il supporto OpenTelemetry permette di utilizzare piattaforme quali Grafana Cloud, Honeycomb, Sentry, Splunk, Arize AI, Braintrust, Datadog, Langfuse, LangSmith, New Relic, PostHog e Databricks Unity Gateway, applicando le rispettive funzionalità al debugging, alla valutazione delle prestazioni, al controllo dei costi e alla ricostruzione delle operazioni effettuate dagli agenti. Tra le prime implementazioni figurano Foxglove, che utilizza PostHog per collegare l’attività degli agenti ai dati di utilizzo dei propri strumenti di robotica, e Ramp, che impiega un sistema denominato Reflect per esaminare le tracce Langfuse, riconoscere errori ricorrenti e proporre correzioni. Ramp riferisce riduzioni del consumo di token comprese tra il 10 e il 20% e sessioni accelerate del 30% in alcune applicazioni. Sterling Labs utilizza l’esportazione verso Langfuse per osservare agenti impegnati nell’analisi dei mercati, mentre FloQast integra le tracce in Grafana Cloud per ricostruire le operazioni eseguite durante i processi contabili, collegando ciascuna chiamata al modello al relativo flusso di riconciliazione o registrazione. La documentazione precisa inoltre che, nei sistemi che raccolgono simultaneamente tracce SDK e API, il conteggio dei token deve riferirsi a una sola fonte per evitare duplicazioni nella contabilizzazione.
Questo articolo è stato redatto con il supporto di strumenti di intelligenza artificiale (AI)