Anthropic, azienda leader nel campo dell’intelligenza artificiale, ha recentemente annunciato l’implementazione di una nuova funzione API denominata “Citations”. Questa innovazione consente agli sviluppatori di configurare le proprie applicazioni affinché il modello linguistico di Anthropic, noto come “Claude”, fornisca risposte basate su documenti di riferimento specifici. L’obiettivo principale è ridurre errori noti come “allucinazioni” e garantire risultati più verificabili e affidabili.
La funzione Citations permette a Claude di generare risposte che includono riferimenti dettagliati alle frasi e ai passaggi esatti dei documenti utilizzati durante l’elaborazione. Gli sviluppatori possono aggiungere file di origine che Claude utilizzerà per formulare le risposte, assicurando che le affermazioni siano automaticamente supportate da citazioni pertinenti. Questa capacità è particolarmente utile in applicazioni come la sintesi di documenti, le sessioni di domande e risposte e il supporto clienti, dove la precisione e la trasparenza sono fondamentali.
La funzione Citations si presenta come un complemento al metodo noto come Retrieval-Augmented Generation (RAG). Mentre RAG prevede l’integrazione di informazioni recuperate da fonti esterne durante la generazione delle risposte, Citations consente a Claude di fare riferimento direttamente ai file forniti, evitando potenziali ritardi o complessità di sistema associati a RAG. Recentemente, alcuni esperti hanno suggerito che l’inserimento diretto di tutti i documenti nel prompt, sfruttando finestre di contesto estese e tecniche di caching, possa essere più efficace di RAG. Queste discussioni evidenziano l’importanza di sviluppare metodi complementari per migliorare l’affidabilità dei modelli linguistici.
La funzione Citations è disponibile attraverso i modelli “Claude 3.5 Sonnet” e “Claude 3.5 Haiku” sia nell’API di Anthropic che sulla piattaforma “Vertex AI” di Google. I costi associati all’utilizzo di Citations variano in base alla lunghezza e al numero dei documenti. Secondo il listino prezzi standard dell’API di Anthropic, l’elaborazione di un documento di circa 100 pagine comporta un costo di 0,30 dollari utilizzando Claude 3.5 Sonnet e di 0,08 dollari con Claude 3.5 Haiku. Anthropic sottolinea che, per gli sviluppatori interessati a ridurre errori e allucinazioni nei modelli AI, questo investimento rappresenta un valore significativo. Per facilitare l’adozione della nuova funzione, l’azienda ha reso disponibile una guida dettagliata.