Anthropic ha annunciato di aver raddoppiato il limite massimo di token dell’uscita del modello di intelligenza artificiale Claude 3.5 Sonnet, portandolo da 4.096 a 8.192 token. Questa modifica permette di generare risposte AI più lunghe e dettagliate.
Gli sviluppatori che utilizzano l’API di Anthropic possono ora sfruttare questo miglioramento aggiungendo la specifica intestazione beta “anthropic-beta”: “max-tokens-3.5-sonnet-2024-07-15” nelle loro chiamate API. Questo va inserito nel parametro extra-headers durante la creazione dei messaggi.
Il parametro di temperatura resta impostato a 0,7, garantendo un equilibrio tra creatività e coerenza nelle risposte generate.
Questo aggiornamento offre maggiore flessibilità nella generazione di contenuti estesi, migliorando le applicazioni in settori come la generazione di testo lungo, l’analisi dettagliata e la risoluzione di problemi complessi.
Il team di sviluppo di Anthropic ha precisato che questa modifica è attualmente disponibile solo tramite API e non è ancora implementata su claude.ai, ma sperano di estenderla all’interfaccia web in futuro.
L’aumento del limite di token apre nuove possibilità per gli sviluppatori che lavorano con la generazione di testi su larga scala e compiti linguistici complessi.