Immagine AI

Perplexity ha introdotto Orchestrator API, un’infrastruttura dedicata all’accesso unificato ai modelli linguistici di differenti fornitori, progettata per migliorare la continuità operativa delle applicazioni basate sull’intelligenza artificiale. La caratteristica principale del servizio riguarda la possibilità di trasferire automaticamente una richiesta verso un’infrastruttura alternativa che distribuisce lo stesso modello, qualora il provider inizialmente selezionato non riesca a completare l’elaborazione. Il meccanismo di same-model failover permette quindi di separare la scelta del modello dalla scelta dell’infrastruttura utilizzata per eseguirlo, mantenendo invariata l’identità del modello richiesto dall’applicazione e la relativa tariffazione.

Orchestrator supporta le interfacce OpenAI Chat Completions, OpenAI Responses e Anthropic Messages, consentendo agli sviluppatori di mantenere gli SDK già utilizzati nei propri progetti e modificare principalmente la chiave di autenticazione, l’indirizzo dell’endpoint e l’identificativo del modello. Il servizio opera secondo un’architettura stateless, nella quale ciascuna richiesta viene gestita utilizzando le informazioni fornite dall’applicazione chiamante. A differenza della Agent API di Perplexity, che integra strumenti di ricerca sul web e restituisce risposte corredate da riferimenti documentali, Orchestrator è destinata all’accesso diretto ai modelli, lasciando allo sviluppatore la gestione dei prompt, degli strumenti esterni e della struttura conversazionale.

Il catalogo comprende modelli sviluppati da OpenAI, Anthropic, Google, xAI, DeepSeek, Z.ai e Moonshot AI. Le condizioni di accesso dipendono dal livello di utilizzo associato al progetto: i modelli Google, xAI e quelli distribuiti con pesi aperti sono accessibili a tutti i livelli, mentre l’utilizzo dei modelli OpenAI e Anthropic richiede almeno il Tier 1. Alcuni modelli avanzati, tra cui Claude Opus 5, Opus 5.5 e Fable, richiedono invece il Tier 2.

Perplexity ha analizzato le prestazioni delle infrastrutture tra il 4 ottobre e il 2 novembre 2026, rilevando percentuali di successo superiori per le richieste instradate attraverso Orchestrator rispetto ai singoli provider monitorati. Nello stesso periodo Anthropic e AWS Bedrock hanno registrato alternativamente le migliori velocità di generazione con Claude Opus 5.5, prevalendo ciascuno in quindici giornate. Per GPT-5.6 Sol, Azure ha evidenziato una velocità mediana di produzione dei token superiore del 27% rispetto all’infrastruttura OpenAI. La selezione adattiva del provider basata sulla velocità effettiva rimane tuttavia in fase di sviluppo.

Il servizio introduce anche una funzionalità sperimentale di selezione automatica del modello, attivabile attraverso l’identificativo perplexity/auto. Lo sviluppatore può configurare fino a cinque percorsi di instradamento e un modello predefinito, associando a ciascun percorso una descrizione delle attività da svolgere. Un modello decisionale interpreta il contenuto della conversazione e seleziona il percorso appropriato. In presenza di contenuti multimediali, file, errori di classificazione o superamento dei tempi di elaborazione, viene utilizzato il modello predefinito.

Le richieste non valide e quelle che superano la finestra contestuale restituiscono un errore HTTP 400 senza attivare il failover. L’indisponibilità di tutte le infrastrutture alternative produce invece un errore HTTP 429 accompagnato da indicazioni sui tempi di attesa. Le elaborazioni interrotte prima della produzione dell’output non vengono fatturate, mentre quelle interrotte durante lo streaming comportano l’addebito dei token già trasmessi. La tariffazione rimane associata al modello utilizzato, indipendentemente dal provider: GLM-5.3 Flash, ad esempio, prevede costi di 0,15 dollari per milione di token in ingresso, 0,50 dollari per quelli in uscita e 0,03 dollari per i token recuperati dalla cache.

Questo articolo è stato redatto con il supporto di strumenti di intelligenza artificiale (AI)

Di Fantasy