Cohere ha reso disponibili le famiglie di modelli Embed 5 e Rerank 5 attraverso l’interfaccia API unificata di OpenRouter, consentendo agli sviluppatori di integrare funzioni di indicizzazione semantica, recupero delle informazioni e riordinamento dei risultati senza dover utilizzare account, SDK e sistemi di fatturazione separati. La disponibilità sulla piattaforma riguarda modelli già introdotti da Cohere, con Embed 5 presentato il 30 settembre 2026 e Rerank 5 il 21 ottobre successivo, entrambi disponibili nelle varianti Pro e Fast. L’integrazione permette di costruire pipeline Retrieval-Augmented Generation nelle quali Embed 5 converte documenti e richieste in rappresentazioni vettoriali, Rerank 5 rivaluta la pertinenza dei contenuti recuperati e un modello conversazionale accessibile tramite OpenRouter produce la risposta finale. Cohere ha pubblicato anche un’implementazione di riferimento in Python che comprende indicizzazione dei documenti, ricerca, filtraggio della rilevanza e generazione di risposte corredate da riferimenti alle fonti. I prezzi indicati da OpenRouter per Embed 5 Pro sono di 0,12 dollari per milione di token testuali e 0,40 dollari per milione di token immagine, mentre Embed 5 Fast costa 0,08 dollari per milione di token. Rerank 5 Pro viene proposto a 0,05 dollari per milione di token in ingresso e Rerank 5 Fast a 0,02 dollari.
Una delle caratteristiche architetturali più rilevanti di Embed 5 riguarda la condivisione dello spazio vettoriale tra le versioni Pro e Fast. Questa proprietà permette di indicizzare un insieme documentale mediante Embed 5 Pro e utilizzare successivamente Embed 5 Fast per elaborare le interrogazioni, senza dover ricostruire l’indice, purché venga mantenuta la stessa dimensionalità delle rappresentazioni. La distinzione consente di utilizzare il modello più accurato durante la preparazione dei dati e una variante più economica e veloce per le richieste operative. Nei test condotti da Cohere su 40 dataset di sviluppo, considerando come riferimento 100 la qualità media normalizzata ottenuta utilizzando Pro sia per l’indice sia per le interrogazioni, la combinazione Pro per l’indicizzazione e Fast per le query ha raggiunto 98,4, mentre l’utilizzo di Fast in entrambe le fasi ha ottenuto 96,6. Embed 5 supporta sei dimensionalità vettoriali comprese tra 256 e 2.048, con 2.048 dimensioni come configurazione predefinita. L’esempio OpenRouter utilizza vettori floating point da 1.024 dimensioni, mentre Cohere indica separatamente rappresentazioni int8 della stessa dimensionalità come soluzione favorevole per il rapporto tra qualità e costi di memorizzazione.
La pipeline dimostrativa recupera inizialmente 20 frammenti documentali mediante similarità coseno e li sottopone a Rerank 5 insieme alla richiesta originale. Il modello analizza congiuntamente query e contenuto di ogni candidato, producendo un punteggio di pertinenza che consente di selezionare fino a cinque risultati e scartare quelli inferiori alla soglia dimostrativa di 0,3. Cohere dichiara che i punteggi calibrati di Rerank 5 mantengono una coerenza tra interrogazioni e domini differenti, rendendo possibile utilizzare soglie uniformi per decidere quali documenti trasmettere al modello generativo. Nella documentazione del modello, un punteggio di 0,7 viene interpretato come una probabilità del 70% che il documento risulti utile rispetto alla richiesta. Le versioni Pro sono orientate a interrogazioni complesse e documenti lunghi o specialistici, mentre Fast è destinata a servizi con elevati volumi di ricerca e agenti che eseguono frequentemente interrogazioni. I modelli supportano contesti fino a 32.000 token e possono elaborare anche record JSON o tabelle rappresentate mediante stringhe YAML.
Il funzionamento della pipeline prevede che i frammenti selezionati siano trasformati in fonti numerate e passati al modello conversazionale, accompagnati dall’istruzione di rispondere esclusivamente sulla base delle informazioni disponibili e di citare i riferimenti utilizzati. Quando nessun documento supera la soglia di rilevanza, il sistema segnala l’impossibilità di individuare una risposta e non esegue la chiamata al modello generativo. In una dimostrazione basata su documentazione API fittizia relativa alla rotazione delle chiavi senza interruzione del servizio, il recupero vettoriale aveva assegnato al documento corretto un punteggio di 0,522, mantenendo però vicini altri documenti solo parzialmente pertinenti. Dopo il riordinamento, Rerank 5 ha attribuito al contenuto corretto un punteggio di 0,808, escludendo gli altri risultati mediante la soglia di selezione. Poiché Rerank analizza direttamente il testo al momento dell’interrogazione, la sostituzione della versione utilizzata non richiede una nuova indicizzazione vettoriale.
L’esempio di integrazione richiede Python 3.10 o successivo, una chiave API OpenRouter, il relativo SDK e NumPy, utilizzato per una memoria vettoriale locale che può essere sostituita in produzione con un database specializzato. Rimangono alcune limitazioni operative: Rerank 5 elabora esclusivamente testo, mentre Embed 5 supporta immagini e contenuti misti, comprese pagine PDF. Per i documenti visivi occorre quindi effettuare il riordinamento utilizzando testo estratto o didascalie, oppure escludere il passaggio di reranking. Ogni interrogazione può inoltre comportare una chiamata per l’embedding, una per il reranking e una per la generazione, introducendo un costo aggiuntivo in termini di latenza. OpenRouter indica Cohere come unico fornitore dei modelli Pro e specifica che per questi modelli non è disponibile l’instradamento regionale all’interno dell’Unione europea, elemento da considerare nelle implementazioni soggette a particolari requisiti di localizzazione dei dati.
Questo articolo è stato redatto con il supporto di strumenti di intelligenza artificiale (AI)