Immagine AI

Ramp ha lanciato Router.com, un gateway per modelli di intelligenza artificiale progettato per indirizzare automaticamente ogni richiesta verso il modello con il costo più basso in grado di rispettare il livello qualitativo richiesto dallo sviluppatore. Il servizio utilizza un singolo endpoint API e nasce dall’esperienza interna della società, piattaforma specializzata nella gestione della spesa aziendale attraverso la quale transitano ogni anno acquisti per oltre 200 miliardi di dollari. Secondo i dati comunicati da Ramp, le aziende che stanno già utilizzando Router hanno ridotto in media del 40% i costi di inferenza. Il routing viene offerto gratuitamente fino alla fine del 2026: gli utenti pagano quindi il prezzo di listino dei token effettivamente consumati, mentre ai nuovi iscritti vengono assegnati 26 dollari di credito iniziale.

Router.com rappresenta la versione pubblica di un’infrastruttura che Ramp aveva sviluppato inizialmente per il proprio utilizzo circa tre anni fa. Associando ciascun carico di lavoro interno al modello ritenuto più adeguato, l’azienda dichiara di essere riuscita a diminuire di circa il 30% i propri costi di inferenza mantenendo invariata la qualità dell’output e un’affidabilità superiore al 99,9% sul traffico di produzione. Attualmente attraverso la piattaforma vengono instradati più di 2,75 trilioni di token al mese. La crescita del servizio si inserisce inoltre in un aumento molto rapido della spesa aziendale destinata all’intelligenza artificiale rilevata direttamente da Ramp: il suo AI Index indica infatti che, rispetto a giugno 2025, la spesa AI dei clienti della piattaforma è cresciuta di 20,7 volte.

Dal punto di vista dell’integrazione, Router mette a disposizione un’unica API compatibile con gli SDK di OpenAI e Anthropic, consentendo agli sviluppatori di accedere attraverso lo stesso punto di ingresso a modelli provenienti da diversi fornitori. Al lancio sono disponibili modelli di OpenAI, Anthropic e xAI, mentre il supporto ai modelli Gemini è previsto successivamente. La piattaforma comprende anche modelli open-weight appartenenti a famiglie come Nvidia, Kimi, DeepSeek, GLM e Qwen, distribuiti attraverso provider di infrastruttura come Fireworks AI; tra i fornitori indicati per un’integrazione futura figurano inoltre Google, AWS, Together AI, Baseten e Crusoe.

Il selettore di Router comprende attualmente 27 modelli, distribuiti su fasce differenti per prestazioni e costo. Tra quelli disponibili figurano Claude Opus 5 e GPT-5.6 Sol, insieme a soluzioni più economiche come GPT-5.4 Nano e DeepSeek V4 Flash. È presente anche Grok, mentre Grok 4.6 è diventato disponibile nello stesso giorno anche attraverso Amazon Bedrock. La logica di Router non consiste però soltanto nello scegliere un modello da un catalogo: il motore applica oltre 100 ottimizzazioni relative alla selezione del modello, alla cache, alla compressione, alla gestione dei tempi e all’elaborazione delle richieste, prevedendo inoltre un sistema automatico di fallback quando uno dei provider non è disponibile.

Le aziende possono utilizzare la strategia di routing predefinita definita da Ramp oppure configurare direttamente le proprie priorità tra costo e prestazioni in funzione della tipologia di richiesta. L’infrastruttura utilizzata per ospitare i modelli è localizzata negli Stati Uniti e sono disponibili configurazioni con zero data retention, pensate per evitare la conservazione dei dati elaborati dal modello. Questa possibilità assume particolare importanza anche alla luce del funzionamento standard del servizio: Router può infatti archiviare input, output e metadati delle richieste e utilizzare tali informazioni per migliorare la piattaforma, ma questa raccolta può essere disattivata dalle impostazioni.

Una componente tecnica centrale del sistema è Ramp SWE-Bench, benchmark sviluppato utilizzando attività di ingegneria software provenienti dai reali ambienti produttivi dell’azienda invece di basarsi esclusivamente su classifiche pubbliche. Router sottopone continuamente i nuovi modelli a questi workload e può integrare automaticamente nella propria configurazione predefinita quelli che offrono risultati migliori. I dati del benchmark mostrano differenze di costo molto elevate tra modelli capaci di raggiungere percentuali di risoluzione comparabili: Claude Opus 5 presenta un costo medio di 1,84 dollari per esecuzione, mentre Qwen3.7 Plus raggiunge un tasso di risoluzione simile con un costo medio di 0,15 dollari; GPT-5.4 Nano viene invece utilizzato per attività meno costose con un valore medio indicato di 0,09 dollari per esecuzione. I costi misurati possono quindi differire di oltre un ordine di grandezza anche tra modelli con risultati comparabili su determinati task.

I primi utilizzatori riportano in alcuni casi riduzioni di costo superiori alla media dichiarata del 40%. Valentin De Matos di Delphi ha riferito che l’azienda instrada attraverso Router miliardi di token e ha ridotto del 92% i costi associati ai modelli. Claude è disponibile attraverso il gateway fin dal lancio, mentre l’integrazione di Grok amplia le modalità attraverso cui gli sviluppatori possono portare i modelli di xAI all’interno delle proprie applicazioni.

L’utilizzo del servizio di routing resterà gratuito fino alla fine del 2026, mentre Ramp non ha ancora definito pubblicamente il modello tariffario che verrà applicato successivamente. Al momento del lancio Router.com è disponibile esclusivamente per sviluppatori e team negli Stati Uniti; l’estensione ad altri Paesi e l’introduzione di ulteriori funzionalità enterprise sono previste in una fase successiva. Per accedere alla piattaforma non è necessario possedere una carta Ramp né disporre di un account aziendale presso la società. Per chi utilizza già gli SDK di OpenAI o Anthropic, il passaggio a Router può inoltre essere effettuato modificando una sola riga relativa alla base URL dell’integrazione esistente.

Questo articolo è stato redatto con il supporto di strumenti di intelligenza artificiale (AI)

Di Fantasy