Snowflake ha introdotto il Dynamic Model Routing nel Cortex AI Gateway, aggiungendo un sistema che seleziona automaticamente il modello di intelligenza artificiale più adatto a ogni singola richiesta invece di utilizzare necessariamente lo stesso modello per tutti i workload. La funzione è progettata per valutare il tipo di attività e individuare il compromesso più efficace tra qualità del risultato e costo di inferenza, indirizzando le operazioni più semplici verso modelli più efficienti e riservando i modelli frontier alle richieste nelle quali le capacità aggiuntive possono produrre un miglioramento effettivo del risultato.
Il Dynamic Model Routing viene integrato direttamente nei principali prodotti AI di Snowflake, compresi Snowflake CoCo e Snowflake CoWork, ed è disponibile anche per gli agenti sviluppati da terze parti che utilizzano Cortex AI Gateway. In questo modo la logica di selezione del modello viene spostata a livello dell’infrastruttura, evitando che ciascuna applicazione debba implementare autonomamente un proprio sistema di routing tra provider e modelli differenti.
Il sistema può utilizzare sia modelli commerciali e frontier sia modelli open. Snowflake offre accesso a modelli provenienti da diversi provider, tra cui OpenAI, Anthropic e Google, e sta ampliando ulteriormente il catalogo con DeepSeek-V4-Flash 0731 e GLM-5.3. L’obiettivo è consentire alle aziende di combinare modelli con caratteristiche e costi differenti mantenendo dati, criteri di accesso e governance all’interno dell’ambiente Snowflake.
Il routing non avviene soltanto sulla base della disponibilità del modello. Cortex AI Gateway può tenere conto delle preferenze definite dal cliente, del costo, della qualità richiesta e delle caratteristiche operative del workload. Le aziende possono inoltre stabilire quali modelli e quali provider siano autorizzati per i propri utenti, evitando che il sistema selezioni automaticamente servizi non compatibili con specifiche policy interne o con vincoli geografici e normativi.
Questa possibilità è particolarmente rilevante per le organizzazioni che devono rispettare limitazioni regionali sull’utilizzo di determinati modelli. Anche quando il routing è automatico, l’amministratore mantiene quindi il controllo sul perimetro all’interno del quale il sistema può effettuare la selezione. La logica di ottimizzazione opera soltanto sui modelli consentiti dall’organizzazione, permettendo di combinare automazione e governance.
Snowflake prevede inoltre che le decisioni di routing vengano aggiornate nel tempo in funzione delle variazioni di prezzo e delle prestazioni dei modelli. Quando viene introdotto un nuovo modello oppure cambiano costi e capacità di quelli già disponibili, Cortex AI Gateway può modificare le proprie scelte senza richiedere agli sviluppatori di ricostruire l’applicazione o modificare manualmente ciascun agente. Le policy di sicurezza e governance rimangono invece applicate in maniera uniforme anche quando il modello utilizzato per una determinata attività cambia.
Il sistema crea anche un ciclo di valutazione delle risposte prodotte. Dopo l’esecuzione di un’attività può essere analizzata la qualità dell’output e questa informazione può contribuire alle successive decisioni di routing. In questo modo la selezione del modello non dipende esclusivamente da caratteristiche dichiarate o benchmark statici, ma può adattarsi progressivamente alle prestazioni osservate sui workload reali.
Nei test interni di Snowflake, la combinazione di modelli open e proprietari ha mostrato la possibilità di mantenere una qualità paragonabile a quella ottenuta utilizzando esclusivamente modelli frontier, riducendo però il numero di token necessari. In una valutazione dedicata alla costruzione di una pipeline dbt, gli agenti che utilizzavano Dynamic Model Routing attraverso Cortex AI Gateway hanno raggiunto fino a tre volte l’efficienza in termini di token rispetto a un percorso basato esclusivamente su modelli frontier, mantenendo lo stesso livello qualitativo.
Un secondo test ha riguardato workload di sviluppo software. I team coinvolti sono riusciti a completare lo stesso numero di pull request aumentando del 25% l’efficienza nell’utilizzo dei token. I risultati si riferiscono a test interni e possono variare in funzione del tipo di attività e della configurazione adottata, ma vengono utilizzati da Snowflake per mostrare il vantaggio potenziale di una strategia nella quale il modello più costoso non viene impiegato automaticamente per ogni richiesta.
L’espansione verso i modelli open è un’altra componente della stessa strategia. DeepSeek-V4-Flash 0731 e GLM-5.3 verranno aggiunti al portafoglio disponibile attraverso Cortex AI, Snowflake CoCo e Snowflake CoWork. Nei test condotti dal team di ricerca di Snowflake su attività orientate alle esigenze enterprise, DeepSeek-V4-Flash ha ottenuto un punteggio del 74,4% nei task di data engineering, superando i modelli proprietari inclusi nella stessa valutazione.
Snowflake ha inoltre riportato risultati relativi a GLM-5.2, che nei test ha raggiunto il 62,8% utilizzando meno token rispetto agli altri modelli valutati. Questi risultati vengono utilizzati per decidere quali modelli includere nel catalogo e come integrarli nel sistema di routing, con l’obiettivo di utilizzare soluzioni open quando possono fornire prestazioni sufficienti a un costo inferiore e passare invece ai modelli frontier quando il task richiede capacità superiori.
Cortex AI Gateway include anche strumenti dedicati al controllo dei consumi. Gli amministratori possono monitorare utilizzo dei token e relativi costi, impostare quote per gli utenti, attribuire i consumi a team o centri di costo e definire limiti di spesa per applicazioni e agenti. Il routing dinamico opera quindi insieme agli strumenti di controllo economico, consentendo di intervenire sia sulla scelta del modello sia sul volume complessivo delle risorse utilizzate.
Snowflake definisce questo approccio come “intelligence efficiency”, cioè la capacità di trasformare risorse di calcolo, modelli, dati e contesto aziendale in risultati senza utilizzare automaticamente la configurazione più costosa disponibile. Con il Dynamic Model Routing, questa logica viene applicata a livello di piattaforma: l’applicazione può inviare la richiesta al Cortex AI Gateway e lasciare al sistema la scelta del modello, mantenendo comunque i vincoli stabiliti dall’organizzazione su provider, sicurezza, governance e spesa.
Cortex AI Gateway era stato annunciato da Snowflake nel luglio 2026 come livello centralizzato per governare le connessioni degli agenti, gestire il routing delle richieste e controllare il consumo delle risorse AI. L’aggiunta del routing dinamico amplia ora questa funzione, trasformando il gateway da semplice punto di accesso e controllo a sistema che decide anche quale modello utilizzare per ciascun workload sulla base delle condizioni operative e dei criteri definiti dall’azienda.
Questo articolo è stato redatto con il supporto di strumenti di intelligenza artificiale (AI)