Upstage ha lanciato Solar Decide, un modello di intelligenza artificiale progettato specificamente per effettuare decisioni strutturate e restituire rapidamente una scelta accompagnata da una probabilità, entrando nel segmento dei cosiddetti decision model reso recentemente più visibile da Jev. Il sistema è basato su Solar Mini 4 e combina il modello con funzionalità agentiche e logiche di servizio aggiuntive. L’accesso avviene attraverso OpenRouter utilizzando l’identificativo upstage/solar-decide: l’utente invia uno stato e una domanda definita secondo formati come choice, noun o score e riceve in risposta la probabilità associata alla decisione. Per chi utilizza già Jev, l’integrazione può avvenire semplicemente sostituendo il nome del modello. Upstage ha già inserito Solar Decide anche in AskUp, il proprio chatbot disponibile attraverso KakaoTalk, dove viene impiegato per stabilire quali informazioni emerse durante una conversazione meritino di essere conservate nella memoria a lungo termine. Informazioni personali persistenti, come il fatto che un utente lavori da cinque anni come infermiere, possono così essere archiviate, mentre domande occasionali come una richiesta sulla popolazione mondiale vengono ignorate. In un test su 20 conversazioni, un approccio basato su keyword aveva identificato correttamente 14 elementi da conservare, mentre Solar Decide ha selezionato tutti e 20 quelli rilevanti senza salvare conversazioni quotidiane prive di valore per la memoria.
Le prestazioni sono state confrontate con Jev 1.13 utilizzando i 231 quesiti pubblici di JevBench, benchmark dedicato ai modelli specializzati nel decision making che valuta la capacità di scegliere correttamente tra opzioni disponibili, assegnare una probabilità o un livello di confidenza coerente alla scelta e operare con tempi e costi contenuti. Solar Decide ha ottenuto un’accuratezza dell’87,0%, rispetto all’86,1% di Jev 1.13, completando ogni decisione mediamente in 0,14 secondi contro 0,30 secondi del concorrente. Il context window raggiunge inoltre 512.000 token, sedici volte i 32.000 token indicati per Jev, mentre il prezzo è fissato a 0,05 dollari per milione di token in input e non prevede costi per l’output. Upstage attribuisce parte dei risultati alle prestazioni raggiunte dal modello di base Solar Mini 4, sul quale sono state costruite le funzioni aggiuntive dedicate al giudizio strutturato.
L’obiettivo non è quindi sostituire un modello general purpose, ma utilizzare Solar Decide come componente specializzata all’interno di workflow nei quali serve prendere una decisione semplice, rapida e ripetibile senza ricorrere ogni volta a un LLM più grande. Upstage indica tra gli impieghi il routing delle richieste dei clienti, i guardrail per agenti AI, la moderazione dei contenuti, il filtraggio dei documenti nei sistemi RAG e la valutazione delle risposte prodotte da altri modelli linguistici. In questi scenari il modello può agire come livello decisionale intermedio: riceve lo stato del sistema e le alternative disponibili, assegna una probabilità alle opzioni e permette al workflow di stabilire quale percorso seguire, mantenendo tempi di risposta nell’ordine dei decimi di secondo e costi molto bassi anche quando deve elaborare contesti particolarmente estesi.
Questo articolo è stato redatto con il supporto di strumenti di intelligenza artificiale (AI)