OpenAI ha presentato Decisions API, una nuova interfaccia attualmente disponibile in limited preview e progettata per eseguire rapidamente compiti decisionali nei quali il risultato deve essere scelto all’interno di un insieme di opzioni definite in anticipo dallo sviluppatore. A differenza delle normali chiamate a un modello generativo, nelle quali il sistema produce una risposta testuale che deve eventualmente essere analizzata e convertita successivamente in un valore utilizzabile dal software, Decisions API riceve testo o immagini e restituisce direttamente una delle alternative consentite. Il sistema utilizza GPT-6 Luna e può quindi essere impiegato per classificare una richiesta di assistenza come problema di pagamento, account o supporto tecnico, instradare un input verso il servizio corretto oppure decidere quale azione debba eseguire successivamente un agente. La limitazione preventiva dello spazio delle risposte elimina una parte della generazione non necessaria e permette di mantenere funzioni del modello come comprensione delle immagini, supporto multilingue e meccanismi di sicurezza con latenze e costi più adatti a operazioni ripetute ad alta frequenza.
L’approccio assume particolare importanza nelle architetture agentiche, dove classificazione, routing, autorizzazione e verifica delle singole azioni possono essere eseguiti molte volte durante lo stesso workflow. OpenAI intende utilizzare modelli decisionali veloci anche all’interno dei propri sistemi come livello di controllo degli agenti: invece di affidare continuamente la supervisione a un modello linguistico completo, molto più costoso da eseguire, un sistema dedicato può valutare in tempo reale ciò che l’agente sta per fare e consentire, bloccare o reindirizzare l’operazione in base a un insieme circoscritto di alternative. L’idea è separare quindi la componente che pianifica, conversa e affronta problemi complessi da quella che deve prendere continuamente decisioni brevi e strutturate, introducendo un livello intermedio di controllo sufficientemente rapido da poter essere eseguito durante l’intera attività dell’agente.
Il modello ricorda da vicino l’impostazione adottata da TypeSafe AI con Jev, presentato poche settimane prima come primo “System One Model” dell’azienda. Jev rinuncia deliberatamente alla generazione libera di stringhe e riceve invece uno stato non strutturato per restituire decisioni tipizzate, probabilità e livelli di confidenza utilizzabili direttamente dal software. TypeSafe dichiara latenze comprese tra circa 70 e 500 millisecondi e un costo di 42 dollari per miliardo di token in ingresso, proponendo il sistema per classificazione, routing, scoring, estrazione, guardrail, rilevamento dei jailbreak e altre operazioni che devono essere ripetute rapidamente all’interno di workflow automatici. L’azienda utilizza il termine “System One” richiamando la distinzione tra il pensiero rapido e immediato e quello deliberativo: in un’architettura software, il primo livello prende numerose decisioni circoscritte a basso costo, mentre modelli più pesanti vengono riservati ai problemi che richiedono ragionamento esteso.
Decisions API porta questo modello direttamente nell’ecosistema OpenAI e rende possibile costruire agenti nei quali modelli differenti svolgono ruoli distinti all’interno dello stesso processo. Un modello più potente può occuparsi della pianificazione generale e delle interazioni complesse, Luna tramite Decisions API può classificare lo stato corrente e scegliere rapidamente l’azione successiva tra quelle consentite, mentre policy e sistemi di autorizzazione possono mantenere il controllo finale sull’esecuzione. La separazione permette inoltre di evitare che semplici controlli binari, classificazioni o operazioni di gating consumino gli stessi tempi e le stesse risorse richieste da una normale inferenza generativa. Le prestazioni effettive della nuova API dovranno comunque essere valutate quando saranno disponibili dati più completi su latenza, accuratezza e prezzi, ma la limited preview introduce già nell’infrastruttura OpenAI un livello di inferenza specificamente progettato per le numerose microdecisioni richieste dai sistemi agentici.
Questo articolo è stato redatto con il supporto di strumenti di intelligenza artificiale (AI)