I modelli di intelligenza artificiale progettati specificamente per prendere decisioni stanno introducendo un approccio diverso rispetto ai tradizionali modelli linguistici generativi. Soluzioni come Jev di TypeSafe AI, Clef di Cloudflare e Decisions API di OpenAI privilegiano la restituzione immediata di risultati strutturati, riducendo la produzione di testo discorsivo e i passaggi necessari a ottenere una risposta utilizzabile da un’applicazione software. Questi sistemi possono restituire valori organizzati in formato JSON, accompagnati da probabilità o indicatori di confidenza, consentendo agli sviluppatori di integrarli direttamente nella logica operativa dei programmi. L’obiettivo è diminuire la latenza delle richieste e il consumo di token, evitando che il modello generi lunghe spiegazioni quando l’applicazione necessita soltanto di una classificazione, di una scelta o di una risposta booleana. La struttura dell’output semplifica inoltre l’elaborazione automatica, poiché i valori possono essere acquisiti mediante librerie standard senza ricorrere a procedure aggiuntive per interpretare e suddividere il linguaggio naturale.
La riduzione dell’output comporta tuttavia una differenza sostanziale nel modo in cui vengono gestite le informazioni necessarie alla decisione. Un modello linguistico tradizionale può formulare precisazioni, dichiarare le proprie ipotesi operative o richiedere ulteriori dati quando la domanda non contiene elementi sufficienti. Un modello decisionale, invece, viene progettato per restituire un risultato compatto sulla base del contesto ricevuto, senza necessariamente esporre un percorso argomentativo. Un esempio riguarda la richiesta di stabilire se pioverà durante la giornata. La risposta richiede informazioni sulla località, sull’intervallo temporale considerato e sulla disponibilità di dati meteorologici aggiornati. Un modello linguistico può esplicitare tali condizioni, mentre Jev può restituire direttamente un valore attraverso una struttura denominata noul, il cui nome richiama il matematico e fisico Daniel Bernoulli. Questa rappresentazione contiene un singolo valore vero o falso. Se l’applicazione non ha preventivamente fornito le informazioni rilevanti, il risultato rischia di essere interpretato come una previsione fondata anche quando mancano i dati necessari.
Il funzionamento dei modelli decisionali attribuisce quindi un ruolo particolarmente importante alla progettazione del contesto, o context design. Chi sviluppa l’applicazione deve costruire in anticipo una rappresentazione sufficientemente completa dello stato del sistema, comprendente informazioni pertinenti, vincoli operativi e condizioni che possono modificare il risultato. Il modello riceve questo insieme di dati, lo elabora sulla base delle capacità apprese durante l’addestramento e restituisce una decisione strutturata. L’eventuale probabilità associata può essere utilizzata dal software per determinare l’azione successiva, ma non costituisce automaticamente una spiegazione delle cause che hanno prodotto il risultato. L’assenza di una traccia decisionale esposta dal modello limita infatti la possibilità di ricostruire direttamente le motivazioni della risposta. La responsabilità di definire quali informazioni siano indispensabili e come debbano essere rappresentate si trasferisce in misura maggiore all’architettura applicativa e agli sviluppatori che la progettano.
Questa impostazione introduce anche una distinzione tra la regolarità del formato restituito e la qualità della decisione. La presenza di un JSON facilmente interpretabile dal software non garantisce che il contenuto sia corretto o che tutti gli elementi rilevanti siano stati considerati. L’integrazione richiede quindi una gestione accurata degli input e delle condizioni nelle quali il risultato può essere utilizzato. Il vantaggio principale si manifesta quando il compito è chiaramente delimitato e la risposta deve essere incorporata rapidamente in un processo automatico. Un possibile impiego è rappresentato dai sistemi LLM-as-a-judge, nei quali un modello valuta le risposte di un chatbot rispetto a riferimenti considerati corretti e definiti in precedenza. Un altro ambito riguarda la classificazione e l’instradamento dei ticket di assistenza, dove richieste formulate in linguaggio naturale devono essere associate a categorie operative o ai gruppi competenti senza produrre necessariamente una spiegazione estesa per ogni assegnazione.
Jev, Clef e le altre soluzioni orientate alla decisione rappresentano quindi un’architettura applicativa nella quale velocità, contenimento dei costi computazionali e prevedibilità della struttura dei risultati vengono privilegiate rispetto alla generazione di spiegazioni. Questo approccio non elimina la necessità di ragionare sulle informazioni, ma sposta una parte significativa del lavoro nella preparazione del contesto e nella definizione delle regole che governano il comportamento dell’applicazione. Le prestazioni devono pertanto essere valutate non soltanto attraverso la rapidità della risposta, ma anche considerando la completezza dei dati forniti, la possibilità di verificare il risultato e l’adeguatezza del modello rispetto al tipo di decisione richiesta. La disponibilità di output probabilistici e strutturati permette di costruire sistemi automatici più diretti, mentre l’assenza di spiegazioni rende determinante la qualità dell’infrastruttura informativa che precede ogni interrogazione.
Questo articolo è stato redatto con il supporto di strumenti di intelligenza artificiale (AI)