TypeSafe AI ha presentato Jev 1.14.0, un aggiornamento del proprio modello decisionale System One che introduce funzionalità multimodali sperimentali, una nuova tipologia di risposta per la localizzazione degli oggetti nelle immagini e la possibilità di elaborare contesti estesi fino a circa 262.000 token. Il modello viene distribuito inizialmente attraverso l’identificativo jev-preview, mantenendo disponibile la precedente versione jev-1.13.0 e prevedendo un successivo aggiornamento dell’alias jev-latest. Jev è stato sviluppato per fornire decisioni strutturate direttamente utilizzabili dalle applicazioni software, attraverso classificazioni, punteggi e probabilità, senza produrre risposte discorsive. Il sistema riceve una rappresentazione dello stato, una o più domande e le condizioni necessarie alla valutazione, restituendo risultati conformi alle tipologie definite dal programmatore. L’architettura è stata progettata per eseguire più valutazioni sullo stesso contesto con un approccio parallelo e con costi di inferenza contenuti.
Le nuove funzionalità permettono di inserire immagini all’interno delle richieste, affiancandole alle informazioni testuali utilizzate dal modello per prendere decisioni. Il supporto non è abilitato automaticamente: gli sviluppatori devono specificare l’intestazione HTTP TypeSafe-Danger-Zone-Images impostata su true, poiché la funzione è ancora considerata sperimentale. Le immagini vengono definite attraverso un oggetto assets, associando a ogni elemento un identificativo che può essere richiamato nelle sezioni state, instructions e criteria della richiesta. Il sistema supporta file PNG e JPEG, con dimensioni comprese tra 256 e 1.568 pixel per lato, un limite di 16 MiB per singolo file e una dimensione massima di 32 MiB per il corpo della richiesta. I metadati EXIF vengono rimossi e l’orientamento dell’immagine non viene corretto automaticamente attraverso le relative informazioni. I token derivanti dal contenuto visivo sono contabilizzati secondo la stessa tariffa dei token testuali di input.
La versione 1.14 introduce inoltre il tipo di domanda Box, progettato per restituire la posizione di un elemento identificato all’interno di un’immagine attraverso un rettangolo di delimitazione. La funzione permette di integrare semplici operazioni di localizzazione visiva nelle pipeline decisionali, associandole ad altre classificazioni eseguite sul medesimo contenuto. Il modello continua a utilizzare uno schema strutturato di input e output: per esempio, un’applicazione può verificare la presenza di un oggetto attraverso una domanda probabilistica e richiederne contemporaneamente la posizione mediante Box. La funzionalità è disponibile nella configurazione sperimentale di Jev 1.14, mentre l’input visivo è supportato anche dalla versione 1.13 quando viene abilitato mediante l’intestazione prevista. TypeSafe precisa che l’architettura era già dotata internamente di capacità multimodali, ma che l’accesso era stato disabilitato a causa delle prestazioni inferiori rispetto all’elaborazione esclusivamente testuale.
Un’altra estensione riguarda la finestra contestuale. Attraverso l’intestazione TypeSafe-Danger-Zone-Long-Context, gli sviluppatori possono aumentare fino a circa 262.000 token il limite della richiesta e delle singole domande, rispetto ai valori standard di 64.000 token per richiesta e 32.000 per domanda. L’aumento viene offerto senza modificare la tariffa per token, ma l’azienda avverte che l’elaborazione di contesti molto estesi può presentare una latenza superiore e una precisione inferiore alle configurazioni ordinarie. L’infrastruttura consente di utilizzare queste capacità per classificare documenti lunghi, valutare grandi quantità di informazioni contestuali e sviluppare procedure decisionali che combinano testo e immagini. Rimane tuttavia necessario verificare che i risultati mantengano livelli di accuratezza appropriati al carico applicativo, in particolare quando più valutazioni dipendono da informazioni distribuite lungo l’intero contesto.
Il rilascio mantiene una tariffa dichiarata di 0,042 dollari per milione di token di input, senza addebiti per i token di output. TypeSafe ha indicato che le funzionalità sperimentali vengono rese accessibili agli sviluppatori interessati a provarle, senza considerarle ancora adeguatamente validate per l’impiego indiscriminato in produzione. L’azienda prevede di mantenere disponibile Jev 1.13 per consentire la continuità delle applicazioni esistenti, introducendo avvisi anticipati prima dell’eventuale dismissione delle versioni. Le indicazioni iniziali prevedono un preavviso di 60 giorni per Jev 1.13 e di 30 giorni per Jev 1.14, in attesa della pubblicazione delle condizioni definitive. La documentazione richiama inoltre le limitazioni intrinseche delle decisioni probabilistiche: la conformità dello schema dell’output non garantisce la correttezza della classificazione, mentre la capacità di analizzare immagini non equivale alla disponibilità di un modello generativo visivo o di un sistema generale di comprensione multimodale. Le nuove funzioni ampliano quindi il campo di applicazione del modello decisionale Jev, mantenendo una distinzione esplicita tra funzionalità utilizzabili nei processi ordinari e capacità ancora in fase sperimentale.
Questo articolo è stato redatto con il supporto di strumenti di intelligenza artificiale (AI)