Mistral AI ha pubblicato Shieldstral, un modello open source da 3 miliardi di parametri progettato per classificare la sicurezza di contenuti testuali, immagini e combinazioni di testo e immagini attraverso un’unica architettura multimodale. Il sistema è stato sviluppato per superare il limite dei classificatori basati su categorie di rischio predefinite, che obbligano le aziende ad adattare le proprie politiche a una struttura già stabilita oppure a riaddestrare il modello quando cambiano le esigenze del servizio. Shieldstral consente invece agli sviluppatori di descrivere direttamente in linguaggio naturale il criterio da applicare, modificando il prompt senza intervenire sui pesi del modello. Le dimensioni contenute permettono di eseguirlo su una singola GPU NVIDIA dotata di 16 GB di memoria, mentre i pesi sono disponibili su Hugging Face con licenza Apache 2.0, che ne consente anche l’impiego commerciale.
Il funzionamento si basa sulla trasformazione della politica di sicurezza in una domanda. Lo sviluppatore può chiedere, per esempio, se un determinato contenuto incoraggi la violenza, contenga elementi tossici oppure rappresenti un caso nel quale il modello avrebbe dovuto rifiutare di rispondere. Shieldstral calcola la probabilità che la risposta corretta sia “sì” e restituisce un punteggio compreso tra 0 e 1, anziché limitarsi a una classificazione binaria rigida. L’operatore può quindi scegliere una soglia oltre la quale bloccare il contenuto, utilizzare il valore per ordinare più elementi in base al rischio oppure combinare diverse domande per costruire una politica di moderazione più articolata. La possibilità di sostituire o modificare la domanda senza un nuovo ciclo di addestramento permette di adattare lo stesso modello a contesti nei quali il significato operativo di contenuto sicuro cambia sensibilmente, come avviene confrontando un servizio di cybersicurezza con una piattaforma dedicata alla salute mentale.
Shieldstral riunisce nello stesso framework più compiti che normalmente vengono affidati a classificatori differenti, tra cui la valutazione della sicurezza del testo in ingresso, il controllo delle risposte generate, il riconoscimento dei casi nei quali un modello rifiuta una richiesta e il rilevamento della tossicità. L’architettura è stata costruita utilizzando come base il modello linguistico Ministral-3B e l’encoder visivo Pixtral, combinando quindi capacità linguistiche e analisi delle immagini. L’addestramento ha utilizzato 54,1 milioni di esempi reali e sintetici provenienti da dataset differenti, i cui schemi di classificazione sono stati ricondotti a un formato comune. Mistral ha aggiunto anche dati contrastivi ottenuti trasformando frasi sicure in versioni pericolose in base a specifiche politiche, insieme a dataset di immagini generiche, con l’obiettivo di rendere il modello più capace di applicare regole nuove non presenti esplicitamente nel materiale originario.
Nei benchmark dedicati alla sicurezza del testo, Shieldstral ha ottenuto un punteggio F1 dell’84,9%, raggiungendo prestazioni paragonabili a GPT-OSS-Safeguard-20B nonostante quest’ultimo disponga di un numero di parametri circa sette volte superiore. Il modello ha superato Qwen3Guard-8B, fermo all’84,0%, Nemotron-3.5-Safety-4B con l’83,3% e LlamaGuard-4-12B con il 69,1%. Nei test multimodali relativi a immagini e contenuti misti testo-immagine ha raggiunto l’83,8%, contro il 77,6% di OmniGuard-7B e il 71,6% di LLaVAGuard-7B. La valutazione dell’adattamento a politiche nuove ha invece prodotto un risultato del 91,3%, inferiore al 94,1% di GPT-OSS-Safeguard-20B ma ottenuto con una struttura più leggera e con un output ridotto a una sola parola, senza generazione esplicita di una catena intermedia di ragionamento. Questa scelta riduce il numero di token prodotti e rende il sistema più adatto a controlli frequenti, nei quali latenza e costo di inferenza incidono direttamente sulla possibilità di analizzare grandi volumi di richieste.
Il modello è stato sviluppato attraverso Forge, la piattaforma di Mistral dedicata all’addestramento dei sistemi di intelligenza artificiale, ed è indicato come uno dei primi risultati congiunti dell’Open Secure AI Alliance, iniziativa alla quale partecipa anche NVIDIA. Mistral prevede di ampliare il supporto multilingue, migliorare la gestione dei documenti lunghi e rafforzare ulteriormente le capacità di analisi multimodale. La direzione tecnica consiste nel trasformare Shieldstral in un componente di guardrail riutilizzabile, capace di essere inserito a monte e a valle dei modelli generativi per verificare richieste, immagini e risposte secondo regole definite direttamente dal gestore del servizio, senza dipendere da una tassonomia di rischio unica e immutabile.