Mistral AI, un’azienda emergente nel settore dell’intelligenza artificiale, ha presentato mercoledì due nuovi modelli linguistici, Ministral 3B e Ministral 8B, che potrebbero cambiare il modo in cui aziende e sviluppatori utilizzano la tecnologia AI. Questi modelli sono progettati per funzionare efficientemente su dispositivi edge, come smartphone e laptop, spostando l’attenzione dall’approccio tradizionale basato sul cloud.
I nuovi modelli, collettivamente chiamati “les Ministraux”, sono sorprendenti nelle loro capacità nonostante le dimensioni ridotte. Il modello Ministral 3B, con 3 miliardi di parametri, supera il precedente modello di Mistral da 7 miliardi di parametri in molti benchmark. Il Ministral 8B offre prestazioni che competono con modelli significativamente più grandi, come quelli di Google e Meta, soprattutto in compiti di conoscenza e multilinguismo.
Questi modelli rappresentano un’importante innovazione, poiché consentono all’AI di operare direttamente su dispositivi senza la necessità di connettività costante. Questo è particolarmente utile in scenari in cui la velocità di risposta è cruciale, come nel caso di un robot di fabbrica che deve prendere decisioni rapide basate su input visivi. Invece di inviare dati a un server cloud per l’elaborazione, i modelli Mistral possono elaborare le informazioni localmente, riducendo la latenza e migliorando la sicurezza dei dati.
L’esecuzione di AI direttamente sui dispositivi significa anche che i dati sensibili non devono essere trasferiti su server esterni, il che è un vantaggio significativo per settori come la sanità e la finanza, dove la privacy dei dati è fondamentale.
Mistral si inserisce in un contesto di crescente attenzione all’impatto ambientale dell’intelligenza artificiale. I modelli di grandi dimensioni generalmente richiedono significative risorse computazionali e consumano molta energia. Con i suoi modelli più piccoli ed efficienti, Mistral sta cercando di posizionarsi come un’opzione più sostenibile nel mercato dell’AI.
L’azienda ha deciso di rendere disponibile il modello Ministral 8B per scopi di ricerca e di offrire entrambi i modelli attraverso la sua piattaforma cloud per uso commerciale, seguendo una strategia ibrida che incoraggia il coinvolgimento della comunità e sostiene i flussi di entrate.
Il panorama dell’intelligenza artificiale è in continua evoluzione e sempre più affollato, con giganti come Google e Meta che rilasciano i loro modelli. Tuttavia, l’approccio di Mistral all’edge computing potrebbe aiutarla a ritagliarsi una nicchia unica. Questo cambiamento suggerisce un futuro in cui l’AI non è solo un servizio basato sul cloud, ma diventa una parte integrante di ogni dispositivo.
Mistral sta anche affrontando le sfide associate all’implementazione dell’AI all’edge, come la gestione dei modelli e la sicurezza. La strategia dell’azienda prevede l’integrazione dei dispositivi edge con i sistemi basati sul cloud, in modo da gestire compiti di routine localmente, mentre le operazioni più complesse vengono elaborate nel cloud.
I nuovi modelli di Mistral utilizzano un meccanismo di “attenzione a finestra scorrevole interlacciata”, che consente loro di elaborare lunghe sequenze di testo in modo più efficiente. Entrambi i modelli supportano lunghezze di contesto fino a 128.000 token, equivalenti a circa 100 pagine di testo, una funzionalità utile per attività di analisi e sintesi dei documenti.