Translated ha annunciato il 12 novembre 2026 il rilascio di Lara Mini, un modello linguistico di ricerca sviluppato e addestrato da zero per operare su 45 lingue, comprese tutte le 24 lingue ufficiali dell’Unione europea. Il modello dispone di 7,2 miliardi di parametri complessivi, ma ne attiva soltanto circa 600 milioni per ogni token elaborato, utilizzando un’architettura mixture-of-experts progettata per ridurre le risorse computazionali necessarie durante l’inferenza. L’addestramento principale è stato effettuato su 6.000 miliardi di token, selezionati da un insieme più ampio di dati aperti, e ha l’obiettivo di sviluppare capacità linguistiche distribuite tra molteplici idiomi senza adottare modelli separati per ciascuna lingua. Lara Mini costituisce un componente della famiglia Lara 4, destinata a supportare la successiva generazione dei sistemi di traduzione Lara Translate. La versione resa disponibile è tuttavia un modello base per il completamento del testo, privo di addestramento specifico per seguire istruzioni e senza le procedure di allineamento alla sicurezza normalmente previste per gli assistenti conversazionali. Il rilascio è quindi destinato principalmente alla ricerca, alla sperimentazione e alle attività di ulteriore specializzazione.
L’architettura mixture-of-experts comprende 128 esperti selezionabili dinamicamente, dei quali quattro vengono attivati per ogni token, affiancati da un esperto condiviso sempre operativo. La rete è costituita da 34 livelli, distribuiti tra 14 livelli Gated DeltaNet con attenzione lineare, 13 livelli di attenzione a finestra scorrevole da 512 token e sette livelli di attenzione globale. La combinazione è stata progettata per contenere la crescita della memoria necessaria all’elaborazione di sequenze estese, limitando il ricorso all’attenzione completa su tutti i token. Dopo la fase principale di addestramento, Translated ha eseguito un’ulteriore fase da 100 miliardi di token per estendere la finestra di contesto da 4.096 a 131.072 token. Il dataset è stato costituito attraverso filtraggio e deduplicazione di fonti pubblicamente disponibili, ricavando un insieme iniziale di 13.800 miliardi di token. Il 97% dei token utilizzati durante l’addestramento principale proveniva dalla prima esposizione del modello a un documento, riducendo la ripetizione dei medesimi contenuti. La componente inglese ha rappresentato 2.490 miliardi di token, equivalenti al 41,4%, mentre le altre 44 lingue hanno contribuito con 2.180 miliardi, pari al 36,4%. La parte restante comprendeva codice, matematica e dati organizzati secondo formati simili a quelli utilizzati nelle procedure di supervised fine-tuning.
Translated ha condotto anche esperimenti per valutare l’effetto della distribuzione linguistica sulle prestazioni del modello. Utilizzando lo stesso checkpoint iniziale, sono state effettuate due fasi controllate di addestramento conclusivo da 100 miliardi di token ciascuna, modificando la quota di contenuti multilingue e sostituendone una parte con dati inglesi. L’incremento della componente inglese dal 27% al 60% ha prodotto un miglioramento medio di appena 0,3 punti nelle valutazioni in inglese, accompagnato da una riduzione di 2,7 punti nelle prestazioni multilingue. L’esperimento riguarda esclusivamente la fase finale di addestramento e non permette di stabilire quale contributo abbia avuto la componente multilingue durante il pretraining principale. L’analisi dell’instradamento degli esperti ha inoltre evidenziato che le lingue condividono i medesimi gruppi di esperti, anziché essere distribuite in componenti linguistiche rigidamente separate. Gli idiomi linguisticamente affini mostrano schemi di attivazione simili nei primi livelli, mentre nelle sezioni intermedie della rete i percorsi diventano quasi identici. Questo comportamento non dimostra automaticamente l’esistenza di rappresentazioni semantiche condivise, né che l’addestramento multilingue migliori le capacità generali di ragionamento.
Le prestazioni sono state valutate attraverso 26 benchmark relativi alla comprensione dell’inglese, alle capacità multilingue, alla matematica e alla programmazione, confrontando Lara Mini con altri 56 modelli base aperti. Nel gruppo dei 36 modelli con un massimo di due miliardi di parametri attivi, Lara Mini ha ottenuto un punteggio medio complessivo di 57,0, rispetto a 53,9 di granite-4.0-h-tiny e 53,8 di Qwen3-1.7B. Nelle valutazioni per dominio ha raggiunto 56,7 nella comprensione multilingue, 59,9 nella matematica, 66,4 nell’inglese e 45,1 nel codice, classificandosi rispettivamente al primo, primo, secondo e quinto posto del gruppo. Il punteggio generale attribuisce lo stesso peso ai quattro domini e le prestazioni multilingue sono calcolate sulle lingue non inglesi supportate. I risultati variano comunque tra i differenti idiomi, con prestazioni inferiori per lingue come azero e bengalese, caratterizzate da una minore disponibilità di dati di addestramento. Su una GPU NVIDIA A100, senza quantizzazione e con un singolo utente, Translated ha misurato una velocità di circa 1.100 caratteri generati al secondo. Nella comparazione presentata, i modelli con punteggi complessivi superiori risultavano almeno 1,8 volte più lenti; il vantaggio di Lara Mini è tuttavia particolarmente evidente con un solo utente e prompt lunghi, mentre diminuisce quando più richieste condividono la stessa GPU.
L’accesso ai pesi del modello è soggetto ad autorizzazione e ogni richiesta viene esaminata da Translated. La distribuzione avviene con licenza CC BY-NC-SA 4.0, che limita l’utilizzo dei pesi ad attività non commerciali, mentre codice e tokenizer sono distribuiti con licenza Apache 2.0. Per l’impiego commerciale è previsto un accordo separato e i dataset di addestramento non vengono pubblicati. La documentazione avverte che il modello, non essendo stato sottoposto ad addestramento per l’esecuzione di istruzioni né ad allineamento di sicurezza, può generare risposte scorrette, distorte o offensive e non deve essere utilizzato direttamente come assistente senza ulteriori interventi. Translated prevede di consentire l’accesso anche a clienti aziendali selezionati e considera il fine-tuning per applicazioni sovrane specializzate uno degli impieghi previsti. Il 13 novembre la società ha inoltre chiarito che Lara Mini non è ancora integrato in Lara Translate, ma dovrebbe costituire la base della futura funzione di traduzione testuale offline dell’applicazione, con elaborazione direttamente sullo smartphone e senza invio del testo a server esterni. Le 45 lingue rappresentano la copertura dell’addestramento del modello e non devono essere interpretate come un elenco definitivo delle lingue che saranno disponibili al lancio della funzione offline.
Questo articolo è stato redatto con il supporto di strumenti di intelligenza artificiale (AI)