Moonshot AI ha reso disponibili il 4 novembre 2026 i pesi di Kimi K3.1 Pro, permettendo agli sviluppatori di eseguire il modello sulle proprie infrastrutture e di modificarlo o sottoporlo a fine-tuning secondo le condizioni della licenza. Il rilascio, effettuato attraverso Hugging Face e già annunciato durante la presentazione del modello nel mese precedente, comprende un repository di circa 1,56 terabyte, suddiviso in 96 file contenenti i pesi, insieme alle configurazioni e al codice necessari alla preparazione degli input. Kimi K3.1 Pro utilizza un’architettura mixture-of-experts con 2.800 miliardi di parametri complessivi, dei quali 104 miliardi vengono attivati durante l’elaborazione di ciascun token. Il modello supporta input testuali e immagini e dispone di una finestra di contesto dichiarata fino a circa un milione di token, con capacità progettate per attività agentiche che comprendono sviluppo software, produzione di contenuti tridimensionali e ricerca finanziaria.
La documentazione pubblicata insieme ai pesi rende disponibili nuovi dettagli sull’architettura interna, che combina Kimi Delta Attention, indicata come KDA, e DeepSeek Sparse Attention, o DSA. Dei 93 livelli complessivi, 69 utilizzano KDA e 24 adottano una configurazione gated DSA. Rispetto alla precedente generazione Kimi K3, i livelli che impiegavano gated Multi-head Latent Attention sono stati sostituiti con meccanismi di attenzione sparsa. La funzione di DSA consiste nel selezionare un sottoinsieme dei token precedenti ai quali fare riferimento durante l’elaborazione, evitando di calcolare indiscriminatamente le relazioni con tutte le posizioni disponibili nel contesto. La combinazione con KDA è progettata per contenere il costo computazionale dell’attenzione, soprattutto quando vengono elaborate sequenze molto lunghe. La possibilità di accettare un contesto fino a un milione di token non determina comunque automaticamente la stessa efficienza o accuratezza su tutte le attività di recupero delle informazioni e deve essere valutata in funzione dell’infrastruttura di inferenza adottata.
La distribuzione dei pesi utilizza il formato MXFP4, mentre per le attivazioni intermedie è previsto MXFP8. L’architettura è stata sviluppata considerando l’utilizzo di operazioni a precisione ridotta già durante il processo di training, attraverso tecniche di quantization-aware training. Questa impostazione permette di integrare la quantizzazione nella preparazione del modello anziché applicarla esclusivamente dopo il completamento dell’addestramento. Per l’esecuzione locale, Moonshot AI indica tra i motori di inferenza compatibili vLLM, SGLang e TokenSpeed. Gli sviluppatori possono quindi scaricare i checkpoint e predisporre autonomamente l’infrastruttura necessaria oppure utilizzare il servizio API della società, mantenendo distinta la disponibilità dei pesi dalla fornitura di capacità computazionale gestita.
La licenza personalizzata consente utilizzo, modifica, fine-tuning, redistribuzione e impieghi commerciali, ma introduce condizioni legate alla dimensione economica degli utilizzatori. I fornitori di servizi basati sul modello devono stipulare un accordo separato prima dell’impiego commerciale qualora i ricavi aggregati propri e delle società affiliate superino 20 milioni di dollari in un periodo consecutivo di dodici mesi. Per prodotti o servizi commerciali che superino 100 milioni di utenti attivi mensili oppure 20 milioni di dollari di ricavi mensili è inoltre richiesta l’esposizione del nome del modello nell’interfaccia utente. Le condizioni relative agli accordi separati e all’indicazione del nome non si applicano, nei termini specificati dalla licenza, agli utilizzi interni e a determinati servizi ufficiali o partner di inferenza autorizzati. La distribuzione dei pesi non equivale pertanto a una licenza Apache 2.0 o a un’autorizzazione commerciale priva di condizioni.
Moonshot AI ha inoltre dichiarato di aver introdotto misure per contenere i rischi associati alla pubblicazione dei pesi. Durante la preparazione dei dati di addestramento intermedio e dei compiti utilizzati per il reinforcement learning, la società ha selezionato ed escluso contenuti relativi alla sicurezza informatica che avrebbero potuto rafforzare specifiche capacità di sfruttamento delle vulnerabilità. La procedura è stata presentata come un compromesso tra il mantenimento delle competenze necessarie alle normali attività di programmazione e la riduzione delle capacità di utilizzo offensivo. Il rilascio di Kimi K3.1 Pro permette quindi di esaminare direttamente una delle architetture MoE di maggiori dimensioni disponibili attraverso pesi distribuiti pubblicamente, con particolare interesse per l’integrazione tra attenzione sparsa, elaborazione multimodale e tecniche di calcolo a precisione ridotta.
Questo articolo è stato redatto con il supporto di strumenti di intelligenza artificiale (AI)