Kimi K3, il nuovo modello di Moonshot AI, potrebbe modificare le priorità nella progettazione dei data center dedicati all’intelligenza artificiale. La sua architettura combina infatti un’elevata efficienza computazionale con una richiesta di memoria molto superiore a quella dei modelli precedenti, spostando parte della competizione dalla sola potenza delle GPU alla capacità HBM, alla banda disponibile e all’organizzazione complessiva dei sistemi di memoria. Questo scenario potrebbe favorire produttori come SK Hynix e Samsung Electronics, insieme a TSMC e alle aziende coinvolte nella fabbricazione e nell’integrazione dei chip AI.
Kimi K3 contiene complessivamente 2.800 miliardi di parametri, una dimensione che lo rende il più grande modello cinese presentato finora. Utilizza un’architettura fortemente sparsa, nella quale durante ogni elaborazione viene attivata soltanto una parte limitata dei parametri disponibili: la riduzione dei componenti coinvolti in ciascun passaggio permette di contenere il numero di operazioni e di aumentare l’efficienza dell’inferenza, senza rinunciare alla capacità complessiva distribuita nel modello.
La sparsità diminuisce il calcolo necessario, ma non elimina il problema della memoria. Anche quando vengono utilizzati soltanto alcuni esperti, tutti i 2.800 miliardi di parametri devono rimanere disponibili affinché il sistema possa selezionare quelli necessari per ogni input. Applicando formati numerici a bassa precisione e comprimendo il modello, il solo spazio richiesto dai pesi raggiunge comunque circa 1,4 terabyte.
La distribuzione di Kimi K3 richiede quindi cluster dotati di grandi quantità di memoria ad alta larghezza di banda, come quelli basati sui sistemi Nvidia Blackwell GB300. Non basta che la memoria complessiva contenga il modello: gli acceleratori devono accedere rapidamente ai diversi gruppi di parametri e trasferire i dati senza lasciare inattive le unità di calcolo. La prestazione effettiva dipenderà perciò dalla capacità HBM installata su ogni processore, dalla banda tra memoria e acceleratori e dalle connessioni tra i nodi del cluster.
Questa caratteristica distingue Kimi K3 da DeepSeek-R1. La presentazione di DeepSeek aveva alimentato l’ipotesi che modelli più efficienti potessero ridurre drasticamente la quantità di infrastruttura necessaria, provocando una forte reazione dei mercati e una perdita di circa 600 miliardi di dollari nella capitalizzazione di Nvidia in una sola giornata. Kimi K3 riduce a sua volta le operazioni richieste per ciascun token, ma utilizza tale efficienza per sostenere un modello molto più grande: la pressione non scompare, bensì si trasferisce verso la memoria e i sistemi capaci di ospitarla.
L’aumento delle dimensioni dei modelli rende insufficiente una strategia concentrata esclusivamente sulla potenza aritmetica delle GPU. Un acceleratore può offrire una capacità teorica elevata, ma non riesce a utilizzarla pienamente quando i dati non vengono forniti con velocità adeguata. Con architetture Mixture of Experts da migliaia di miliardi di parametri, il collo di bottiglia si sposta verso la capacità di conservare i pesi, individuare rapidamente gli esperti selezionati e trasferirli alle unità di elaborazione.
La crescita di questi modelli può quindi aumentare la domanda di HBM anche quando il numero di parametri attivati per richiesta rimane contenuto. SK Hynix e Samsung Electronics sono direttamente interessate come principali produttori di memoria ad alta larghezza di banda, mentre TSMC può beneficiare della domanda di processi avanzati, packaging e integrazione tra acceleratori e stack di memoria.
L’impatto economico non si limita al costo dei chip. Per ospitare modelli di queste dimensioni servono più acceleratori collegati, maggiore capacità di rete, sistemi di raffreddamento adeguati e un consumo energetico proporzionato all’intero cluster. La riduzione delle operazioni per token può migliorare il costo marginale dell’inferenza, ma non elimina l’investimento iniziale necessario per installare l’infrastruttura.
Moonshot AI prevede di pubblicare i pesi di Kimi K3 il 27 luglio, permettendo alle aziende di installare il modello nei propri data center senza utilizzare obbligatoriamente il cloud del produttore. La disponibilità open weight riduce la dipendenza commerciale dal fornitore e consente personalizzazione, controllo dei dati e implementazioni private, ma non rende economica l’esecuzione del sistema: l’accesso gratuito ai pesi deve essere accompagnato da cluster capaci di ospitare almeno 1,4 terabyte di parametri e di servirli con una banda sufficiente.
Lo stesso orientamento emerge nel resto dell’ecosistema cinese. Alibaba ha presentato Qwen 3.8 Max Preview, un modello da 2.400 miliardi di parametri, mentre diversi sviluppatori stanno adattando architetture e software ai processori AI prodotti in Cina. Le aspettative collegate alla crescita della filiera hanno contribuito a un rialzo intraday fino al 3,6% dell’indice ChiNext, composto prevalentemente da società tecnologiche cinesi.
I modelli open weight di grandi dimensioni possono ridurre il potere dei fornitori statunitensi nella determinazione dei prezzi delle API, offrendo alle imprese la possibilità di gestire direttamente l’inferenza. Allo stesso tempo, spostano la spesa dal servizio software all’infrastruttura fisica: più aziende possono utilizzare il modello senza pagare una licenza, ma per farlo devono acquistare acceleratori, memoria HBM e capacità di data center. Kimi K3 mostra quindi che l’efficienza computazionale non implica necessariamente una diminuzione degli investimenti nell’hardware; nei modelli estremamente sparsi e di grandi dimensioni può invece accelerare la transizione verso infrastrutture progettate principalmente intorno alla memoria.
