Thinking Machines Lab ha rilasciato Inkling, il primo modello generalista sviluppato internamente dalla società fondata dall’ex direttrice tecnologica di OpenAI Mira Murati. Il sistema viene distribuito con pesi aperti e licenza Apache 2.0, permettendo a sviluppatori e organizzazioni di scaricarlo, eseguirlo sulle proprie infrastrutture, modificarlo, sottoporlo a fine-tuning e integrarlo all’interno di applicazioni commerciali.
Inkling è un modello multimodale autoregressivo capace di elaborare testo, immagini e audio, producendo attualmente risposte testuali. È destinato alla realizzazione di agenti software, sistemi per l’utilizzo di strumenti esterni, assistenti di programmazione, chatbot, applicazioni di Retrieval-Augmented Generation e soluzioni personalizzate basate su dati aziendali. Supporta principalmente l’inglese, dispone di capacità multilingue generali e può lavorare con diversi linguaggi di programmazione.
L’architettura utilizza un Transformer decoder-only composto da 66 livelli e una struttura sparse Mixture-of-Experts. Il modello contiene complessivamente 975 miliardi di parametri, ma durante l’elaborazione ne attiva 41 miliardi. Ogni token viene indirizzato verso sei dei 256 esperti disponibili, ai quali si aggiungono due esperti condivisi attivi per tutti i token. Questa impostazione consente di mantenere un’elevata capacità complessiva senza utilizzare l’intero modello per ogni richiesta. La struttura MoE riprende in larga parte l’architettura di DeepSeek-V3. L’instradamento utilizza una funzione sigmoidale e un sistema di bilanciamento del carico privo di perdita ausiliaria. I punteggi degli esperti selezionati e di quelli condivisi vengono normalizzati congiuntamente e utilizzati per determinare il contributo di ciascun componente al risultato finale.
Il meccanismo di attenzione alterna livelli locali basati su sliding window e livelli globali secondo un rapporto di cinque a uno, con otto teste key-value. Al posto delle più diffuse Rotary Positional Embeddings, Inkling utilizza rappresentazioni posizionali relative, considerate più efficaci nella generalizzazione verso sequenze di lunghezza superiore. Brevi convoluzioni vengono inoltre applicate dopo le proiezioni key e value e sui rami residui dei blocchi di attenzione e delle reti feed-forward. La finestra di contesto può raggiungere un milione di token quando il modello viene eseguito attraverso i pesi distribuiti. Sulla piattaforma Tinker sono invece disponibili configurazioni da 64.000 e 256.000 token. La lunghezza massima consente di elaborare raccolte documentali estese, basi di codice, conversazioni lunghe e sequenze multimodali contenenti contemporaneamente testo, immagini e contenuti audio.
Inkling è stato preaddestrato da zero su 45.000 miliardi di token provenienti da testo, immagini, audio e video. I dati comprendono materiali pubblicamente disponibili, contenuti acquisiti da terze parti e informazioni generate o ampliate sinteticamente. Il processo di preparazione ha incluso operazioni di pulizia, deduplicazione, filtraggio dei contenuti di bassa qualità e trattamento dei dati in funzione degli obiettivi di sicurezza. L’addestramento ha utilizzato una strategia di ottimizzazione ibrida, con Muon applicato alle grandi matrici di pesi e Adam utilizzato per gli altri parametri. Il decadimento dei pesi è stato collegato al quadrato del learning rate per mantenere stabile la dimensione complessiva dei parametri durante cicli di addestramento prolungati. Il post-training ha interessato matematica, programmazione agentica, utilizzo di strumenti, immagini, audio, conversazione e sicurezza. Una prima fase di supervised fine-tuning è stata realizzata attraverso dati sintetici prodotti da modelli con pesi aperti, compreso Kimi K2.5. Questa fase ha utilizzato soltanto una parte limitata delle risorse complessive, mentre la maggioranza della capacità computazionale è stata destinata al reinforcement learning condotto su ambienti sintetici e creati da persone.
Thinking Machines ha eseguito più di 30 milioni di rollout attraverso un processo di reinforcement learning asincrono distribuito su due lunghe sessioni continue. Le prestazioni nei test di ragionamento, comprendenti AIME, Humanity’s Last Exam e GPQA, sono migliorate in modo log-lineare durante l’intero addestramento. Nel corso del reinforcement learning è emersa anche una progressiva compressione del ragionamento interno. Le catene di pensiero sono diventate più brevi e telegrafiche, eliminando articoli, connettivi e formulazioni grammaticalmente ridondanti senza modificare la risposta conclusiva. Questo comportamento non era stato richiesto direttamente dalla funzione di ricompensa, ma è derivato dall’ottimizzazione dell’efficienza computazionale.
Uno degli elementi centrali del modello è il controllo dello sforzo di ragionamento. Gli sviluppatori possono modificare un parametro di effort per scegliere il compromesso tra qualità della risposta, numero di token generati, costo e latenza. Durante il training, Thinking Machines ha variato il livello di effort attraverso il messaggio di sistema e il costo assegnato a ciascun token, insegnando al modello a utilizzare quantità differenti di calcolo in base al compito. Nei test Terminal Bench 2.1, Inkling ha raggiunto prestazioni paragonabili a Nemotron 3 Ultra utilizzando circa un terzo dei token. La possibilità di ridurre lo sforzo di elaborazione è particolarmente rilevante nei flussi che richiedono milioni di inferenze, nelle catene agentiche composte da numerosi passaggi e nelle applicazioni interattive nelle quali la latenza determina direttamente la qualità dell’esperienza.
Le componenti multimodali sono state addestrate da zero insieme al resto del sistema. Inkling non utilizza encoder esterni separati per l’audio e la visione. I segnali sonori vengono trasformati in spettrogrammi dMel, mentre le immagini vengono suddivise in patch da 40 × 40 pixel e trattate attraverso una rete hMLP a quattro livelli. Le rappresentazioni così ottenute passano attraverso un livello di embedding leggero e vengono elaborate insieme ai token testuali all’interno dello stesso spazio latente. Per le immagini sono supportati input basati su pixel con dimensioni consigliate comprese tra 40 e 4.096 pixel per lato. Il modello può descrivere contenuti visivi, interpretare grafici e diagrammi, rispondere a domande sulle immagini e svolgere ragionamenti matematici basati su informazioni visive. Durante l’inferenza può utilizzare anche uno strumento Python per ingrandire, ritagliare ed esaminare specifiche aree dell’immagine, integrando l’analisi visiva con l’elaborazione tramite codice. L’audio deve essere fornito in formato WAV con campionamento a 16 kHz e una durata consigliata non superiore a venti minuti. Inkling può trascrivere il parlato, seguire istruzioni vocali, rispondere a domande relative a registrazioni e ragionare su contenuti audio prolungati. Nei benchmark VoiceBench, MMAU e AudioMC ha ottenuto risultati competitivi rispetto agli altri modelli open-weight multimodali. Il modello è stato sviluppato anche per svolgere attività agentiche e utilizzare strumenti esterni. Può generare applicazioni web complete, interagire con browser incorporati, produrre artefatti con uno stile coerente e lavorare su progetti software attraverso cicli prolungati di revisione. Gli esempi diffusi comprendono un’applicazione web generata in una sola sessione e un gioco multiplayer dotato di server in tempo reale, bot, classifica e documentazione operativa.
Thinking Machines ha dimostrato le capacità di personalizzazione chiedendo a Inkling di eseguire il fine-tuning di una propria copia. Il modello ha preparato autonomamente il dataset e la funzione obiettivo, scritto il processo di addestramento, avviato il lavoro su Tinker, confrontato il checkpoint ottenuto con la versione iniziale e caricato i nuovi pesi. L’obiettivo consisteva nel produrre un modello capace di rispondere senza mai utilizzare la lettera “e”. L’intero ciclo è stato completato in circa 27 minuti. La calibrazione delle risposte rappresenta un’altra area specifica dell’addestramento. Inkling è stato ottimizzato per esprimere un livello di sicurezza coerente con l’affidabilità delle informazioni disponibili, evitando di presentare come certe risposte basate su dati incompleti o controversi. Il reinforcement learning ha utilizzato regole di scoring applicate a un ampio insieme di domande reali già risolte.
Per migliorare contemporaneamente completezza e precisione, Thinking Machines ha impiegato due sistemi automatici di valutazione. Il primo confronta la risposta con una griglia contenente gli elementi che dovrebbero essere inclusi, mentre il secondo controlla individualmente le affermazioni fattuali attraverso ricerche web agentiche. La combinazione cerca di evitare che il modello accumuli informazioni plausibili ma non verificate soltanto per soddisfare una checklist. Sono stati inoltre utilizzati dataset nei quali la ricompensa dipendeva dalla capacità di astenersi quando la probabilità di errore risultava elevata. Il modello ha così imparato a rispondere direttamente quando dispone di informazioni sufficienti e a dichiarare l’incertezza, formulare una stima prudente oppure non rispondere quando i dati non consentono una conclusione affidabile.
Inkling è stato addestrato per rispondere direttamente anche su argomenti potenzialmente soggetti a censura politica o ideologica. Nella valutazione Propaganda and Censorship Eval di Cognition ha mostrato una marcata tendenza a non aderire a schemi di censura. Thinking Machines riunisce calibrazione, rispetto delle istruzioni e resistenza alla censura sotto la definizione di “epistemics”, utilizzata per indicare il comportamento del modello nella gestione della conoscenza e dell’affidabilità delle risposte. Questa impostazione non elimina i meccanismi di sicurezza. Inkling è stato sottoposto a valutazioni interne ed esterne relative a rischi chimici, biologici, radiologici e nucleari, sicurezza informatica, perdita di controllo, manipolazione, compiacenza e vulnerabilità degli utenti. I controlli sono stati applicati in modo trasversale agli input testuali, visivi e audio.
Nel benchmark FORTRESS, che misura la capacità di rifiutare richieste relative ad armi e violenza senza bloccare domande lecite formulate in modo simile, Inkling ha ottenuto il 78% nei test avversariali e il 95,9% su quelli benigni. Su StrongREJECT, dedicato alle richieste chiaramente dannose, il risultato ha raggiunto il 98,6%. Il modello ha quindi rifiutato un’elevata percentuale di richieste pericolose senza estendere eccessivamente il rifiuto ai contenuti consentiti. Le valutazioni generali mostrano un modello competitivo, ma non superiore in assoluto alle soluzioni più avanzate disponibili. Inkling ha ottenuto il 29,7% su Humanity’s Last Exam in modalità esclusivamente testuale e il 46% con l’utilizzo di strumenti, il 97,1% su AIME 2026 e l’87,2% su GPQA Diamond. Nella programmazione agentica ha raggiunto il 77,6% su SWE-Bench Verified, il 54,3% su SWE-Bench Pro Public e il 63,8% su Terminal Bench 2.1. Nei test agentici generali ha ottenuto il 74,1% su MCP Atlas e il 23,7% su Tau 3 Banking. Nei test di rispetto delle istruzioni ha registrato il 79,8% su IFBench, mentre su Global-MMLU-Lite ha raggiunto l’88,7%. Nei benchmark visivi ha ottenuto il 73,5% su MMMU Pro, il 78,1% su CharXiv Reasoning Questions e l’82% nella variante di CharXiv che consente l’utilizzo di Python. Sul fronte audio ha raggiunto il 56,6% su AudioMC, il 77,2% su MMAU e il 91,4% su VoiceBench.
Thinking Machines ha affiancato al modello principale un’anteprima di Inkling-Small, versione Mixture-of-Experts da 276 miliardi di parametri complessivi e 12 miliardi attivi. La variante utilizza la stessa infrastruttura di post-training, ma incorpora miglioramenti nei dati e nella procedura di preaddestramento. Inkling-Small eguaglia o supera il modello maggiore in alcuni test. Ha ottenuto il 46,6% su Humanity’s Last Exam con strumenti contro il 46% di Inkling, l’88,3% su GPQA Diamond contro l’87,2%, il 74,9% su MCP Atlas contro il 74,1%, l’83,4% su IFBench contro il 79,8% e l’83,4% su CharXiv con Python contro l’82%.
Le prestazioni risultano inferiori in altri ambiti, compresi Terminal Bench 2.1, SimpleQA e alcuni test agentici. La presenza di soli 12 miliardi di parametri attivi rende comunque Inkling-Small adatto alle applicazioni nelle quali costo e latenza sono prioritari, come assistenza alla programmazione, valutazione automatica delle risposte e produzione di dati sintetici. I pesi completi saranno pubblicati dopo il completamento dei test.
Inkling viene distribuito in checkpoint BF16, MXFP8 e NVFP4. L’esecuzione locale della versione BF16 richiede almeno 2 TB di memoria video aggregata, ottenibili con otto GPU Nvidia B300 oppure sedici Nvidia H200. Il checkpoint quantizzato NVFP4 riduce il requisito a circa 600 GB di VRAM. La configurazione NVFP4 può essere eseguita in modalità W4A4 su quattro GPU Nvidia B300, a condizione di utilizzare un’architettura SM100 o superiore, oppure in modalità W4A16 su otto GPU Nvidia H200. Per il deployment sono supportati SGLang, vLLM, TokenSpeed, Unsloth e Hugging Face Transformers.
Il modello è disponibile per il download su Hugging Face e può essere utilizzato tramite Tinker, la piattaforma di Thinking Machines dedicata al fine-tuning. L’accesso API è offerto anche da Together AI, Fireworks AI, Modal, Databricks e Baseten. La società ha collaborato con RadixArk per integrare il supporto all’inferenza e al reinforcement learning open source nei framework SGLang e Miles. Su Tinker, Inkling viene proposto inizialmente con uno sconto del 50% per un periodo limitato. La piattaforma include inoltre Inkling Playground, un’interfaccia destinata agli sviluppatori che consente di conversare con il modello e valutarne il comportamento prima di avviare un processo di personalizzazione.
Inkling è stato addestrato su sistemi Nvidia GB300 NVL72 e costituisce il primo componente di una famiglia destinata a includere modelli di dimensioni e profili operativi differenti. La sua impostazione non punta a superare ogni modello proprietario nei benchmark generali, ma a fornire una base multimodale aperta, modificabile e abbastanza efficiente da essere adattata a dati, applicazioni e infrastrutture controllate direttamente dagli utilizzatori.