Takara ha lanciato Miru, un nuovo livello infrastrutturale progettato per ottimizzare i costi della generazione di codice tramite intelligenza artificiale negli ambienti enterprise. La soluzione interviene su quello che l’azienda definisce un paradosso FinOps: mentre il costo medio per token continua a diminuire, la diffusione degli assistenti AI utilizzati continuamente nei team di sviluppo sta facendo aumentare la spesa complessiva delle imprese. Una parte rilevante del problema non deriva direttamente dalla generazione del codice, ma dalle numerose operazioni necessarie per cercare informazioni nei repository, recuperare i file pertinenti e caricare il contesto che il modello deve elaborare. Nei tradizionali sistemi di retrieval, queste operazioni possono assorbire dall’80% al 90% del budget di token di un coding agent prima ancora che venga generata una singola riga di codice.
Miru modifica questa architettura spostando la scoperta del contesto e l’indicizzazione dei repository dall’inferenza basata su LLM e GPU a un’infrastruttura CPU più economica e veloce. In questo modo il modello linguistico viene utilizzato principalmente per le attività nelle quali è effettivamente necessario, cioè ragionamento e generazione del codice, mentre ricerca e recupero del contesto vengono demandati a un sistema dedicato. Secondo Takara, questo approccio permette di ridurre fino al 50% lo spreco di token e di abbassare di circa il 40% la spesa complessiva associata all’AI coding senza compromettere la qualità del codice generato. Marty Legg, CEO di Takara, spiega il principio descrivendo Miru come uno strumento che indica all’agente esattamente dove cercare, evitando che debba consumare token leggendo parti di codice non necessarie; nelle configurazioni indicate dall’azienda, il risparmio può arrivare fino al 60% dei token mantenendo invariati agente e richieste.
Alla base di Miru si trova ds1-code, un modello di embedding specializzato per il codice che può essere eseguito su normali istanze CPU. Jordan Legg, Chief AI Officer di Takara, descrive Miru come un harness progettato specificamente per ottimizzare sia l’esperienza degli sviluppatori sia il consumo di token: ds1-code effettua il recupero e la contestualizzazione delle informazioni a costi ridotti, lasciando agli LLM più costosi il compito di elaborare il ragionamento e produrre il codice. L’obiettivo è quindi separare il retrieval, particolarmente intensivo dal punto di vista dei token, dall’inferenza generativa vera e propria. Sul proprio sito Takara descrive inoltre Miru come un sistema di ricerca ibrida che combina ricerca semantica tramite ds1-code e ricerca lessicale, così da individuare il codice in base al significato oltre che attraverso corrispondenze testuali.
Takara dichiara che Miru può elaborare il codice fino a 50 volte più velocemente e indicizzare i repository fino a 200 volte più rapidamente rispetto alle alternative considerate dall’azienda, consentendo di mantenere le informazioni sui repository aggiornate e disponibili in tempo reale per gli agenti. La piattaforma è stata inoltre progettata per integrarsi negli strumenti e nelle piattaforme già utilizzati dai team di sviluppo senza richiedere la sostituzione dei coding agent esistenti. Il problema riguarda infatti anche strumenti come Claude Code, Cursor e GitHub Copilot: l’aumento della produttività ottenuto attraverso questi sistemi è accompagnato dalla necessità di eseguire ripetutamente scansioni dei repository, con un conseguente incremento del consumo di token e il rischio di superamento dei budget previsti.
Un altro elemento riguarda la gestione del codice in ambienti aziendali soggetti a requisiti di sicurezza e governance. Miru prevede opzioni di deployment sovrano e le versioni con licenza possono essere installate direttamente nei data center dell’azienda oppure all’interno dei suoi ambienti cloud. In queste configurazioni il codice sorgente rimane nell’infrastruttura controllata dal cliente e non deve essere trasferito all’esterno del relativo perimetro di sicurezza. L’architettura basata su CPU consente inoltre di eseguire la componente dedicata al retrieval senza dipendere da infrastrutture GPU per questa fase del processo.
Takara collega il lancio anche alla crescente attenzione verso una standardizzazione della cosiddetta tokenomics, cioè dei criteri con cui vengono misurati, governati e contabilizzati i consumi di token. L’azienda richiama in particolare un’iniziativa guidata dalla Linux Foundation finalizzata alla definizione di un quadro comune per la governance e i costi legati al consumo di token. In questo scenario, la possibilità di isolare e ottimizzare il costo del recupero del contesto diventa particolarmente rilevante quando gli stessi ambienti aziendali devono ospitare più agenti AI contemporaneamente.
La stessa impostazione è pensata per estendersi oltre il solo sviluppo software. Con la progressiva introduzione di workflow agentici autonomi nelle attività finanziarie, operative e ingegneristiche, Takara considera la gestione efficiente del contesto uno degli elementi necessari per far funzionare più agenti nello stesso workspace mantenendo sotto controllo costi e prestazioni. Miru viene quindi proposto come livello infrastrutturale intermedio tra repository e modelli generativi, con l’obiettivo di ridurre il lavoro di ricerca affidato agli LLM e rendere più misurabile il ritorno economico e operativo dei sistemi agentici. Miru è disponibile da subito attraverso l’API pubblica di Takara e tramite licenze enterprise private.
Questo articolo è stato redatto con il supporto di strumenti di intelligenza artificiale (AI)