Kong ha introdotto AI Management nella piattaforma Kong Konnect, ampliando le funzionalità di gestione delle infrastrutture di intelligenza artificiale con strumenti per attribuire i costi di utilizzo, proteggere le credenziali, organizzare l’accesso a modelli e servizi e monitorare le operazioni svolte dagli agenti. La soluzione è costruita attorno a Kong AI Gateway e risponde alle esigenze delle organizzazioni che utilizzano architetture nelle quali una singola attività può coinvolgere diversi modelli linguistici, server Model Context Protocol, API aziendali, strumenti software e altri agenti. Le componenti principali di gestione dei costi, delle credenziali, del contesto e dell’osservabilità di base sono incluse in AI Gateway su Konnect senza richiedere l’acquisto di moduli separati. L’obiettivo operativo consiste nel concentrare in un livello infrastrutturale comune le informazioni sull’identità delle richieste, le autorizzazioni, le politiche di consumo e i dati di esecuzione, evitando che ciascuna applicazione debba implementare autonomamente le stesse funzioni.
AI Cost Management permette di associare i consumi di intelligenza artificiale a unità organizzative, team di sviluppo, applicazioni, singoli agenti, utenti, clienti o tenant. Il sistema utilizza le informazioni raccolte dal gateway insieme all’identità e al contesto delle richieste per ricostruire l’origine della spesa. Un catalogo centralizzato contiene i prezzi dei token e le tariffe dei fornitori, con la possibilità di sostituire i valori standard con quelli previsti da accordi commerciali specifici. L’integrazione con strumenti AI esterni amplia il monitoraggio agli assistenti di programmazione, agli ambienti di sviluppo e ai sistemi di automazione del software. È possibile definire budget per differenti gruppi di attribuzione e ricevere segnalazioni quando il consumo si avvicina ai limiti stabiliti, utilizzando soglie di tipo hard e soft. Konnect offre inoltre dashboard per confrontare i costi effettivi con i budget assegnati a team, repository o ambienti di sviluppo. Per ottimizzare l’utilizzo delle risorse, Kong include funzionalità di instradamento intelligente tra modelli, semantic caching, prompt caching, compressione dei prompt e controlli sul ragionamento, la cui efficacia dipende dal tipo di richiesta e dalla possibilità di riutilizzare risposte o selezionare modelli meno costosi. La futura funzione Opportunities, dedicata all’individuazione e alla misurazione di ulteriori risparmi, non fa ancora parte delle componenti disponibili.
La protezione delle credenziali è affidata a Token Vault, introdotto con il supporto OAuth a tre parti per singolo utente in Kong AI Gateway 2.3 e incluso negli abbonamenti Kong Gateway. Il sistema consente a un agente di accedere a servizi esterni attraverso un proxy MCP senza ricevere direttamente le credenziali necessarie. L’utente e l’agente si autenticano mediante il provider di identità aziendale e il gateway applica le regole di accesso, registrazione delle attività e limitazione del traffico prima di recuperare le credenziali del servizio remoto. Al primo utilizzo può essere fornito un collegamento temporaneo per completare il normale processo di autorizzazione OAuth. I refresh token ottenuti vengono cifrati utilizzando una chiave del cliente e conservati in Kong Identity sotto forma di dati crittografati. Durante le richieste successive, il gateway recupera la chiave privata dal gestore di segreti del cliente, decifra temporaneamente la credenziale in memoria, la inserisce nella richiesta verso il servizio esterno e gestisce gli eventuali rinnovi. L’agente riceve il risultato senza poter accedere direttamente al token, mentre Konnect conserva le credenziali cifrate senza possedere la chiave necessaria per leggerle. La revoca delle autorizzazioni dell’utente può così diventare immediatamente efficace a livello di gateway, anche quando il token del servizio esterno non è ancora stato revocato.
Kong AI Registry introduce un catalogo governato di modelli commerciali, locali e personalizzati, server MCP e agenti interni o di terze parti. La registrazione di una risorsa non comporta automaticamente il diritto di utilizzarla, perché autenticazione, autorizzazione, limiti di traffico e controlli di sicurezza continuano a essere applicati dal gateway durante l’esecuzione. Context Mesh consente invece di creare server MCP a partire da API e servizi esistenti, combinando più fonti in interfacce composite utilizzabili dagli agenti. Attraverso Code Mode, un agente può cercare le operazioni disponibili, recuperare soltanto gli schemi necessari ed eseguirle, evitando di caricare preventivamente tutte le definizioni degli strumenti. È inoltre possibile comporre procedure che includono cicli, condizioni e gestione degli errori. Le funzionalità di Context Management erano già state rese generalmente disponibili il 30 settembre 2026 e vengono ora integrate nella struttura più ampia di AI Management.
AI Observability fornisce una vista complessiva dell’ambiente, dashboard preconfigurate e personalizzabili, strumenti di interrogazione ad hoc e registri delle connessioni. Le metriche possono essere suddivise per modello, agente, strumento MCP, gruppo organizzativo o ambiente, mentre le dashboard condivise rispettano i controlli di accesso basati sui ruoli. Il supporto a OpenTelemetry e agli esportatori di metriche permette di trasferire i dati ai sistemi di monitoraggio già utilizzati dalle imprese. Le funzioni avanzate di tracciamento delle sessioni e dei singoli turni di interazione sono invece previste tra la fine di novembre e l’inizio di dicembre 2026. Consentiranno di analizzare input, output, consumi di token, costi, latenza, controlli delle politiche e chiamate agli strumenti relativi a una specifica attività. AI Management introduce quindi un livello comune per collegare controllo finanziario, identità, accesso alle risorse e monitoraggio, distinguendo le funzionalità operative già rilasciate dagli strumenti avanzati di audit e valutazione dei risparmi ancora programmati.
Questo articolo è stato redatto con il supporto di strumenti di intelligenza artificiale (AI)