Immagine AI

Geordie ha lanciato Cost Intelligence, una nuova funzionalità progettata per collegare direttamente l’utilizzo degli agenti AI ai costi che generano, estendendo la propria piattaforma di gestione del rischio agentico oltre gli aspetti di sicurezza. Il sistema nasce per risolvere un limite delle tradizionali metriche di spesa AI, normalmente concentrate su quali modelli sono stati utilizzati, quanti token sono stati consumati e quale costo hanno prodotto. Questi dati permettono di misurare il consumo complessivo, ma diventano meno utili quando l’uso dell’AI si distribuisce tra più strumenti, agenti e workflow e la quantità di token varia sensibilmente da un’esecuzione all’altra. Cost Intelligence aggiunge quindi un livello di attribuzione che collega la spesa agli agenti, alle attività e ai flussi di lavoro che l’hanno effettivamente generata.

L’obiettivo è permettere ai team AI Ops di passare da una semplice visione contabile della spesa a una lettura operativa del costo. Quando emerge un aumento dei consumi, la piattaforma può risalire all’agente responsabile, all’attività eseguita e all’utente o al team associato, consentendo di stabilire se l’incremento economico corrisponda a lavoro utile oppure a un comportamento inefficiente. Geordie cita due casi che mostrano la dimensione del problema: un retailer avrebbe rilevato circa 1 milione di dollari al mese di sprechi dovuti al routing di attività verso modelli più costosi di quanto necessario, mentre in una banca un singolo agente bloccato in un loop infinito di chiamate agli strumenti avrebbe consumato il 50% del budget AI mensile in una sola giornata.

L’architettura di Geordie è già progettata per operare vicino agli agenti e osservarne il comportamento a fini di sicurezza e governance. Questa stessa posizione permette alla piattaforma di raccogliere anche informazioni economiche granulari, mettendo in relazione attività svolte, consumo di token e modelli utilizzati. In questo modo il costo non viene analizzato come una quantità isolata, ma come una conseguenza di una specifica sequenza di azioni. Henry Comfort, cofondatore e CEO di Geordie, ha spiegato che token e fatture mostrano quanto è stato consumato, ma non quale lavoro abbia determinato quel consumo; associando invece ogni spesa al singolo agente e alle attività completate diventa possibile costruire una base per valutare il ritorno economico dell’AI agentica.

La misurazione avviene a livello del singolo agente attraverso ambienti cloud, codice ed endpoint, senza limitarsi alle attività che transitano attraverso uno specifico gateway o model router. Questo permette di aggregare la spesa proveniente da più piattaforme in una vista unica e di mantenere l’attribuzione anche quando gli agenti utilizzano infrastrutture differenti. I team possono partire dal costo complessivo dell’organizzazione e scendere progressivamente fino al livello di piattaforma, team, utente, modello, agente o singolo workflow, individuando quali componenti stanno assorbendo il budget e quale lavoro stanno supportando.

Cost Intelligence misura separatamente anche l’efficienza della cache per ciascun agente. La piattaforma può quindi evidenziare agenti che stanno riutilizzando poco il contesto già elaborato e quantificare l’impatto economico di questa inefficienza. In parallelo, token e spesa vengono mappati per agente in modo da distinguere un sistema costoso perché molto utilizzato e produttivo da uno che consuma grandi quantità di risorse senza generare un valore proporzionato. Questa distinzione evita che un agente impegnato in attività critiche e ad alto volume venga classificato come inefficiente soltanto sulla base del suo costo assoluto.

Un’altra componente è dedicata al rilevamento delle anomalie di costo. Il sistema può identificare agenti rimasti intrappolati in loop infiniti, task indirizzati verso modelli sovradimensionati rispetto alla complessità effettiva dell’attività e sessioni che continuano a consumare token producendo poco output utile. La lettura economica viene quindi integrata con la telemetria comportamentale dell’agente, rendendo possibile individuare non soltanto dove aumenta la spesa, ma anche quale comportamento operativo ne rappresenta la causa. Questo approccio estende il concetto di osservabilità dell’AI agentica dalla sicurezza alla gestione finanziaria.

Jacob Sweat, vicepresidente Technology di Wood Partners, ha indicato proprio la visibilità come uno dei problemi principali nella gestione della spesa AI. Secondo l’esperienza riportata dall’azienda, poter vedere quanto costano i singoli agenti e se tale spesa corrisponde a un’attività effettivamente utile modifica il tipo di valutazione possibile: la domanda non riguarda più soltanto quanto viene speso complessivamente, ma se quel costo sia giustificato dal lavoro prodotto. La stessa logica può essere utilizzata per confrontare agenti diversi, individuare configurazioni inefficienti e stabilire quali workflow richiedano modifiche al modello, al routing o alla gestione del contesto.

Geordie inserisce Cost Intelligence all’interno di una concezione più ampia del rischio legato agli agenti autonomi. Secondo Hanah-Marie Darley, cofondatrice e chief AI officer della società, con l’aumento dell’autonomia degli agenti i problemi non riguardano più soltanto la sicurezza, ma comprendono anche rischio operativo, finanziario e di accountability. Un agente può quindi rappresentare un problema non soltanto quando accede a una risorsa impropria o compie un’azione non autorizzata, ma anche quando utilizza infrastruttura e modelli in modo inefficiente, genera costi non previsti oppure rende difficile individuare chi sia responsabile di una determinata spesa. La piattaforma punta per questo a fornire una vista condivisa sul comportamento degli agenti e sull’intero insieme di rischi associati alle loro attività.

Questo articolo è stato redatto con il supporto di strumenti di intelligenza artificiale (AI)

Di Fantasy