Sysdig ha lanciato AI Defense, una soluzione di sicurezza e governance in fase di esecuzione progettata per osservare le operazioni compiute dagli agenti di intelligenza artificiale e intervenire quando le attività superano i limiti stabiliti dalle politiche aziendali. Il prodotto è generalmente disponibile per macOS e Windows e mira a collegare il comportamento degli agenti utilizzati sulle workstation dei dipendenti con le risorse cloud e i sistemi aziendali raggiungibili attraverso le rispettive credenziali. L’architettura affronta una differenza operativa rilevante tra gli assistenti AI che si limitano a produrre risposte e gli agenti capaci di eseguire comandi, leggere file, utilizzare strumenti, avviare processi o modificare infrastrutture. In questo secondo caso, verificare soltanto il contenuto delle risposte non è sufficiente per ricostruire ciò che il software ha effettivamente eseguito. AI Defense è quindi progettato per combinare le informazioni relative alle intenzioni dichiarate dall’agente con le evidenze operative raccolte dal sistema sottostante.
Il sistema integra strumenti di osservazione all’interno dell’harness dell’agente, ossia dell’ambiente software responsabile della sua esecuzione, con la telemetria acquisita a livello del sistema operativo. L’instrumentation dell’harness registra le chiamate agli strumenti, ai server Model Context Protocol, alle competenze e ai plugin, includendo argomenti e destinazioni delle operazioni. La telemetria di sistema permette invece di osservare processi e attività effettivamente generati da tali chiamate. Questa correlazione è importante perché una singola azione dichiarata dall’agente può produrre più processi o operazioni non immediatamente visibili nel registro applicativo. Sysdig riferisce di avere osservato, in una propria valutazione iniziale, circa sette processi sottostanti per ogni azione registrata nei log degli agenti. Il valore descrive un’osservazione aziendale specifica e non costituisce un rapporto necessariamente applicabile a qualsiasi ambiente. La piattaforma considera inoltre il livello di autorizzazione delle credenziali utilizzate: la lettura di un file può avere conseguenze differenti se avviene in un ambiente di prova oppure attraverso un’identità capace di amministrare sistemi di produzione.
AI Defense utilizza un grafo delle azioni per collegare la sequenza degli eventi, l’utente responsabile dell’agente, le attività dichiarate e le risorse accessibili. Gli amministratori possono inizialmente applicare le politiche in modalità di sola segnalazione, verificando quali operazioni produrrebbero una violazione prima di attivare i controlli. Una volta abilitata l’applicazione delle regole, la soluzione può impedire l’utilizzo di strumenti o connessioni non approvati, bloccare determinati accessi alle credenziali e sospendere operazioni che richiedono un’autorizzazione umana. Tra le capacità descritte figura anche la terminazione di un processo quando un’attività supera un controllo precedente. È necessario distinguere queste modalità, poiché impedire preventivamente l’esecuzione di un’operazione non equivale a rilevarla e interromperla successivamente. Sysdig non ha pubblicato una matrice completa delle capacità preventive disponibile per ciascuna combinazione di sistema operativo, harness e piattaforma gestita, rendendo necessaria una verifica della copertura effettiva nelle singole implementazioni.
Le politiche preconfigurate comprendono riferimenti alla classificazione OWASP Top 10 for LLM Applications, insieme a procedure per gestire eccezioni autorizzate agli sviluppatori. Le registrazioni delle sessioni permettono di individuare la politica applicata, le operazioni consentite o bloccate e le eventuali approvazioni concesse, fornendo informazioni utilizzabili nelle verifiche di sicurezza e nelle attività di audit. Sysdig collega questa impostazione alla propria esperienza nella sicurezza runtime degli ambienti cloud-native e al progetto open source Falco, originariamente sviluppato dall’azienda. Falco consente di osservare eventi del kernel Linux e altre fonti supportate mediante plugin, arricchire le informazioni con il contesto relativo a container e Kubernetes e applicare regole di rilevamento. Le funzionalità commerciali di AI Defense non coincidono tuttavia integralmente con quelle disponibili nel progetto Falco, che rappresenta una base tecnologica distinta dalla soluzione specifica di governance degli agenti.
Tra gli ambienti agentici che Sysdig intende identificare e collegare agli utenti responsabili figurano Claude Code, Codex, GitHub Copilot e Cursor. La disponibilità generale annunciata riguarda macOS e Windows, mentre la copertura descritta per Linux, Kubernetes e piattaforme agentiche gestite deve essere valutata in relazione alle integrazioni effettivamente disponibili. AI Defense viene proposto come componente complementare ai tradizionali sistemi di protezione degli endpoint, alle verifiche dei modelli e alle attività di red teaming. Queste ultime permettono di valutare il comportamento di un modello o di un processo in condizioni di test, mentre la governance runtime interviene sulle operazioni effettuate durante le sessioni reali. Il controllo delle attività degli agenti diventa così una funzione applicata ai confini dei sistemi e degli strumenti utilizzati, con efficacia dipendente dalla configurazione delle politiche, dalla qualità della telemetria e dalla copertura dell’intero percorso di esecuzione.
Questo articolo è stato redatto con il supporto di strumenti di intelligenza artificiale (AI)