Immagine AI

Cato Networks ha presentato AgentSense, una tecnologia di sicurezza sviluppata da Cato AI Labs per intercettare e bloccare le operazioni potenzialmente dannose degli agenti di intelligenza artificiale prima della loro esecuzione. La funzionalità Untrusted Influence Detection analizza la provenienza delle informazioni utilizzate durante una sessione, distinguendo le istruzioni attendibili dai contenuti esterni e valutando l’influenza esercitata da questi ultimi sulle decisioni dell’agente. Il sistema è progettato per contrastare gli attacchi di prompt injection indiretta senza dipendere esclusivamente da classificatori statici o da repertori di attacchi precedentemente identificati.

Cato Networks prevede inoltre l’introduzione di Drift Detection, una funzionalità destinata a verificare la coerenza delle azioni successive rispetto all’obiettivo originariamente assegnato all’agente. AgentSense si inserisce nell’infrastruttura di sicurezza dell’azienda, che comprende strumenti per individuare agenti e server MCP, analizzare le chiamate agli strumenti esterni e applicare politiche di accesso e interazione.

Lo sviluppo si collega alle precedenti ricerche di Cato AI Labs sulle vulnerabilità EchoLeak, riguardante Microsoft 365 Copilot, e CurXecute, relativa all’ambiente di sviluppo Cursor e corretta nella versione 1.3. Cato Networks ha inoltre annunciato una sfida da 10.000 dollari rivolta ai ricercatori di sicurezza per verificare la resistenza di AgentSense alla manipolazione dei flussi operativi. Non sono ancora disponibili benchmark indipendenti sull’efficacia della tecnologia.

Questo articolo è stato redatto con il supporto di strumenti di intelligenza artificiale (AI)

Di Fantasy