L’integrazione degli agenti basati su modelli linguistici di grandi dimensioni (LLM) in vari settori ha aperto nuove possibilità nell’automazione e nell’assistenza decisionale. Tuttavia, l’autonomia di questi agenti solleva preoccupazioni significative riguardo alla sicurezza e all’affidabilità, poiché possono incorrere in vulnerabilità, violazioni legali o comportamenti indesiderati. Per affrontare queste sfide, un team di ricercatori della Singapore Management University ha sviluppato AgentSpec, un framework innovativo progettato per imporre vincoli operativi agli agenti AI, garantendo che operino entro limiti di sicurezza predefiniti.
AgentSpec è un linguaggio specifico di dominio leggero che consente agli utenti di definire regole strutturate per gli agenti AI. Queste regole incorporano trigger, predicati e meccanismi di applicazione, offrendo un controllo preciso sul comportamento degli agenti. A differenza di altri metodi esistenti, AgentSpec enfatizza l’interpretabilità, la modularità e l’efficienza, rendendolo una soluzione pratica e scalabile per garantire la sicurezza degli agenti LLM in diverse applicazioni.
I ricercatori hanno implementato AgentSpec in vari domini, tra cui l’esecuzione di codice, agenti incorporati e guida autonoma. I risultati sono stati promettenti:
- Esecuzione di Codice: AgentSpec ha prevenuto oltre il 90% delle esecuzioni di codice non sicure, dimostrando una capacità significativa nel mitigare rischi associati all’esecuzione autonoma di codice.
- Agenti Incorporati: Nel contesto degli agenti incorporati, AgentSpec ha eliminato tutte le azioni pericolose, garantendo che tali agenti operassero in modo sicuro e conforme alle aspettative.
- Guida Autonoma: Per i veicoli autonomi, AgentSpec ha assicurato una conformità del 100% alle normative, prevenendo comportamenti che avrebbero potuto portare a violazioni legali o incidenti.
Nonostante queste robuste garanzie di sicurezza, AgentSpec rimane computazionalmente leggero, con un sovraccarico misurato in millisecondi, rendendolo adatto per applicazioni in tempo reale.
Un aspetto innovativo di AgentSpec è la sua capacità di automatizzare la generazione di regole utilizzando LLM. Utilizzando il modello OpenAI o1, le regole generate hanno raggiunto una precisione del 95,56% e un richiamo del 70,96% per gli agenti incorporati, identificando con successo l’87,26% del codice rischioso e prevenendo violazioni legali in 5 degli 8 scenari testati.
Sebbene esistano altri metodi per migliorare l’affidabilità degli agenti, come ToolEmu e GuardAgent, AgentSpec si distingue per la sua robustezza, interpretabilità e adattabilità. Mentre altri approcci spesso mancano di flessibilità o sono difficili da controllare, AgentSpec offre un framework chiaro e modulare che può essere adattato a diverse esigenze e contesti applicativi.