La sicurezza informatica è una preoccupazione sempre più rilevante quando si tratta di modelli linguistici di grandi dimensioni (LLM) altamente complessi.
Questi potenti LLM possono svelare segreti sensibili o essere indotti a creare codice dannoso con astuti stratagemmi. Inoltre, l’inserimento di dati “avvelenati” lungo il percorso può portare a pregiudizi e comportamenti non etici.
“Non bisognerebbe mai dare per scontata la sicurezza dei LLM a causa della loro complessità e delle loro capacità avanzate”, avverte Elad Schulman, cofondatore e CEO di Lasso Security. L’azienda di Schulman mira a mitigare questi rischi ed è stata lanciata segretamente con 6 milioni di dollari di finanziamenti iniziali da Entrée Capital, con il coinvolgimento di Samsung Next.
La rivoluzione dei LLM è stata definita da Schulman come “probabilmente più grande della rivoluzione del cloud e di Internet messe insieme”. Tuttavia, con grandi progressi arrivano anche grandi rischi, e la sicurezza dei LLM è una questione cruciale.
I LLM sono diventati un’importante risorsa per le aziende che cercano di mantenere un vantaggio competitivo grazie alla loro natura conversazionale, non strutturata e situazionale, rendendoli facili da utilizzare e sfruttare.
Tuttavia, quando manipolati correttamente, i LLM possono rivelare dati sensibili, informazioni organizzative e algoritmi proprietari. Allo stesso tempo, un uso improprio può portare a divulgazioni involontarie di dati aziendali.
L’azienda di Schulman si concentra sulla sicurezza delle interazioni con i LLM, rilevando e prevenendo potenziali minacce. Questo può avvenire tra dipendenti e strumenti come Bard o ChatGPT, agenti come Grammarly collegati ai sistemi aziendali, plugin collegati agli ambienti di sviluppo degli sviluppatori o funzioni di backend che effettuano chiamate API.
La piattaforma Lasso offre una serie di caratteristiche chiave, tra cui il monitoraggio delle attività dei LLM, il rilevamento delle minacce in tempo reale, la protezione end-to-end e un cruscotto intuitivo.
Schulman sottolinea l’importanza di comprendere come vengono utilizzati i LLM in un’organizzazione e di definire politiche di sicurezza appropriate per proteggere i dati sensibili.
In un’epoca in cui l’intelligenza artificiale sta trasformando il panorama aziendale, Lasso mira a fornire alle organizzazioni gli strumenti di sicurezza necessari per abbracciare il progresso senza compromettere la sicurezza dei dati.