L’adozione dell’intelligenza artificiale (IA) da parte delle imprese è in continua espansione. Tuttavia, con l’aumento dell’uso dell’IA, emergono nuove sfide, in particolare per i Chief Information Security Officers (CISO), che devono garantire la sicurezza dei modelli di IA in fase di inferenza. Questo stadio critico, in cui i modelli di IA interagiscono con dati reali, è vulnerabile a minacce come iniezioni di prompt, fughe di dati e manipolazioni dei modelli. Per affrontare queste problematiche, Databricks e Noma Security hanno unito le forze, proponendo soluzioni innovative per proteggere l’IA in fase di inferenza.
La fase di inferenza è il momento in cui i modelli di IA vengono utilizzati per prendere decisioni basate su dati reali. È in questo stadio che le vulnerabilità possono essere sfruttate da attori malintenzionati. Le minacce comuni includono:
- Iniezioni di prompt: manipolazioni dei dati di input per influenzare i risultati del modello.
- Fughe di dati: esposizione non autorizzata di informazioni sensibili durante l’elaborazione.
- Manipolazioni dei modelli: alterazioni dei modelli di IA per ottenere risultati desiderati da parte di attaccanti.
Tradizionalmente, le difese informatiche si concentrano sulla protezione del perimetro della rete, trascurando la sicurezza durante la fase di inferenza. Questo approccio lascia le imprese vulnerabili a minacce interne ed esterne che possono compromettere l’integrità dei modelli di IA e la riservatezza dei dati.
Per affrontare queste sfide, Databricks, una piattaforma leader per l’analisi dei dati e l’IA, ha collaborato con Noma Security, una startup specializzata nella protezione dei modelli di IA. Questa partnership mira a integrare soluzioni di sicurezza avanzate direttamente nei flussi di lavoro aziendali, offrendo protezione in tempo reale durante la fase di inferenza.
Secondo Niv Braun, CEO di Noma Security, la principale preoccupazione delle imprese è la sicurezza dell’IA. Braun afferma: “Il motivo principale per cui le imprese esitano a implementare l’IA su larga scala è la sicurezza”. La collaborazione con Databricks consente di incorporare analisi delle minacce in tempo reale, protezioni avanzate a livello di inferenza e simulazioni di attacchi (red teaming) direttamente nei flussi di lavoro aziendali, permettendo alle organizzazioni di accelerare l’adozione dell’IA in modo sicuro e fiducioso.
La protezione in tempo reale è essenziale per garantire la sicurezza durante la fase di inferenza. Secondo Andrew Ferguson, Vice President di Databricks Ventures, i clienti hanno chiaramente indicato che la sicurezza dell’inferenza in tempo reale è cruciale. Ferguson sottolinea: “I nostri clienti hanno chiaramente indicato che la protezione dell’inferenza in tempo reale è cruciale, e Noma offre questa capacità in modo unico”. La soluzione proposta da Noma include monitoraggio continuo e controlli precisi in tempo reale, affrontando direttamente il divario di sicurezza nell’inferenza.
Le preoccupazioni riguardo alla sicurezza dell’IA sono in aumento. Secondo un’analisi di Gartner, la domanda di capacità avanzate di gestione della fiducia, del rischio e della sicurezza nell’IA è in forte crescita. Gartner prevede che, entro il 2026, oltre l’80% degli incidenti non autorizzati nell’IA deriveranno da uso improprio interno piuttosto che da minacce esterne. Questo evidenzia l’urgenza di implementare soluzioni di governance integrate e sicurezza in tempo reale per proteggere i modelli di IA.