Con la crescente domanda di Intelligenza Artificiale Generativa (IA), le preoccupazioni riguardo alla sua sicurezza e affidabilità sono diventate prioritarie. Le imprese cercano di garantire che le applicazioni basate su Large Language Model (LLM) forniscano risultati di alta qualità senza incorrere in problemi imprevisti.
Per affrontare queste sfide, Microsoft ha annunciato il lancio di nuovi strumenti di Azure AI. Questi strumenti mirano a mitigare le “allucinazioni automatiche” comuni nell’IA generativa e a prevenire le vulnerabilità di sicurezza come l’iniezione di prompt, dove il modello viene ingannato per generare contenuti dannosi o personali, come i deepfake.
Le nuove offerte sono attualmente in anteprima e dovrebbero essere ampiamente disponibili nei prossimi mesi, sebbene non sia stata fornita una tempistica specifica.
Con l’avvento dei Large Language Model, gli attacchi di tipo “pronta iniezione” sono diventati più critici. Microsoft sta introducendo i “Prompt Shields” in Azure AI per affrontare questo problema. Questa funzionalità utilizza algoritmi avanzati di Machine Learning (ML) e di Elaborazione del Linguaggio Naturale per rilevare intenti dannosi nei prompt e nei dati di terze parti, proteggendo così il modello dall’essere manipolato.
Inoltre, Microsoft ha introdotto modelli predefiniti per messaggi di sistema focalizzati sulla sicurezza e una nuova funzionalità chiamata “Groundedness Detection”, che aiuta a rilevare contenuti imprecisi o allucinazioni negli output di testo prodotti dal modello.
Una volta che l’applicazione è in produzione, Microsoft fornirà strumenti di monitoraggio in tempo reale per identificare eventuali minacce alla sicurezza. Questi strumenti produrranno visualizzazioni dettagliate delle attività di input e output del modello, aiutando gli sviluppatori a comprendere e affrontare le tendenze delle richieste dannose nel tempo.
In sintesi, l’aggiunta di questi nuovi strumenti mira a garantire un ambiente più sicuro e affidabile per lo sviluppo e l’utilizzo delle applicazioni di intelligenza artificiale generativa. Microsoft dimostra così il suo impegno verso la creazione di un’intelligenza artificiale affidabile, essenziale per le aziende e per attrarre una clientela più ampia.