Dataiku, piattaforma leader nell’intelligenza artificiale, ha lanciato LLM Guard Services, una suite progettata per aiutare le aziende a implementare su larga scala l’intelligenza artificiale generativa (GenAI) in modo sicuro, dalla fase di proof-of-concept alla produzione completa. L’obiettivo è garantire l’uso efficace dell’AI senza compromettere costi, qualità o sicurezza.
La suite LLM Guard Services comprende tre soluzioni: Cost Guard, Safe Guard e Quality Guard. Questi strumenti sono integrati in Dataiku LLM Mesh, un gateway LLM completo e indipendente, per la creazione e la gestione di applicazioni GenAI a livello aziendale. La suite offre un framework scalabile senza necessità di programmazione, promuovendo trasparenza e collaborazione tra team aziendali diversi.
Secondo un recente sondaggio di Dataiku, l’88% delle aziende non dispone di strumenti specifici per gestire i modelli linguistici di grandi dimensioni (LLM). LLM Guard Services affronta questa lacuna, mitigando i rischi comuni legati alla creazione, all’implementazione e alla gestione di GenAI.
Le tre soluzioni di LLM Guard Services sono:
- Cost Guard: monitora l’uso e i costi degli LLM aziendali, aiutando a gestire la spesa in modo efficace.
- Safe Guard: protegge le informazioni sensibili e controlla l’uso degli LLM per evitare fughe di dati e abusi.
- Quality Guard: fornisce una valutazione automatica e standardizzata degli LLM per ogni caso d’uso, garantendo la qualità delle risposte e aumentando l’affidabilità del sistema.
In passato, le aziende dovevano sviluppare soluzioni personalizzate per valutare gli LLM, ma ora possono utilizzare LLM Guard Services per integrare facilmente questo passaggio critico nel ciclo di creazione delle applicazioni GenAI. Quality Guard, ad esempio, permette di calcolare metriche di valutazione standard, come pertinenza e correttezza delle risposte, e tecniche statistiche come BERT, Rouge e Bleu, per garantire la qualità e l’affidabilità degli LLM nel tempo.
La piattaforma Dataiku offre ai clienti aziendali accesso agli strumenti e alle misure di sicurezza più recenti, facilitando l’integrazione delle tecnologie GenAI nelle loro operazioni.