Le “allucinazioni” nei modelli linguistici di grandi dimensioni (LLM) rappresentano una delle sfide più insidiose per le aziende che desiderano implementare chatbot intelligenti nelle loro operazioni quotidiane. Questi errori, che si manifestano come risposte errate o imprecise, possono compromettere la fiducia degli utenti e mettere a rischio la reputazione aziendale. Tuttavia, una nuova iniziativa open-source sta cercando di risolvere questo problema.
I modelli linguistici di grandi dimensioni generano risposte in modo probabilistico, selezionando token uno alla volta in base al contesto precedente. Questo processo, sebbene avanzato, è intrinsecamente soggetto a errori, portando a risposte che possono deviare dalle aspettative o dai protocolli aziendali. In ambienti ad alto rischio, come il settore bancario o sanitario, tali imprecisioni non sono tollerabili.
Alcuni tentativi di mitigare queste problematiche hanno incluso l’uso di flussi rigidi e diagrammi di flusso, come quelli offerti da LangFlow o Rasa. Tuttavia, questi approcci spesso non riescono a gestire la complessità e la variabilità delle conversazioni reali, richiedendo modifiche manuali frequenti e aumentando il rischio di errori.
Parlant è una piattaforma open-source sviluppata dalla startup Emcie, composta da ingegneri provenienti da Microsoft, EverC, Check Point e Dynamic Yield, insieme a ricercatori in elaborazione del linguaggio naturale del Weizmann Institute of Science. Questa soluzione consente alle aziende di modellare conversazioni intelligenti in modo preciso, utilizzando una selezione dinamica di “enunciati” preapprovati.
Il sistema di Parlant funziona in due modalità: una modalità “fluida”, in cui l’IA suggerisce risposte naturali che possono essere approvate o modificate dai progettisti, e una modalità “rigida”, in cui vengono utilizzati esclusivamente gli enunciati preapprovati. Ciò consente alle aziende di mantenere un alto livello di controllo sulla qualità e sull’accuratezza delle risposte, riducendo significativamente il rischio di allucinazioni.
Un altro punto di forza di Parlant è la sua capacità di tracciare e spiegare le decisioni prese dall’IA. Ogni risposta generata può essere analizzata per comprendere quali enunciati sono stati selezionati e perché, offrendo una visibilità senza precedenti sul comportamento del modello. Questo livello di trasparenza è cruciale per le aziende che operano in settori regolamentati o che necessitano di auditabilità nelle loro operazioni.
Parlant è progettato per essere compatibile con diversi fornitori di modelli linguistici, tra cui OpenAI, Google, Meta e Anthropic. Ciò offre alle aziende la flessibilità di scegliere la tecnologia che meglio si adatta alle loro esigenze specifiche, senza essere vincolate a un singolo fornitore.