Vectara, un’azienda che sviluppa piattaforme di intelligenza artificiale, ha lanciato un nuovo modulo per la sua piattaforma, progettato per aiutare le aziende a creare e distribuire chatbot molto accurati. La loro piattaforma utilizza un approccio chiamato RAG (Retrieval Augmented Generation) insieme a incorporamenti di vettori Boomerang per fornire informazioni aggiornate e ridurre il rischio di risposte imprecise, note come allucinazioni. Da quando Vectara è emersa nell’ottobre 2022, ha continuato a migliorare le funzionalità della sua piattaforma, e ora l’aggiunta del modulo di chat è un ulteriore sviluppo.
Tallat Shafaat, co-fondatore e capo architetto di Vectara, ha spiegato che quando si utilizza la funzione di chat della loro piattaforma, si sta in realtà utilizzando il metodo RAG. Questo significa che le risposte fornite dal chatbot provengono dai documenti dell’utente stesso, utilizzando la piattaforma RAG.
Amr Awadallah, co-fondatore e CEO di Vectara, ha sottolineato che la novità del modulo Vectara Chat rispetto alle funzionalità precedenti risiede nella sua capacità di gestire conversazioni più ampie e persistenti. In passato, la loro API si concentrava principalmente su domande e risposte singole, senza mantenere una cronologia della conversazione. I clienti dovevano costruire il proprio sistema di memorizzazione per gestire conversazioni continue. Con il nuovo modulo Vectara Chat, tuttavia, viene offerta una memoria persistente sul sito di Vectara per mantenere lo stato della conversazione.
Awadallah ha spiegato che Vectara fornisce sia un’API sia widget semplici da utilizzare, che permettono alle organizzazioni di implementare facilmente il modulo di chat nei loro siti web o applicazioni con solo poche righe di JavaScript e HTML.
Shafaat ha aggiunto che ci sono piani per arricchire Vectara Chat con funzionalità di gestione aziendale. Ad esempio, sarà possibile esaminare semanticamente la cronologia delle chat dei clienti per comprendere le loro emozioni e i tipi di domande poste. Sarà anche possibile eseguire query basate su RAG sulle chat degli utenti.
Un problema importante per l’uso aziendale dell’intelligenza artificiale è il rischio di allucinazioni. Vectara sta adottando diversi approcci per ridurre questo rischio nel suo modulo di chat, tra cui l’approccio RAG. Questo approccio fornisce spiegazioni con citazioni per assicurare l’accuratezza e integra capacità di mitigazione dei pregiudizi tramite un metodo sperimentato dall’azienda, chiamato “massima rilevanza marginale”. Questo metodo aumenta la diversità dei risultati forniti, garantendo che vengano presentati sia il punto di vista principale che quelli secondari, anche se meno rilevanti.