Mona, la principale piattaforma di monitoraggio intelligente, ha presentato una nuova soluzione di monitoraggio per applicazioni basate su GPT. Questo servizio self-service gratuito offre alle aziende una visibilità dettagliata sui prodotti basati su GPT, fornendo informazioni preziose sui costi, sulle prestazioni e sulla qualità.
I modelli di linguaggio di grandi dimensioni (LLM), e in particolare i modelli GPT di OpenAI, stanno conquistando il mondo, con molti team di ingegneri e data scientist che stanno dedicando risorse per integrarli nelle loro applicazioni e nei processi produttivi. Hyro, leader nell’intelligenza artificiale conversazionale plug and play, soprattutto nel settore sanitario, fa un uso responsabile degli LLM per potenziare funzionalità specifiche nei sistemi sanitari, come la ricerca nel sito e le risposte alle domande frequenti. Per ottimizzare le prestazioni degli LLM nei loro sistemi utente e di back-end, Hyro ha implementato Mona per tenere traccia di metriche come l’utilizzo dei token, le prestazioni delle API e la qualità delle risposte degli LLM.
“Nel corso degli anni, abbiamo utilizzato con successo la soluzione di monitoraggio AI di Mona, e la loro recente integrazione con GPT ci ha già apportato benefici significativi”, ha affermato Nitzan Bar, Chief Architect di Hyro. “Il processo di integrazione è stato agevole e ci ha fornito informazioni preziose che ci hanno aiutato a risolvere i problemi legati all’efficienza e alla qualità dell’utilizzo di GPT”.
Mona aiuta le organizzazioni a mitigare la scarsa visibilità e il deterioramento delle prestazioni nelle applicazioni basate su GPT, fornendo ai team una soluzione di monitoraggio completa. Mona garantisce prodotti GPT efficienti e di alta qualità, offrendo ai team avvisi tempestivi e dettagliati su problematiche come l’utilizzo anomalo dell’API, problemi di privacy e richieste di bassa qualità. Inoltre, Mona aiuta le aziende a identificare le aree di utilizzo intensivo di token, consentendo una significativa riduzione dei costi.
“Il nostro studio sugli utenti ha dimostrato che mentre l’adozione delle applicazioni basate su LLM, in particolare GPT di OpenAI, sta crescendo in modo esponenziale, aumentano anche le preoccupazioni e l’incertezza”, ha affermato Itai Bar-Sinai, Chief Product Officer e co-fondatore di Mona. “La nostra nuova integrazione con GPT offre ai team un modo incredibilmente rapido ed economico per affrontare tali preoccupazioni e assicurarsi di non essere all’oscuro quando utilizzano questa tecnologia in continua evoluzione”.
Con l’annuncio di oggi, Mona offre per la prima volta il monitoraggio AI completo come servizio gratuito. Chiunque può iniziare a utilizzare Mona immediatamente, semplicemente avvolgendo le chiamate API di OpenAI con soli due righe di codice.