OpenAI ha recentemente annunciato il lancio di una nuova funzionalità che consente agli utenti di cercare nella cronologia delle chat su ChatGPT, offrendo la possibilità di accedere rapidamente e facilmente alle conversazioni passate. Questo aggiornamento migliora notevolmente la funzionalità del sistema, rendendo più semplice per gli utenti fare riferimento a discussioni precedenti o riprendere una conversazione da dove si era interrotta. La funzionalità è stata sviluppata grazie alla collaborazione con Rockset, una società di analisi dati recentemente acquisita da OpenAI per 105 milioni di dollari.
L’integrazione con Rockset, un’azienda co-fondata nel 2016 da ex ingegneri di Meta, porta a ChatGPT nuove capacità di recupero e indicizzazione dei dati. Rockset utilizza un approccio di indicizzazione convergente che combina indici di riga, colonna e ricerca, consentendo ricerche rapide su diversi tipi di dati e formati. Questa tecnologia è fondamentale per supportare le necessità di OpenAI nella gestione di grandi volumi di dati non strutturati, come testi, immagini e audio.
L’integrazione con Rockset consente anche l’adozione di un approccio RAG (Retrieval-Augmented Generation), che combina il recupero di informazioni pertinenti con la generazione di contenuti tramite modelli linguistici di grandi dimensioni (LLM). Questa caratteristica è particolarmente utile per i clienti aziendali di OpenAI, che possono ora utilizzare i propri dati per migliorare il contesto e l’accuratezza delle risposte generate da ChatGPT, riducendo così i rischi di allucinazioni, ovvero errori o contenuti fuorvianti.
L’utilizzo del sistema RAG con Rockset offre un grande vantaggio rispetto ad altre soluzioni di database come MongoDB, Elasticsearch o Amazon Redshift. Mentre Elasticsearch eccelle nella ricerca per parole chiave e alternative come Weaviate e Pinecone sono specializzate nella ricerca vettoriale, Rockset unisce entrambe le capacità, fornendo corrispondenze precise di parole chiave e risultati di ricerca semanticamente ricchi. Questo approccio ibrido è particolarmente vantaggioso per OpenAI, poiché offre risultati più pertinenti e contestualizzati.
Oltre a migliorare la funzionalità di ChatGPT, OpenAI sta esplorando nuove integrazioni con piattaforme aziendali come Slack e Google Workspace, per consentire ai clienti di aggiungere informazioni esterne direttamente nelle conversazioni con l’assistente. Questo passo mira a espandere ulteriormente le applicazioni degli LLM, facilitando l’accesso a informazioni utili e rendendo più agevole l’integrazione tra le risorse aziendali e le capacità di ChatGPT.
Grazie alla sua architettura completamente gestita e serverless, Rockset permette di ridurre le spese operative e di semplificare la scalabilità del sistema. Questo approccio elimina la necessità di gestire manualmente l’infrastruttura, consentendo a OpenAI di crescere e di scalare le operazioni in modo fluido ed efficiente. In questo modo, OpenAI punta a offrire ai propri utenti, sia privati che aziendali, strumenti sempre più potenti e facili da usare per migliorare l’esperienza di ricerca e recupero delle informazioni.