La scorsa settimana, OpenAI ha annunciato una serie di aggiornamenti molto significativi. Tra questi, la funzione di chiamata nell’API Chat Completions si è rivelata particolarmente importante. Questa nuova funzionalità consente di utilizzare API e strumenti esterni insieme all’API di OpenAI. Curiosamente, questa funzione presenta notevoli somiglianze con LangChain, che svolge un compito simile, sollevando dubbi sulla sua rilevanza nella costruzione di agenti autonomi.
Santiago, un esperto di machine learning, ha affermato che con la funzione di chiamata possiamo definire funzioni personalizzate che il modello può utilizzare per rispondere alle domande. “Ad esempio, ora possiamo far sì che GPT risolva query che richiedono dati in tempo reale, come prezzi delle azioni, informazioni meteorologiche o risultati delle partite”, ha aggiunto. In passato, questa nuova funzione di “chiamata” era possibile solo utilizzando LangChain, ma ora è disponibile nativamente come parte dell’API di OpenAI.
In altre parole, grazie a questo aggiornamento, gli utenti possono ora scegliere di bypassare la terza parte (ad esempio LangChain) e creare direttamente utilizzando l’API di OpenAI, disponibile per i modelli GPT-3.5-Turbo e GPT-4.
Derek Haynes, un esperto di LLM, ha dichiarato: “Sono molto entusiasta della funzione di chiamata di OpenAI. Il mio massiccio prompt basato su ReAct è stato semplificato grazie a questa nuova funzionalità. Si tratta di un GPT ottimizzato per gli agenti… mi chiedo se LangChain sia ancora necessario data la complessità che introduce.”
Nel suo post sul blog, Haynes ha spiegato la necessità di LangChain e il ruolo dell’aggiornamento della “funzione di chiamata” introdotto da OpenAI. Ha affermato che ReAct propone un approccio in cui i modelli di linguaggio come GPT-3.5-Turbo e GPT-4 possono utilizzare strumenti esterni per eseguire determinate attività, osservare i risultati e utilizzare tali informazioni per prendere decisioni future. Ad esempio, un modello potrebbe utilizzare Zapier per cercare e-mail non lette e successivamente riassumerle utilizzando i modelli di OpenAI.
Tuttavia, questo approccio richiede agli utenti un lavoro considerevole, come l’elenco dei vari strumenti disponibili in un formato comprensibile per i modelli di linguaggio, la scrittura di codice personalizzato per analizzare le risposte ed estrarre dati rilevanti e guidare il modello di linguaggio nell’esecuzione accurata delle attività.
Secondo Haynes, questo processo può comportare la creazione di un codice di analisi delle stringhe complesso e fragile. Ha affermato che è qui che entra in gioco LangChain, apportando struttura a questo processo, anche se a discapito della leggibilità del codice. Un utente di nome “fbrncci” su HackerNews ha affermato che più l’applicazione diventa profonda e complessa, più LangChain sembra rappresentare un rischio per mantenere il progetto gestibile.
Greg Kamradt, un esperto di intelligenza artificiale, ha commentato: “La funzione di chiamata all’interno delle tue applicazioni è una delle nuove e interessanti tendenze che stiamo osservando con i modelli di linguaggio, che ampliano le loro capacità al di là della semplice generazione di testo”. Ha anche affermato che molti sistemi devono prendere decisioni e, quando si utilizza un modello di linguaggio come motore di ragionamento, il testo libero non è il modo più efficiente per comunicare con altri computer. È molto più pratico farlo in un formato JSON, ed è proprio verso questa direzione che la funzione di chiamata rappresenta un passo avanti.
Subito dopo l’annuncio dell’aggiornamento di OpenAI, LangChain ha risposto con il proprio supporto. Sebbene gli utenti siano liberi di scegliere tra le due opzioni, l’utilizzo di LangChain risulta più agevole grazie alla sua vasta gamma di funzionalità e plugin. E non sono gli unici a offrire questi servizi, poiché anche Hugging Face si sta adeguando.
Tuttavia, sorge una domanda: OpenAI ha rubato la scena a LangChain? “Sì, OpenAI ha preso spunto da LangChain”, ha affermato Santiago. Tuttavia, ha precisato che ci sono ancora molte altre funzionalità offerte da LangChain e che non si prevede che venga eliminato. “LangChain offre molte altre caratteristiche”, ha aggiunto, mettendo in dubbio i piani di OpenAI di sostituirlo completamente e integrarlo nativamente nella propria API.