In data odierna, Context AI, una startup con sede a Londra che si dedica a fornire analisi approfondite alle imprese per migliorare le applicazioni basate su Large Language Model (LLM), ha annunciato una raccolta di finanziamenti pari a 3,5 milioni di dollari. Questi investimenti provengono da Google Ventures, Tomasz Tunguz di Theory Ventures e altre fonti.
La startup ha dichiarato che utilizzerà questi fondi per potenziare i propri team di ingegneri e per sviluppare ulteriormente la propria piattaforma, allo scopo di offrire un servizio ancora più efficace ai propri clienti.
Questa iniezione di capitale giunge in un periodo in cui le aziende a livello globale manifestano un notevole interesse nell’intelligenza artificiale e stanno adottando con celerità Large Language Model nelle loro operazioni interne e nelle applicazioni destinate ai consumatori. Secondo le stime di McKinsey, questa tendenza potrebbe contribuire fino a 4,4 trilioni di dollari all’anno all’economia mondiale.
Nonostante l’entusiasmo intorno ai Large Language Model, creare applicazioni che li utilizzino non è un compito semplice. È fondamentale monitorare le performance del modello, il modo in cui l’applicazione viene utilizzata e, soprattutto, se fornisce risposte accurate, imparziali e basate sulla realtà agli utenti. Senza queste valutazioni, tutto l’approccio rischia di essere un tentativo alla cieca, senza una direzione chiara per migliorare il prodotto.
Henry Scott-Green, precedentemente responsabile di prodotto presso Google, ha affrontato sfide simili all’inizio dell’anno mentre lavorava a un progetto parallelo basato sui Large Language Model, che consentiva agli utenti di interagire con i siti web attraverso chat.
Green ha condiviso: “Abbiamo consultato numerosi sviluppatori di prodotti nel campo dell’intelligenza artificiale e abbiamo riscontrato che la mancanza di comprensione da parte degli utenti costituiva una sfida cruciale condivisa da tutta la comunità. Una volta individuato e confermato il problema, ci siamo impegnati nello sviluppo di un prototipo per una soluzione analitica. È in questo momento che abbiamo deciso di dare vita a Context.”
Attualmente, Context rappresenta una piattaforma di analisi prodotti completa per applicazioni basate su Large Language Model. Questa offerta fornisce analisi dettagliate che illustrano in modo esauriente l’interazione degli utenti con un’applicazione e le performance del prodotto in risposta.
Questo non si limita a parametri di base, quali il numero di conversazioni sull’app, i principali argomenti discussi, le lingue predominanti e la soddisfazione degli utenti, ma include anche attività più specifiche come il monitoraggio di argomenti particolari (inclusi quelli sensibili) e la trascrizione completa delle conversazioni per aiutare i team a comprendere la risposta dell’applicazione in scenari differenti.
Green ha spiegato: “Importiamo le trascrizioni dei messaggi dai clienti tramite API e offriamo SDK e un plug-in chiamato LangChain, semplificando questo processo che richiede meno di 30 minuti di lavoro. Successivamente, applichiamo flussi di lavoro di machine learning alle trascrizioni acquisite per comprendere le esigenze finali degli utenti e le performance del prodotto. Questo include l’assegnazione di argomenti alle conversazioni importate, il raggruppamento automatico delle conversazioni simili e la valutazione della soddisfazione degli utenti rispetto a ciascun argomento.”
In definitiva, sfruttando le informazioni fornite dalla piattaforma, i team possono individuare le problematiche nei loro prodotti basati su Large Language Model e lavorare per affrontarle, offrendo un’esperienza migliore che soddisfi le esigenze degli utenti.
Context afferma di avere già acquisito vari clienti paganti sin dal suo lancio quattro mesi fa, tra cui aziende quali Cognosys, Juicebox e ChartGPT, oltre a diverse grandi imprese. A causa di vincoli di riservatezza, Green non ha condiviso ulteriori dettagli.
Con questa raccolta di finanziamenti, l’azienda mira ad intensificare i propri sforzi reclutando un team di fondatori tecnici, che permetterà a Green e al suo team di accelerare lo sviluppo e creare un prodotto ancor più avanzato.
Il CEO ha dichiarato: “Il nostro prodotto stesso presenta diverse aree di sviluppo pianificate: migliorare la qualità dei sistemi di machine learning per ottenere analisi più approfondite; ottimizzare l’esperienza utente; e sviluppare modelli di distribuzione alternativi, che consentano ai clienti di implementare direttamente il nostro software sulla loro infrastruttura cloud.”
“In questa fase, il nostro obiettivo primario è ampliare la nostra base di clienti, garantendo al contempo valore alle imprese che utilizzano il nostro prodotto. E stiamo ottenendo risultati positivi”, ha aggiunto Green.
Con l’aumentare della richiesta di applicazioni basate su Large Language Model, è prevedibile che aumenteranno anche le soluzioni per monitorarne le prestazioni. A tal proposito, l’azienda di monitoraggio Arize ha già introdotto una soluzione chiamata Phoenix, che visualizza il processo decisionale complesso dei Large Language Model e segnala i punti in cui i modelli falliscono, producono risposte inadeguate o generalizzano erroneamente. Datadog sta seguendo una direzione simile, offrendo funzionalità di monitoraggio del modello in grado di analizzare il comportamento del modello e rilevare istanze di allucinazioni e deviazioni, basandosi su caratteristiche dei dati quali lunghezza delle istruzioni e risposte, latenze delle API e conteggio dei token.
Green ha tuttavia enfatizzato che Context fornisce un livello più profondo di analisi rispetto a queste offerte, le quali si limitano a segnalare le problematiche. In questo senso, Context è più simile alle società di analisi di prodotti web come Amplitude e Mixpanel.
Nel round di finanziamenti hanno partecipato anche 20SALES e numerosi investitori di venture capital e figure di spicco nell’ambito tecnologico, tra cui Harry Stebbings di 20VC, il fondatore di Snyk Guy Podjarny, i fondatori di Synthesia Victor Riparbelli e Steffen Tjerrild, Mehdi Ghissassi di Google DeepMind, il fondatore di Nested Matt Robinson, il fondatore di Deepset Milos Rusic e Sean Mullane dell’Algolia.