Quando un sistema di intelligenza artificiale inizia a generare contenuti con allucinazioni in un testo, siamo di fronte a una situazione che non è ideale, ma che non deve necessariamente trasformarsi in una catastrofe. Tuttavia, se un’intelligenza artificiale che alimenta una tecnologia militare dovesse avere allucinazioni, le conseguenze potrebbero rivelarsi molto più gravi.
Jaxon AI ha avviato la sua attività sviluppando sistemi di intelligenza artificiale per l’aeronautica americana, con una richiesta di massima affidabilità e precisione. Attualmente, questa startup sta espandendo il suo campo d’azione nel mercato aziendale più ampio, presentando una tecnologia chiamata Domain-Specific AI Language (DSAIL) che si propone di affrontare una delle principali sfide dell’intelligenza artificiale: le allucinazioni e le inesattezze nei modelli linguistici di grandi dimensioni (LLM). Questa tecnologia si basa sui modelli della Fondazione Watsonx di IBM e rappresenta un nuovo approccio nello sviluppo di soluzioni di intelligenza artificiale più affidabili.
“La nostra filosofia è ‘AI per AI’, poiché utilizziamo Jaxon per assistere gli utenti nella creazione di intelligenza artificiale personalizzata”, ha dichiarato Scott Cohen, CEO di Jaxon AI, in un’intervista a VentureBeat.
Ma come funziona DSAIL nel ridurre al minimo il rischio di allucinazioni generate dall’intelligenza artificiale? L’allucinazione si verifica quando un sistema di intelligenza artificiale produce una risposta inaccurata a una richiesta. Questa imprecisione può derivare da diversi fattori, come dati di addestramento incompleti o la mancanza di una verifica adeguata.
L’approccio di DSAIL mira a mitigare il rischio di allucinazioni. Cohen ha spiegato che DSAIL trasforma gli input del linguaggio naturale in un formato di linguaggio binario, che può quindi essere sottoposto a una serie di controlli e bilanci, come l’applicazione di operatori booleani, per garantire che la risposta generata dall’IA soddisfi tutti i requisiti prima di essere restituita. Questo processo è finalizzato a ridurre il non determinismo e aumentare l’affidabilità del sistema di intelligenza artificiale in varie applicazioni.
Un approccio comunemente adottato da molti fornitori per mitigare le allucinazioni è il Retrieval Augmented Generation (RAG). In questo modello, il LLM ha accesso a una base di conoscenza che gli consente di ottenere risposte accurate.
Cohen ha spiegato che DSAIL utilizza la tecnica RAG per affrontare il problema delle allucinazioni, ma questa è solo una parte dell’approccio complessivo. Ha sottolineato che, con DSAIL, l’output generato dalla tecnica RAG viene ulteriormente controllato prima di essere presentato all’utente, al fine di ridurre ulteriormente le allucinazioni.
Un elemento chiave nei sistemi di intelligenza artificiale di Jaxon è il modello IBM StarCoder, che viene specificamente utilizzato nella fase di generazione del codice. Jaxon sfrutta le capacità di StarCoder per generare automaticamente il codice iniziale per i progetti di intelligenza artificiale, basandosi sulla progettazione e sui requisiti raccolti. Questo passo è parte integrante del processo complessivo di Jaxon per la creazione di sistemi di intelligenza artificiale personalizzati.
StarCoder LLM è un’iniziativa open source lanciata inizialmente a maggio, con il sostegno di ServiceNow e Hugging Face. Savio Rodrigues, vicepresidente dell’ingegneria degli ecosistemi e della difesa degli sviluppatori presso IBM, ha sottolineato che IBM è stato uno dei contributori fondatori del progetto StarCoder. Ha inoltre evidenziato la stretta collaborazione tra IBM e Hugging Face per portare modelli aperti agli utenti aziendali.
Vale la pena notare che IBM dispone di vari strumenti LLM per la generazione di codice nella sua libreria Watsonx. Mentre StarCoder ha capacità ampie, i modelli IBM si concentrano su casi d’uso specifici. IBM ha utilizzato il proprio LLM di generazione di codice per facilitare la migrazione del codice COBOL e creare applicazioni di calcolo quantistico.
Il mercato dell’intelligenza artificiale generativa e della tecnologia LLM è altamente competitivo, con grandi attori come OpenAI, Microsoft, Google e Amazon Web Services (AWS).
IBM sta cercando di ottenere la sua quota di mercato, concentrandosi in particolare sull’assistenza a sviluppatori e fornitori di software indipendenti (ISV) come Jaxon AI tramite un programma denominato IBM Build.
Rodrigues ha spiegato che IBM Build offre ai partner accesso a Watsonx, supporto tecnico e assistenza per entrare nel mercato. L’obiettivo generale è fornire alle organizzazioni modelli di intelligenza artificiale di base affidabili, con prezzi, prestazioni e disponibilità coerenti.
“Abbiamo fiducia nell’approccio di IBM all’intelligenza artificiale, basato sul modo in cui addestriamo i nostri modelli e sui rigorosi controlli legali che applichiamo”, ha affermato Rodrigues.