Recentemente, Oracle ha introdotto HeatWave GenAI, il primo modello linguistico di grandi dimensioni (LLM) integrato direttamente in un database. Integrato con MySQL, questo modello elimina la necessità di infrastrutture separate e fasi di integrazione complesse. La caratteristica più rivoluzionaria di HeatWave GenAI è che non richiede l’uso di GPU per il suo funzionamento.

Palanivel Saravanan, Vice Presidente dell’Ingegneria Cloud di Oracle India, ha spiegato che HeatWave GenAI è già ottimizzato e integrato in MySQL, rendendo inutile l’uso di GPU per ulteriori addestramenti. Questo è un vantaggio significativo poiché le GPU sono una risorsa scarsa nella costruzione di LLM.

HeatWave GenAI utilizza il VectorStore nativo per gestire i dati non strutturati, migliorando la precisione e l’efficienza nell’esecuzione di analisi e nella generazione di dichiarazioni. Questo approccio riduce drasticamente i passaggi necessari per costruire un LLM per uso commerciale, da dieci a soli due passaggi.

I database vettoriali hanno guadagnato importanza con l’IA generativa, fornendo accesso in tempo reale a dati proprietari per i LLM e facilitando lo sviluppo di applicazioni RAG (Retrieval-Augmented Generation), che sono una componente chiave di HeatWave.

Saravanan ha sottolineato che le aziende preferiscono LLM specializzati rispetto a quelli generici. Un modello linguistico su misura per le esigenze specifiche di un’azienda offre migliori prestazioni e allineamento con le necessità operative.

Oracle ha inoltre annunciato Exadata Exascale, un’architettura di dati intelligente per il cloud che promette una riduzione dei costi infrastrutturali fino al 95%. Questa piattaforma offre prestazioni estreme per tutti i carichi di lavoro del database Oracle, inclusa l’elaborazione vettoriale e le transazioni di intelligenza artificiale, operando con un modello pay-per-use.

Di Fantasy