La gestione efficiente di enormi quantità di dati nell’AI è diventata una sfida cruciale per le aziende. Voltron Data, una startup con sede a Mountain View, ha recentemente annunciato una partnership strategica con Accenture per affrontare questo problema attraverso l’introduzione di Theseus, un motore analitico accelerato da GPU progettato per elaborare dati su scala petabyte.
Con l’adozione crescente di soluzioni di IA generativa, molte aziende stanno scoprendo che le loro infrastrutture dati esistenti non sono in grado di gestire il volume e la velocità dei dati richiesti. Questa problematica è destinata a intensificarsi con l’aumento degli agenti IA nelle operazioni aziendali. Rodrigo Aramburu, CTO e co-fondatore di Voltron Data, ha osservato che gli agenti IA potrebbero presto generare più query SQL rispetto agli esseri umani, aumentando significativamente la domanda sulle infrastrutture dati esistenti.
A differenza dei tradizionali fornitori di database che hanno aggiunto il supporto GPU ai sistemi esistenti, Voltron Data ha sviluppato Theseus da zero, ottimizzandolo per l’accelerazione GPU. Questo approccio consente prestazioni superiori, con incrementi che vanno da 10x a 100x a seconda del carico di lavoro. Theseus è progettato per integrarsi con piattaforme consolidate come Snowflake e Databricks, utilizzando il framework Apache Arrow per un movimento dati efficiente.
Le prime implementazioni di Theseus hanno mostrato risultati impressionanti. Ad esempio, un grande rivenditore è riuscito a ridurre il numero di server da 1.400 macchine CPU a soli 14 server GPU dopo l’implementazione di Theseus. Questo non solo ha migliorato le prestazioni, ma ha anche ridotto significativamente i costi operativi e l’impronta energetica dell’infrastruttura.
La crescente domanda di GPU, alimentata dall’espansione dell’IA, ha portato a una carenza di hardware disponibile. Tuttavia, molte aziende dispongono di infrastrutture GPU sottoutilizzate, originariamente acquistate per carichi di lavoro IA, che possono essere riutilizzate per l’elaborazione dei dati durante i periodi di inattività. Theseus è in grado di funzionare efficacemente anche su generazioni precedenti di GPU, offrendo un’opportunità per massimizzare l’utilizzo dell’hardware esistente.