Negli ultimi anni, DataStax ha ampliato la propria piattaforma dati per soddisfare le crescenti esigenze degli sviluppatori di intelligenza artificiale (AI) nelle aziende. Oggi, l’azienda ha presentato la piattaforma DataStax AI, realizzata in collaborazione con Nvidia AI. Questa nuova piattaforma integra le tecnologie di database di DataStax, come DataStax Astra per soluzioni cloud-native e il DataStax Hyper-Converged Database (HCD) per distribuzioni autogestite. Include anche la tecnologia Langflow, progettata per facilitare la creazione di flussi di lavoro per agenti AI. Le tecnologie di Nvidia, come NeMo Retriever, NeMo Guardrails e NIM Agent Blueprints, contribuiranno ad accelerare lo sviluppo e la distribuzione di modelli AI.
Secondo DataStax, la nuova piattaforma può ridurre i tempi di sviluppo dell’intelligenza artificiale del 60% e gestire i carichi di lavoro AI 19 volte più velocemente rispetto alle soluzioni attuali. Ed Anuff, Chief Product Officer di DataStax, ha spiegato che molte aziende si trovano “bloccate nell’inferno dello sviluppo” e che il tempo di produzione è una delle principali sfide.
Langflow è uno strumento visivo che consente agli sviluppatori di costruire flussi di lavoro AI semplicemente trascinando e rilasciando componenti su una tela. Questi componenti rappresentano diverse funzionalità di DataStax e Nvidia, come fonti di dati, modelli AI e fasi di elaborazione. Questo approccio semplifica notevolmente la creazione di applicazioni AI complesse.
Anuff ha evidenziato come Langflow permetta di visualizzare tutte le funzionalità e le API di DataStax e i componenti di Nvidia, rendendo l’integrazione e l’interazione tra di essi più intuitive e pratiche.
La piattaforma DataStax consente lo sviluppo di tre categorie di agenti AI:
- Agenti orientati alle attività: possono svolgere compiti specifici per conto degli utenti, come assemblare pacchetti di viaggio in un’applicazione.
- Agenti di automazione: operano dietro le quinte, gestendo attività senza interazione diretta, facilitando flussi di lavoro complessi attraverso API.
- Sistemi multi-agente: suddividono compiti complessi in sotto-attività gestite da agenti specializzati.
L’unione delle capacità di Nvidia con i dati di DataStax e Langflow offre vantaggi significativi per gli utenti aziendali. L’integrazione permette di utilizzare modelli di linguaggio personalizzati tramite un’architettura di microservizi NIM standardizzata, ottimizzando l’uso delle capacità hardware e software di Nvidia.
Inoltre, il supporto Guardrails aiuterà a prevenire la generazione di contenuti non sicuri, monitorando e intercettando informazioni problematiche provenienti da varie fonti.
Anuff ha sottolineato che la capacità di monitoraggio Guardrails avrà un impatto considerevole su sviluppatori e utenti finali, offrendo maggiore sicurezza nell’uso dei modelli AI.
L’integrazione di Nvidia non solo migliorerà i modelli AI, ma consentirà anche un approccio economico all’implementazione dell’AI, permettendo l’esecuzione di carichi di lavoro sia su CPU che su GPU. Anuff ha affermato che le GPU offriranno prestazioni superiori, ma la flessibilità di utilizzare le CPU per alcune operazioni potrà aiutare a contenere i costi.