Nvidia ha presentato una nuova versione da 64 GB di DGX Spark, il suo sistema desktop progettato per eseguire localmente modelli AI di grandi dimensioni e agenti senza dipendere necessariamente dalle API cloud. Il nuovo modello partirà da 4.999 dollari e sarà disponibile dal 23 ottobre attraverso partner come Acer, Asus, Dell, Gigabyte, HP e MSI. La scelta arriva in un momento in cui il peggioramento della disponibilità delle memorie ha fatto aumentare sensibilmente il prezzo della versione da 128 GB, arrivata fino a circa 6.950 dollari, e serve quindi a proporre un’alternativa meno costosa agli sviluppatori che vogliono mantenere modelli e agenti direttamente sul proprio hardware. La configurazione resta basata sul superchip Nvidia GB10 Grace Blackwell, sullo stack software CUDA e sulla connettività ConnectX-7, mentre la principale differenza riguarda la memoria unificata LPDDR5X, ridotta da 128 a 64 GB. Secondo Nvidia, questa quantità è comunque sufficiente per i modelli open più utilizzati nella fascia dei 30-35 miliardi di parametri, mentre per modelli più grandi o attività particolarmente intensive dal punto di vista della memoria continuerà a essere disponibile la versione da 128 GB.
Il punto tecnico centrale di DGX Spark resta l’architettura a memoria condivisa tra CPU e GPU. Il GB10 integra una CPU Grace a 20 core e una GPU Blackwell con Tensor Core di quinta generazione, capace di raggiungere fino a 1 petaflop di prestazioni AI FP4 quando viene utilizzata la sparsity. CPU e GPU comunicano attraverso NVLink-C2C, con una larghezza di banda superiore rispetto a PCIe 5.0, e accedono allo stesso pool di memoria unificata. Questa organizzazione evita di dover copiare continuamente i pesi dei modelli tra memoria di sistema e memoria GPU e permette di mantenere nello stesso spazio modelli differenti, KV cache e processi associati agli strumenti utilizzati dagli agenti. Nvidia indica proprio gli agenti AI a lunga esecuzione come uno degli scenari più adatti alla piattaforma, perché devono spesso mantenere contesti estesi, utilizzare più strumenti, eseguire tentativi successivi e coordinare processi differenti per periodi prolungati. Il sistema arriva inoltre già predisposto sul fronte software attraverso DGX OS, che include ambienti come PyTorch, Jupyter e Ollama; installando NemoClaw è possibile aggiungere funzioni di privacy e sicurezza agli agenti OpenClaw, mentre Nvidia OpenShell e Agent Toolkit permettono di applicare guardrail basati su policy.
La riduzione della memoria del singolo sistema viene compensata anche dalla possibilità di collegare più DGX Spark. Due unità da 64 GB possono essere configurate come un unico cluster con 128 GB complessivi e una capacità di calcolo superiore; secondo Nvidia, due sistemi da 64 GB possono raggiungere prestazioni fino a 1,7 volte superiori rispetto a un singolo DGX Spark da 128 GB pur offrendo la stessa quantità totale di memoria. La comunicazione avviene attraverso ConnectX-7 a 200 GbE, mentre Sync Cluster Assistant gestisce il collegamento e la configurazione dei diversi nodi. La piattaforma consente di unire fino a quattro sistemi, rendendo possibile aumentare progressivamente memoria e capacità computazionale senza passare immediatamente a infrastrutture da data center. Tra gli scenari indicati rientrano l’esecuzione di modelli come Muse Glimmer di Meta nella fascia dei 30 miliardi di parametri, la creazione di agenti personali, l’automazione delle attività di sviluppo collegando repository e strumenti di test e la valutazione locale dei nuovi modelli open source man mano che vengono pubblicati.
Uno dei motivi per cui Nvidia punta sul local AI è proprio l’aumento dei costi associati agli agenti. Un sistema agentico non genera soltanto una risposta a un prompt, ma può effettuare numerose chiamate agli strumenti, ripetere operazioni, mantenere contesti molto lunghi e sviluppare sequenze composte da molti passaggi, consumando quindi una quantità elevata di token. Utilizzando API cloud ogni token elaborato continua a produrre un costo variabile, mentre su hardware locale il costo principale viene sostenuto al momento dell’acquisto della macchina e l’esecuzione successiva dei modelli non comporta una tariffazione per token. Il nuovo DGX Spark viene così posizionato anche contro sistemi Apple come Mac mini M4 Pro e Mac Studio dotati di almeno 64 GB di memoria unificata, che offrono una combinazione competitiva tra prezzo e larghezza di banda della memoria. Un Mac mini M4 Pro configurato con 64 GB si colloca infatti indicativamente tra la fascia alta dei 2.000 dollari e quella iniziale dei 3.000, mentre Nvidia punta a giustificare i 4.999 dollari del DGX Spark attraverso l’accesso nativo all’ecosistema CUDA, capacità di calcolo AI più elevate e supporto diretto al clustering ad alta velocità. La versione da 128 GB rimane comunque a catalogo per chi deve gestire modelli più grandi, fine-tuning e altre attività fortemente dipendenti dalla quantità di memoria disponibile.
Questo articolo è stato redatto con il supporto di strumenti di intelligenza artificiale (AI)