Portare l’intelligenza artificiale direttamente in azienda, senza dipendere completamente dai servizi cloud, è diventata un’opzione concreta grazie a una nuova generazione di sistemi progettati per eseguire modelli AI localmente. Due approcci rappresentano bene le alternative oggi disponibili: da una parte le workstation ad alte prestazioni equipaggiate con GPU Nvidia GeForce RTX 5090, dall’altra piccoli supercomputer come ASUS Ascent GX10, basato sulla piattaforma Nvidia GB10 e racchiuso in un dispositivo di appena 15 x 15 x 5 centimetri. Le due architetture rispondono però a esigenze differenti, soprattutto per quanto riguarda quantità di memoria disponibile, velocità di elaborazione, dimensione dei modelli utilizzabili, consumi e complessità della gestione.
Il punto centrale nell’esecuzione locale dei modelli di intelligenza artificiale è infatti la memoria a disposizione del sistema di calcolo. Per ottenere buone prestazioni, un modello deve poter essere caricato nella memoria direttamente accessibile dall’unità che esegue i calcoli, evitando per quanto possibile trasferimenti verso memorie più lente. ASUS Ascent GX10 dispone di 128 GB di memoria unificata utilizzabile per i carichi AI, grazie all’architettura del system-on-chip Nvidia GB10. Una workstation con GeForce RTX 5090 può invece contare sui 32 GB di memoria GDDR7 installati direttamente sulla scheda grafica. Questa memoria è estremamente veloce, ma la sua capacità pone un limite più rigido alla dimensione dei modelli che possono essere caricati integralmente sulla GPU.
La differenza cambia quindi il tipo di attività per cui le due macchine risultano più adatte. I 128 GB del GX10 consentono di lavorare con modelli molto più grandi rispetto a quelli normalmente gestibili da una singola RTX 5090, privilegiando la capacità di mantenere in memoria reti neurali con un elevato numero di parametri. La GPU desktop, invece, offre una potenza di elaborazione particolarmente elevata quando il modello riesce a rientrare nei suoi 32 GB di VRAM. In termini pratici, il piccolo sistema GB10 privilegia la capacità, mentre una workstation RTX 5090 punta maggiormente sulla velocità di calcolo.
ASUS Ascent GX10 può inoltre essere configurato collegando due unità attraverso l’interconnessione Nvidia ConnectX-7. Una configurazione di questo tipo permette di affrontare modelli ancora più impegnativi e viene indicata anche per l’esecuzione di Llama 3.1 da 405 miliardi di parametri, una dimensione difficilmente gestibile attraverso una singola workstation consumer. La possibilità di affiancare due sistemi compatti rappresenta quindi uno degli elementi distintivi della piattaforma, perché consente di incrementare la capacità disponibile senza ricorrere immediatamente a un’infrastruttura server tradizionale.
La RTX 5090 mantiene comunque un campo operativo molto ampio. I suoi 32 GB di memoria permettono di eseguire modelli come Llama 3 da 70 miliardi di parametri ricorrendo a quantizzazioni Q4-Q6, oltre a versioni quantizzate Q4 di DeepSeek R1 e a modelli dedicati alla generazione video come Wan 14B. La quantizzazione riduce la quantità di memoria richiesta rappresentando i pesi del modello con una precisione numerica inferiore, consentendo quindi di caricare reti più grandi nella VRAM disponibile, pur introducendo un compromesso rispetto all’utilizzo del modello con precisioni più elevate.
La scelta dell’hardware dipende così direttamente dal carico di lavoro previsto. Un’azienda che voglia costruire un assistente interno basato su un modello open source di fascia alta e mantenere localmente un’elevata quantità di parametri può sfruttare meglio la memoria del GX10 o di una coppia di unità collegate. Una workstation RTX 5090 risulta invece particolarmente indicata quando sono prioritarie la velocità di elaborazione e la forza bruta, per esempio nel fine-tuning di modelli di dimensioni inferiori, nella generazione di immagini e video oppure in operazioni caratterizzate da numerosi cicli di calcolo intensivi e ripetuti.
Anche le dimensioni fisiche segnano una differenza importante. ASUS Ascent GX10 misura circa 15 centimetri per lato e soltanto 5 centimetri di altezza, tanto da poter essere collocato direttamente sulla scrivania accanto alle normali periferiche di lavoro. Nonostante possa raggiungere temperature elevate durante l’esecuzione prolungata di carichi pesanti, il dispositivo mantiene una rumorosità contenuta. Una workstation dotata di RTX 5090 richiede invece un case di dimensioni adeguate, un sistema di raffreddamento consistente e un’alimentazione dimensionata per gestire una piattaforma desktop ad altissime prestazioni.
I costi delle due soluzioni sono relativamente vicini considerando il diverso approccio hardware. ASUS Ascent GX10 è reperibile a partire da circa 3.600 euro, anche se il prezzo può presentare oscillazioni significative. Per una workstation RTX 5090 il costo della sola scheda grafica può partire da circa 4.400 euro, ai quali devono essere aggiunti processore, memoria di sistema, scheda madre, archiviazione, alimentatore, raffreddamento e gli altri componenti necessari per completare la macchina. Nel confronto entrano inoltre i consumi: una workstation di questa categoria può superare complessivamente il kilowatt di potenza assorbita sotto carico, con conseguenze sia sui costi energetici sia sulle esigenze di dissipazione termica.
Il prezzo di acquisto rappresenta però soltanto una parte del costo reale di un’infrastruttura AI locale. Occorre considerare anche il tempo necessario per installare e configurare l’ambiente, le competenze richieste per mantenerlo operativo, il consumo elettrico, il raffreddamento, lo spazio occupato e gli interventi necessari per aggiornare software, driver e modelli. È in questo ambito che un sistema compatto e progettato espressamente per l’intelligenza artificiale può offrire vantaggi rispetto alla costruzione e manutenzione di una workstation tradizionale, mentre quest’ultima mantiene dalla sua una maggiore flessibilità nella scelta e nell’aggiornamento dei singoli componenti.
Uno dei motivi principali per spostare i carichi AI dal cloud all’hardware locale riguarda il controllo dei dati. Un sistema installato all’interno dell’azienda consente di eseguire inferenza e altre elaborazioni senza inviare necessariamente documenti, database, informazioni industriali o contenuti riservati verso servizi esterni. ASUS presenta il GX10 proprio come una piattaforma capace di mantenere localmente i carichi di lavoro AI, offrendo costi più prevedibili e riducendo l’esposizione dei dati verso infrastrutture esterne. Lo stesso principio vale per una workstation RTX 5090 correttamente configurata: modelli, prompt, documenti e risultati possono rimanere all’interno della rete aziendale.
Questo aspetto acquista particolare rilevanza nelle organizzazioni che trattano dati sanitari, finanziari, industriali o comunque riservati. L’esecuzione locale permette inoltre di ridurre la dipendenza dalla disponibilità di una connessione Internet, dai limiti imposti dalle API commerciali e dalle eventuali modifiche alle condizioni economiche o tecniche dei fornitori cloud. Anche il modello utilizzato può essere mantenuto in una versione determinata, evitando che un aggiornamento effettuato dal provider modifichi improvvisamente il comportamento di un’applicazione già integrata nei processi aziendali.
Il passaggio all’elaborazione locale non elimina comunque il ruolo del cloud e dei data center. Né un GX10 né una singola workstation RTX 5090 sono progettati per sostituire infrastrutture dotate di grandi cluster di GPU quando l’obiettivo è addestrare da zero modelli di enormi dimensioni o sostenere elaborazioni distribuite per periodi molto lunghi. Per questi scenari rimangono necessarie piattaforme datacenter con acceleratori di classe Nvidia H100 o H200 e infrastrutture capaci di distribuire il lavoro tra numerose GPU.
La differenza tra un piccolo supercomputer GB10 e una workstation RTX 5090 riguarda quindi soprattutto il modo in cui viene utilizzata la potenza disponibile. ASUS Ascent GX10 mette a disposizione 128 GB di memoria e privilegia l’esecuzione locale di modelli di grandi dimensioni all’interno di un dispositivo molto compatto, con la possibilità di collegare due unità per estendere ulteriormente la capacità. Una workstation RTX 5090 dispone di soli 32 GB di memoria grafica, ma quando il modello rientra in questo spazio offre prestazioni molto elevate nei carichi che richiedono calcolo intensivo.
Per le aziende che stanno valutando un’infrastruttura di intelligenza artificiale interna, la scelta non dipende quindi semplicemente dalla macchina con il maggior numero di operazioni al secondo. Dimensione dei modelli, quantità di memoria necessaria, velocità richiesta, consumi, spazio disponibile, gestione dell’hardware e necessità di mantenere i dati all’interno dell’organizzazione diventano parametri altrettanto importanti. GX10 e workstation RTX 5090 rappresentano due soluzioni molto diverse dello stesso problema: eseguire modelli AI avanzati direttamente sulla propria infrastruttura, lasciando al cloud soltanto i carichi per i quali la scala di un sistema locale non è sufficiente.
Questo articolo è stato redatto con il supporto di strumenti di intelligenza artificiale (AI)