Shadeform ha lanciato Flex VMs, un livello di virtualizzazione che permette ai proprietari di server e cluster GPU bare metal di trasformare le proprie risorse hardware in macchine virtuali disponibili attraverso il marketplace della società. La soluzione è destinata ai data center indipendenti, agli operatori che possiedono infrastrutture di accelerazione AI e alle organizzazioni che dispongono di capacità di calcolo non utilizzata continuativamente. Il sistema consente di mettere a disposizione le risorse attraverso un modello di cloud on demand senza richiedere necessariamente la realizzazione di una piattaforma commerciale e di orchestrazione completamente autonoma. Flex VMs è progettato per operare con cluster GPU collocati in data center e configurazioni hardware differenti, utilizzando un meccanismo di registrazione dei nodi che permette di renderli disponibili sul marketplace Shadeform. L’iniziativa riguarda soprattutto la gestione economica della capacità di calcolo, in una fase caratterizzata da elevata domanda di acceleratori e contratti di fornitura che possono vincolare le risorse per periodi prolungati.
L’architettura utilizza macchine virtuali single-tenant con accesso dedicato alle GPU attraverso passthrough completo. Questa modalità permette di assegnare direttamente le risorse di accelerazione alla macchina virtuale del cliente, evitando l’overcommit e la condivisione delle stesse GPU fra più utilizzatori contemporanei. La separazione garantisce che le prestazioni hardware disponibili corrispondano alle risorse assegnate al singolo ambiente, mentre il proprietario del nodo conserva il controllo sulla disponibilità dell’infrastruttura. I nodi possono essere ritirati dalla piattaforma quando necessario, e la funzione Provider Priority consente al fornitore di utilizzare prioritariamente il proprio hardware per i carichi di lavoro interni. La capacità non impegnata può invece essere offerta agli utenti del marketplace, trasformando risorse temporaneamente inattive in capacità cloud acquistabile.
La procedura di registrazione è stata concepita per ridurre il lavoro necessario all’inserimento di nuovi nodi. Il proprietario dell’hardware crea un account sulla piattaforma, genera una chiave di registrazione ed esegue uno script che identifica la macchina utilizzando l’indirizzo IP e una chiave SSH. Ogni richiesta viene sottoposta alla verifica del gruppo Shadeform e, dopo l’approvazione, il nodo può essere registrato nell’arco di circa 30 minuti. La procedura sostituisce un percorso commerciale e tecnico che in precedenza richiedeva un contatto diretto e attività di configurazione più articolate. Una volta completata l’integrazione, il fornitore può rendere disponibile la capacità GPU inutilizzata mediante un’operazione eseguibile direttamente dalla piattaforma, senza dover richiedere un intervento manuale per ogni nuova offerta.
Flex VMs si integra anche con Shadeform Spot, il sistema di distribuzione della capacità disponibile temporaneamente. La partecipazione al mercato Spot è facoltativa e permette agli operatori di offrire l’hardware nei periodi nei quali non viene utilizzato per attività proprie o per contratti già assegnati. Secondo le stime comunicate dalla società, il recupero economico dei periodi di inattività attraverso Spot può ridurre fino al 29% il valore netto complessivo dei contratti di capacità GPU, grazie ai ricavi ottenuti dalla rivendita delle risorse temporaneamente libere. Si tratta di una stima riferita al modello operativo proposto e non di una riduzione garantita per ogni infrastruttura. Shadeform dichiara inoltre che i nodi già inseriti nel programma Flex VMs hanno registrato un utilizzo superiore al 95% sulle GPU delle famiglie NVIDIA Blackwell e Hopper disponibili nella piattaforma.
La soluzione separa quindi la proprietà fisica delle risorse dalla loro distribuzione commerciale. Il proprietario mantiene il controllo dei server, delle condizioni di utilizzo e della possibilità di ritirare i nodi, mentre Shadeform fornisce il livello di virtualizzazione, la registrazione delle macchine e l’accesso al mercato della capacità cloud. Il passthrough dedicato e l’assenza di overcommit preservano le caratteristiche prestazionali delle GPU assegnate ai clienti, mentre la disponibilità di un canale Spot permette di utilizzare anche intervalli di capacità che altrimenti rimarrebbero inattivi. Flex VMs introduce così un meccanismo attraverso il quale cluster GPU già installati possono partecipare alla fornitura di infrastruttura AI senza richiedere necessariamente la trasformazione del loro proprietario in un operatore cloud tradizionale.
Questo articolo è stato redatto con il supporto di strumenti di intelligenza artificiale (AI)