Lambda, specializzata in soluzioni cloud per GPU, sta per lanciare il servizio 1-Click Clusters, che permetterà alle aziende di accedere su richiesta a GPU Nvidia H100 e cluster Quantum 2 InfiniBand.
1-Click Clusters consente alle aziende di noleggiare tra 2 e 64 nodi GPU secondo le loro necessità. Questo approccio permette alle imprese di utilizzare solo la potenza di elaborazione necessaria, senza doversi preoccupare di mantenere le GPU in funzione 24 ore su 24, 7 giorni su 7.
Lambda si occupa di gestire molte delle complessità associate all’affitto di GPU, come la negoziazione con i fornitori per ottenere orari specifici di utilizzo dei server. La società ha ottimizzato l’hardware, inclusi i processori InfiniBand usati per la ricerca su larga scala, per renderlo pronto per nuovi progetti di formazione di modelli.
Molte aziende preferiscono utilizzare modelli di intelligenza artificiale già pre-addestrati e personalizzarli con i propri dati e politiche. Questo è spesso più economico rispetto alla creazione e all’addestramento di modelli da zero, soprattutto considerando il costo elevato delle GPU Nvidia e la difficoltà di avere un data center adeguato.
Le aziende più piccole, che non possono permettersi di investire in GPU costose o in contratti a lungo termine, spesso affittano spazio GPU o lavorano con provider cloud. Tuttavia, molti di questi servizi si concentrano sull’inferenza (l’uso dei modelli già addestrati) piuttosto che sull’addestramento. Inoltre, i contratti per l’uso dei cluster GPU possono essere a lungo termine, anche di un anno o più.
Con i cluster 1-Click di Lambda, le aziende possono prenotare il numero di nodi necessari per un periodo minimo di due settimane. I costi variano in base al numero di nodi e alla durata dell’uso.