NVIDIA sta dimostrando di essere il leader nella corsa all’IA e sembra intenzionata a mantenere questa posizione nel lungo termine. La potente azienda di produzione di chip ha investito notevolmente nell’ecosistema dell’intelligenza artificiale, finanziando startup come Inflection AI, RunwayML, Cohere e molte altre. Inoltre, sembra che NVIDIA stia costruendo il proprio stack tecnologico nell’ambito dell’intelligenza artificiale, attraverso acquisizioni strategiche, come dimostra l’acquisizione furtiva di OmniML.
OmniML è una società specializzata nella riduzione dei modelli di machine learning per consentirne l’esecuzione su dispositivi edge. Lo scorso anno, ha lanciato Omnimizer, una piattaforma che ottimizza modelli di intelligenza artificiale molto pesanti per l’utilizzo su hardware di fascia bassa. La capacità di ridurre i modelli sembra essere una delle caratteristiche chiave che ha attirato l’attenzione di NVIDIA, tanto da portarli ad acquisire questa startup nel febbraio di quest’anno, anche se non è stata fatta un’annuncio ufficiale in proposito.
L’acquisizione di OmniML potrebbe essere spiegata considerando la presenza di NVIDIA nell’ambito dell’edge AI, soprattutto nei settori dell’automotive, della robotica e dei droni. Questa mossa potrebbe fornire a Team Green ciò di cui ha bisogno per ottenere un vantaggio competitivo. La società è stata fondata nel 2021 dal Dr. Di Wu, un ingegnere del software della divisione PyTorch di Facebook, e dal Dr. Huizi Mao, che ha lavorato nel team di visione mobile di Google Research. In collaborazione con il Dr. Song Han, pioniere nella compressione profonda per ridurre i requisiti di calcolo, hanno creato OmniML.
L’offerta principale di OmniML è Omnimizer, una piattaforma che semplifica e velocizza l’ottimizzazione su larga scala dei modelli di intelligenza artificiale. Invece di dover utilizzare diverse piattaforme e prodotti per implementare e ottimizzare i modelli per dispositivi edge, Omnimizer offre una piattaforma unificata per l’implementazione, l’addestramento e la valutazione dei modelli. Inoltre, la piattaforma ottimizza i modelli per renderli adatti anche ai dispositivi con minor potenza di calcolo. Ciò viene ottenuto includendo l’hardware di destinazione nei cicli di test, il che consente di ottenere modelli più piccoli, più veloci e più adatti all’hardware specifico su cui vengono eseguiti. L’ottimizzazione del modello viene realizzata utilizzando la ricerca dell’architetto neurale, una tecnica che individua l’architettura migliore per una rete neurale, tenendo conto di variabili come la latenza e la potenza disponibile.
Prima del lancio della piattaforma Omnimizer, OmniML ha ottenuto un finanziamento iniziale di 10 milioni di dollari in una fase di investimento guidata da GSR Ventures e Foothill Ventures, insieme a Qualcomm Ventures. Questo round di finanziamento dimostra che l’approccio di OmniML ha colto nel segno, rispondendo a una forte esigenza di una piattaforma che automatizzi l’ottimizzazione dei modelli per l’edge.
Attraverso OmniML, le aziende possono adattare facilmente i loro modelli per l’esecuzione su dispositivi come droni, fotocamere intelligenti e automobili. Questo consentirebbe di eliminare la dipendenza dal cloud per l’esecuzione di modelli di machine learning, rendendo più accessibile e democratico l’utilizzo rapido e semplice di tali modelli. Alla luce del potenziale valore che questa tecnologia può apportare nei prossimi anni, non sorprende che NVIDIA abbia acquisito questa startup fin dalle prime fasi del suo sviluppo.
NVIDIA offre principalmente tre soluzioni per l’edge computing: la piattaforma NVIDIA EGX per l’edge computing aziendale, la piattaforma IGX per applicazioni industriali e Jetson per macchine autonome e casi d’uso embedded. L’azienda ha anche ottimizzato il proprio software per l’esecuzione su ciascuno di questi dispositivi, e i clienti possono gestire le loro flotte edge utilizzando la piattaforma Fleet Command.
L’integrazione della piattaforma Omnimizer rafforzerà ulteriormente questa serie completa di offerte, poiché si adatta perfettamente alla strategia edge di NVIDIA. Sfruttando le tecniche di ottimizzazione automatica dei modelli di Omnimizer, NVIDIA potrà rendere i modelli ancora più efficienti sull’edge. Questo consentirà non solo di eseguire modelli più complessi su dispositivi più piccoli, ma creerà anche modelli più performanti adatti alla sfida dell’edge computing.
Come accennato in precedenza, OmniML tiene conto anche dell’hardware quando si tratta di ottimizzazione. Ciò significa che NVIDIA potrà creare profili personalizzati per la propria suite hardware, utilizzando la tecnologia di OmniML, assicurando che i modelli implementati sfruttino al massimo l’hardware edge in termini di efficienza ed effettività.
Il catalogo NGC (NVIDIA GPU Cloud) per le imprese svolge un ruolo cruciale in questa strategia. Questo catalogo offre contenitori software ottimizzati per le GPU, offrendo alle aziende un modo rapido e semplice per distribuire modelli su larga scala. I modelli edge disponibili nel catalogo trarranno grandi vantaggi dall’ottimizzazione di OmniML.
Sfruttando questa tecnica di ottimizzazione, NVIDIA potrà ottenere notevoli miglioramenti in termini di prestazioni ed efficienza per i modelli destinati all’edge. Inoltre, attraverso la piattaforma gestita, sarà possibile includere l’hardware dei clienti nel processo di ottimizzazione, offrendo una soluzione architetturale altamente adattabile indipendentemente dalla configurazione.
Così come le altre acquisizioni e gli investimenti effettuati, anche OmniML contribuisce a consolidare la posizione di leadership di NVIDIA nel mercato dell’IA. Anche se OmniML avesse continuato a operare come azienda indipendente, avrebbe comunque apportato valore allo stack tecnologico di NVIDIA, sebbene in modo indiretto. Tuttavia, essendo ora parte di questo colosso verde, OmniML fornisce un valore aggiunto unico che consolida ulteriormente la posizione di NVIDIA nel campo dell’edge AI.
La ricerca incessante di NVIDIA nella corsa all’IA prosegue, con l’azienda che investe nell’ecosistema dell’IA e acquisisce startup come OmniML. L’esperienza di OmniML nella riduzione dei modelli di machine learning per l’implementazione edge si integra perfettamente con la presenza di NVIDIA in settori come macchine autonome e applicazioni industriali. L’integrazione della tecnologia di OmniML nelle offerte edge di NVIDIA permette di ottimizzare i modelli per un’implementazione efficiente su hardware di fascia bassa. Inoltre, la capacità di OmniML di tenere l’hardware aggiornato consente a NVIDIA di creare profili personalizzati, massimizzando l’utilizzo della propria suite hardware edge. Questa mossa strategica rafforza la posizione di NVIDIA nel mercato dell’IA e migliora la sua strategia complessiva nell’ambito dell’edge AI.