OctoML aiuta le aziende ad automatizzare con la piattaforma ML per l’edge
Oggi a TVMcon 2021, OctoML ha annunciato il rilascio della sua piattaforma di distribuzione di machine learning (ML), una soluzione progettata per consentire alle organizzazioni di automatizzare e scalare la distribuzione di modelli ML su hardware e infrastruttura cloud.
La piattaforma è progettata per distribuire modelli a una vasta gamma di servizi cloud e infrastrutture hardware, tra cui AWS, Microsoft Azure, Google Cloud Platform, GPU NVIDIA, CPU Intel, CPU AMD e piattaforme edge come NVIDIA Jetson e Arm Cortex-A.
La piattaforma di apprendimento automatico di OctoML è una soluzione di ottimizzazione AI edge, una categoria di soluzioni progettate per ottimizzare le prestazioni delle soluzioni AI ai bordi della rete con implementazione automatizzata in modo che gli ingegneri non debbano dedicare ore all’amministrazione e all’ottimizzazione manuale.
La distribuzione automatizzata del modello e le prestazioni ottimali significano anche che i responsabili delle decisioni possono generare informazioni più rapidamente, operazione tradizionalmente molto difficile da eseguire manualmente a causa della complessità dei modelli elaborati.
Ridimensionamento dei modelli di apprendimento automatico
Una delle maggiori sfide che devono affrontare le organizzazioni che utilizzano l’intelligenza artificiale per ottenere informazioni approfondite è la complessità dell’implementazione e dell’elaborazione di modelli di machine learning.
“Oggi le aziende devono affrontare sfide significative con il ridimensionamento dell’implementazione dei loro modelli addestrati. In effetti, la ricerca mostra che quasi i due terzi dei modelli impiegano più di un mese per essere distribuiti in produzione”, ha affermato Luis Ceze, CEO di OctoML.
“Questo perché la messa a punto e l’ottimizzazione delle prestazioni del modello vengono in gran parte eseguite manualmente. Inoltre, i modelli, le piattaforme software e gli obiettivi di inferenza sono in rapida evoluzione e richiedono risorse altamente qualificate su base continuativa”, ha affermato.
È una sfida che l’organizzazione intende affrontare con la nuova piattaforma di distribuzione di Machine Learning. Quest’ultima iterazione rompe questi colli di bottiglia, rendendo l’apprendimento automatico economicamente fattibile e consentendo un’innovazione più rapida”, ha affermato.
La soluzione utilizza i miglioramenti delle prestazioni TVM per elaborare i modelli di machine learning più diffusi fino a due volte più velocemente, in modo che le organizzazioni possano generare informazioni più rapidamente.
La crescita dell’IA edge
L’annuncio arriva dopo che OctoML ha raccolto 85 milioni di dollari in un round di finanziamento di serie C guidato da Tiger Global Management, raggiungendo un finanziamento totale di 132 milioni di dollari.
La crescita dell’azienda è direttamente collegata alla crescita del mercato del software edge AI, che secondo le stime della ricerca raggiungerà un valore di 2271,73 milioni di dollari entro il 2027, poiché sempre più organizzazioni si spostano sul cloud e cercano soluzioni che consentano loro di elaborare i dati creati presso la rete. bordo.
OctoML fa parte di un numero crescente di fornitori che fornisce alle organizzazioni soluzioni per aiutare ad automatizzare e ottimizzare l’implementazione di modelli di machine learning per generare informazioni ai margini della rete, con concorrenti che vanno da Neural Magic , a CoCoPie , NeuReality e DeepCube .
Neural Magic, uno dei principali concorrenti di OctoML, un fornitore che offre funzionalità di modellazione open source e software progettato per distribuire modelli di deep learning in ambienti edge, ha recentemente annunciato la chiusura di un round di finanziamento di serie A da $ 30 milioni.
Un altro, noto come CoCoPie, offre alle organizzazioni una soluzione per ottimizzare i modelli di intelligenza artificiale per i dispositivi edge, raccogliendo all’inizio di quest’anno 6 milioni di dollari in finanziamenti di serie A e raggiungendo una valutazione di 50 milioni di dollari.
OctoML sta cercando di differenziarsi dai concorrenti costruendo un ecosistema coeso di partner hardware e cloud in modo che le organizzazioni possano ottimizzare le prestazioni del modello in qualsiasi ambiente cloud o cloud ibrido in cui stanno lavorando. L’obiettivo finale è generare una soluzione che consenta alle organizzazioni di generare informazioni dettagliate ed eliminare un lavoro manuale intensivo per la loro distribuzione ai margini della rete.
