Edge Impulse combina AutoML e TinyML per rendere l’IA onnipresente
Edge Impulse, una startup con sede a San Jose, mira a portare funzionalità di intelligenza artificiale ai microcontrollori che alimentano i dispositivi elettronici di consumo. La società ha creato una piattaforma basata su cloud per consentire agli sviluppatori di creare modelli di intelligenza artificiale destinati ai microcontrollori.
AutoML si concentra su due aspetti critici dell’apprendimento automatico: acquisizione e previsione dei dati. La piattaforma AutoML astrae tutti i passaggi che si verificano tra queste due fasi. In sostanza, gli sviluppatori portano il proprio set di dati, identificano le etichette e premono un pulsante per generare un modello accuratamente addestrato pronto per la previsione.
MSVTinyML è una tecnica che ottimizza i modelli di machine learning per dispositivi embedded con risorse limitate. Questi dispositivi integrati funzionano a batterie con potenza di elaborazione e disponibilità di memoria limitate. I modelli ML tradizionali non possono essere distribuiti su questi dispositivi. Con TinyML, i modelli vengono convertiti e ottimizzati per funzionare sull’unità più piccola di un dispositivo elettronico: il microcontrollore.
Il targeting dei microcontrollori per l’esecuzione dell’IA è un processo complesso e dispendioso in termini di tempo. Gli sviluppatori devono acquisire dati da vari sensori collegati al microcontrollore. Quindi, devono pre-elaborare e normalizzare il set di dati prima di inviarlo a una rete neurale complessa. Le reti neurali artificiali necessitano di un’enorme potenza di calcolo fornita da CPU e GPU di fascia alta per addestrare i modelli. Una volta che il modello è stato addestrato e valutato per l’accuratezza e la precisione, viene convertito e compattato per essere eseguito in dispositivi basati su microcontrollore.
Edge Impulse ha gestito l’intera pipeline dall’acquisizione dei dati alla distribuzione del modello. Dispone di strumenti che possono essere eseguiti in Windows o macOS per raccogliere dati dai sensori e inserirli nella piattaforma basata su cloud. A seconda del formato dei dati, come serie temporali, audio e video, gli sviluppatori possono scegliere architetture di rete neurale e tecniche di ottimizzazione appropriate per addestrare il modello. Infine, Edge Impulse converte il modello, lo ottimizza e genera un artefatto che può essere distribuito direttamente nel dispositivo. Tutto questo viene fatto senza scrivere una sola riga di codice.
Dietro le quinte, Edge Impulse sfrutta l’infrastruttura, i framework e gli strumenti tipicamente utilizzati da data scientist esperti e ingegneri ML. Sfrutta la parallelizzazione per l’elaborazione dei dati e il campionamento dei set di dati. TensorFlow viene utilizzato per costruire e addestrare reti neurali supportate da potenti acceleratori di intelligenza artificiale come le GPU.
TensorFlow Lite , una versione di TensorFlow ottimizzata per i dispositivi, viene utilizzata per convertire e compattare il modello. Edge Impulse può anche generare un Web Assembly o un modello TensorRT ottimizzato per dispositivi edge basati su NVIDIA Jetson.
Il vantaggio principale dell’esecuzione dell’intelligenza artificiale nei sistemi incorporati è l’esecuzione di previsioni senza dipendere dal cloud o da servizi esterni. I modelli diventano parte del firmware installato nei dispositivi.
Edge Impulse ha collaborato con aziende di silicio e sviluppatori di kit elettronici fai-da-te per accelerare la creazione di modelli di intelligenza artificiale per microcontrollori. Sta guadagnando terreno all’interno della comunità di sviluppatori hobbisti e delle aziende IoT per portare l’intelligenza artificiale nell’ecosistema dei dispositivi embedded.
Il mese scorso, Edge Impulse ha raccolto un round di investimenti di serie A da $ 15 milioni guidato da Canaan Partners con Acrew Capital, Fika Ventures, Momenta Ventures e Knollwood Investment Advisory. Questo finanziamento promuoverà la missione di democratizzare il machine learning per milioni di sviluppatori e ingegneri che implementano miliardi di dispositivi edge.