Il ruolo di tinyML nell’abilitazione della visione artificiale ai margini
La visione artificiale ha un grande potenziale per migliorare la nostra vita quotidiana e ci sono molte applicazioni e usi per essa. Alcuni esempi includono:
I campanelli intelligenti per la sicurezza domestica aiutano a prevenire i “pirati del portico” e le effrazioni. Secondo una ricerca di IHS Markit ( pubblicata su SecurityInfoWatch ) il numero di telecamere di sorveglianza globali in tutto il mondo dovrebbe raggiungere il miliardo nel 2021. Solo negli Stati Uniti, il numero di telecamere dovrebbe raggiungere gli 85 milioni;
Nei parcheggi , le telecamere abilitate all’intelligenza artificiale automatizzano il monitoraggio dei parcheggi disponibili e occupati per far sapere ai consumatori dove si trovano gli spazi aperti;
Le telecamere del cruscotto sui camion ora leggono i segnali di limite di velocità e riducono dinamicamente la velocità del camion per migliorare la sicurezza;
E i droni con telecamere collegate monitorano aree remote e difficili da raggiungere e possono elaborare immagini e prendere decisioni in tempo reale.
Tutte queste applicazioni utilizzano l’analisi video intelligente, guidata da AI e Machine Learning (ML), per guardare video, utilizzare l’intelligenza per prendere decisioni e quindi agire.
La visione artificiale ha bisogno di più risorse al limite
Tuttavia, come molte applicazioni basate sull’intelligenza artificiale, la visione artificiale ha bisogno di esplosioni di potenza di calcolo, memoria ed energia per svolgere le sue complesse analisi e prendere decisioni. Anche se questo va bene in un data center con molta potenza del computer, può impedire lo spostamento dell’IA verso l’edge. In particolare, i piccoli dispositivi che si trovano lontano dai data center aziendali e funzionano con piccole batterie necessitano di una nuova generazione di intelligenza artificiale che sia più piccola, più veloce e più “leggera” rispetto agli approcci tradizionali. E i dispositivi esistenti dovranno essere aggiornati con la nuova funzionalità AI + ML (visione artificiale) per rimanere validi e competitivi.
Nuovi progressi potenziano le reti neurali profonde
Oggi, i nuovi progressi nell’IA stanno rendendo le reti neurali profonde (DNN) più veloci, più piccole e più efficienti dal punto di vista energetico e aiutano a spostare l’IA dal cloud e dai data center ai dispositivi perimetrali e ai sensori alimentati a batteria. Quando si tratta di formazione sui modelli di intelligenza artificiale, l’incredibile impronta di carbonio è stata documentata e discussa (ad esempio, la formazione di un modello linguistico di intelligenza artificiale emette tanto CO2 quanto 5 auto nel corso della loro vita ). Tuttavia, dobbiamo capire qual è l’impatto ambientale del modello di intelligenza artificiale Inference e come ridurre questa impronta. È qui che l’ottimizzazione del modello può avere enormi vantaggi riducendo i costi economici e ambientali dei DNN.
TinyML abilita l’IA su piccoli dispositivi
Uno di questi progressi è tinyML , una nuova potente tendenza per consentire ai dispositivi più piccoli alimentati a batteria di utilizzare il ML avanzato per fornire la visione artificiale e altre attività di percezione. Facilita l’inferenza ML su dispositivi piccoli e con risorse limitate, in genere ai margini del cloud, e aiuta ad abilitare le applicazioni perimetrali più vicine all’utente.
Ad esempio, una GPU server come una NVIDIA A100 ha oltre 40 GB di memoria disponibile, adatta per eseguire IA complesse come la visione artificiale e l’elaborazione del linguaggio naturale . Tuttavia, quando si parla di dispositivi edge e tinyML, un comune microcontroller (MCU) può avere solo 256 KB di memoria su chip, ovvero oltre 100.000 volte meno memoria del cloud! Inoltre, a differenza dei data center e del cloud, l’hardware dei dispositivi perimetrali non può essere facilmente aggiornato sul campo. Ciò significa che dobbiamo “adattare” la nostra IA all’hardware disponibile, cosa che può richiedere mesi o anni di tentativi ed errori per essere raggiunta dagli sviluppatori, se non del tutto. È qui che tinyML, in particolare l’apprendimento automatico automatizzato (chiamato anche AutoML), può svolgere un ruolo importante nell’infrangere le barriere all’adozione dell’IA nel mondo reale.
E l’influenza di tinyML sta crescendo. Con oltre 10.000 membri, la tinyML Foundation sta ampliando l’ecosistema per supportare lo sviluppo e l’implementazione di soluzioni di machine learning a bassissimo consumo all’edge. La Fondazione unisce una comunità globale di hardware, software, machine learning, data scientist, ingegneri di sistema, designer, prodotti e uomini d’affari.
Un mondo di opportunità
In tutto, ci sono miliardi di piccoli dispositivi connessi ovunque che possono trarre vantaggio dall’intelligenza avanzata. La sfida è che hanno risorse molto limitate, quindi come possiamo aggiungere loro intelligenza? tinyML può svolgere un ruolo chiave nel portare l’IA e il ML a più applicazioni basate sulla visione artificiale del mondo reale, all’edge su piccoli dispositivi. E questo può sbloccare un mondo di vantaggi per le persone e le aziende in una vasta gamma di prodotti, servizi e settori, aiutandoci a spingerci verso nuove frontiere per l’IA.
