Mythic lancia il primo chip AI analogico del settore
Le applicazioni di intelligenza artificiale stanno iniziando a comparire in tutto, dai telefoni cellulari alle superpetroliere. Ma al limite, stanno incontrando gli stessi ostacoli che le applicazioni tradizionali hanno combattuto per anni: hanno bisogno di più velocità. Più capacità. Potenza inferiore. Che cosa deve fare una fiorente rete neurale? A peggiorare le cose, i modelli di apprendimento automatico stanno crescendo a un ritmo esponenziale, raddoppiando di dimensioni ogni 3,5 mesi. In questi modelli, l’elettronica digitale tradizionale può avere difficoltà a fornire le prestazioni necessarie a bassa potenza con risorse di memoria adeguate, soprattutto per i modelli di grandi dimensioni che funzionano ai margini.
Di conseguenza, alcuni sviluppatori di chip all’avanguardia stanno perseguendo un approccio completamente nuovo: il calcolo analogico in memoria. Mythic, con sede a Redwood City, CA e Austin, TX, è la prima a commercializzare un dispositivo del genere. L’azienda ha appena annunciato il suo nuovo processore a matrice analogica M1076 (Mythic AMP), un dispositivo di calcolo analogico a chip singolo in grado di fornire risorse di calcolo impressionanti a bassissima potenza. Ogni chip AMP può pompare fino a 35 TOPS (trilioni di operazioni al secondo) con un profilo di potenza di 3W. A dieci TOPS per watt, ciò metterebbe Mythic in testa alla crescente schiera di piattaforme di intelligenza artificiale edge. L’azienda si concentrerà inizialmente su implementazioni di intelligenza artificiale perimetrale in cui potenza e prestazioni sono fondamentali e sono richiesti modelli di grandi dimensioni o multipli.
Ovviamente, come sempre, attendiamo con ansia veri e propri benchmark applicativi per convalidare le affermazioni dell’azienda. Mike Henry, fondatore e CEO dell’azienda, afferma che intende presentare i risultati a MLPerf, il che è davvero un’ottima notizia.
L’AMP M1076 è scalabile da endpoint edge a chip singolo ad applicazioni per data center ed è disponibile in una scheda chiave PCIe M.2 A+E compatta per applicazioni AI edge integrate con spazio limitato. Per le applicazioni più impegnative che richiedono molti flussi, più reti neurali profonde e di grandi dimensioni e risoluzioni e frame rate più elevati, è possibile combinare 16 AMP su una singola scheda PCIe. Il signor Henry ha indicato che un singolo chip può supportare anche più modelli simultanei. La scheda a 15 chip offre fino a 400 TOPS e 1,28 miliardi di pesi di rete neurale e assorbe solo 75 W di potenza.
Per quanto riguarda il software, Mythic afferma che oltre il 60% degli ingegneri dell’azienda ha preparato uno stack completo di strumenti di sviluppo e ottimizzazione, e lo è. Inizialmente, l’azienda si concentrerà sull’elaborazione delle immagini, dove sono in corso molte delle prime valutazioni. L’azienda è fiduciosa di poter iniziare a stabilire e coltivare un ecosistema per questa nuova classe di elaborazione, ma sappiamo tutti che il software di intelligenza artificiale può essere molto più difficile di quanto le startup credano.
Ma cos’è l’informatica analogica?
I computer analogici utilizzano tensioni a intervallo variabile per rappresentare i valori desiderati. Potresti paragonarli a un amplificatore stereo; gli “ingressi” sono la sorgente musicale, la manopola del volume, e così via, mentre l’“uscita del calcolo” è il volume che esce dagli altoparlanti.
Il calcolo in memoria utilizza celle di memoria flash come circuiti analogici. Regolando le proprietà delle singole celle di memoria, è possibile costruire un circuito che rappresenti il calcolo desiderato. Una serie di celle di memoria può eseguire operazioni di matrice parallela massiccia, esattamente ciò di cui hai bisogno per guidare una rete neurale. Poiché il calcolo avviene direttamente in memoria, non ci sono penalizzazioni prestazionali per spostare i dati avanti e indietro. E la memoria flash è molto efficiente dal punto di vista energetico, quindi un tale dispositivo di calcolo assorbe energia.
Conclusioni
Mentre le grandi aziende come IBM e Intel stanno ricercando il calcolo analogico da molti anni, Mythic è stata in grado di risolvere alcune delle barriere più spinose, inclusa l’estensione del calcolo analogico da due bit a quattro o addirittura otto con risultati stabili, e ottenere una piattaforma di produzione pronto per il mercato. La quantità di memoria su chip disponibile sull’M1076 AMP potrebbe essere un punto di svolta, soprattutto per le applicazioni che richiedono l’esecuzione simultanea di più reti neurali, come nelle telecamere di sorveglianza avanzate.
Avendo recentemente raccolto 75 milioni di dollari in ulteriori capitali di rischio, Mythic merita sicuramente di essere osservata, e così anche l’informatica analogica in generale.
