Supercomputer fotonico per intelligenza artificiale: 10 volte più veloce, 90% in meno di energia, più pista per un aumento della velocità di 100 volte
Il computer fotonico Lightmatter è 10 volte più veloce della GPU con intelligenza artificiale NVIDIA più veloce e utilizza molta meno energia. E ha una pista per aumentare questo enorme vantaggio di un fattore 100, secondo il CEO Nicholas Harris.
Nel processo, potrebbe semplicemente riavviare una moribonda legge di Moore.
O farla saltare completamente in aria.
“Con i carichi di lavoro tipici siamo fino a 10 volte più veloci delle tecnologie esistenti come il chip A100 di NVIDIA”, mi ha detto Harris in un recente episodio del podcast TechFirst . “Se guardi ResNet-50, che è una rete neurale utilizzata da molte persone; o BERT, che è una rete neurale di elaborazione del linguaggio naturale; o DLRM, che è una rete che le persone usano per consigliarti i prodotti … in genere siamo più di 10 volte più veloci “.
10 volte più veloce di una NVIDIA A100 è un grosso problema.
NVIDIA commercializza l’A100 come componente della “più potente piattaforma server accelerata per AI e calcolo ad alte prestazioni”, affermando che è il “primo sistema AI 5 petaFLOPS al mondo”.
Un petaflop è mille trilioni, o un quadrilione, di operazioni in virgola mobile al secondo. In confronto, e con il serio rischio di confrontare le mele con le arance, il nuovo chip M1 di Apple secondo quanto riferito offre 2,6 teraflop al secondo.
Un petaflop equivale a 1000 (o 1024) teraflop, quindi l’A100 sta urlando velocemente.
Ma Harris afferma che il computer fotonico Lightmatter è 10 volte più veloce.
È impressionante, per non dire altro, perché suggerisce una capacità di elaborazione di 50 petaflop o più per chip. In confronto, i supercomputer funzionano a livelli di prestazioni di centinaia di petaflop , spesso utilizzando centinaia o migliaia di chip per farlo. Ancora una volta, usa un pizzico di sale: confrontare le velocità di infrastrutture di elaborazione molto diverse utilizzando un singolo numero probabilmente non è un confronto super-apt. Lightmatter non è un computer generico e i confronti di velocità uno a uno potrebbero non avere completamente senso.
Ascolta l’intervista dietro questa storia:
Il punto, tuttavia, è che è veloce. Incredibilmente veloce.
Ma l’informatica non riguarda solo la velocità. Riguarda anche il consumo di energia e il calore. Come tutti nella tecnologia sanno, il calore è un grave problema che influisce sulle server farm di tutto il mondo e limita la velocità a cui possono funzionare le CPU.
“Ogni volta che restringiamo i transistor, si suppone che diminuiscano la quantità di energia che usano, e non è stato così negli ultimi 15 anni”, dice Harris. “Ed è diventato un grande problema energetico e una sfida per il raffreddamento dei chip dei computer”.
La legge di Moore, che prende il nome dal co-fondatore di Fairchild Semiconductor Gordon Moore, afferma che il numero di transistor nei chip raddoppia circa ogni due anni. Il problema è che la legge di Moore si è esaurita : poiché abbiamo ridotto i transistor, sono diventati sulla scala dell’elettrone, dice Harris … e ora stanno diventando poco affidabili e meno affidabili. Non stiamo più montando sempre di più su un chip; invece stiamo aggiungendo core aggiuntivi ai chip.
Un computer fotonico, come suggerisce il nome, utilizza i fotoni, non gli elettroni. Non sono magici e non sono buoni come gli elettroni per alcuni tipi di elaborazione, come operazioni logiche, flussi di controllo e istruzioni if / then.
Come dice Harris, un computer fotonico non eseguirà Windows.
Ma ci sono alcune cose in cui i computer fotonici come Lightmatter sono davvero bravi. E si rivelano essere il genere di cose che stanno crescendo a tassi esponenziali nelle odierne server farm e nei centri di cloud computing:
AI. Apprendimento automatico. Reti neurali.
Lightmatter invierà i suoi computer fotonici in un prodotto che chiama Envise entro la fine dell’anno, dice Harris. Immagina di confezionare core di elaborazione fotonica con sistemi tradizionali basati su transistor per offrire il meglio di entrambi i mondi. Un blade Envise include 16 chip Envise in una configurazione server 4U che utilizza solo tre kilowatt di potenza.
“Envise è davvero il primo computer fotonico, punto, che puoi acquistare e si rivolge a qualsiasi tipo di rete neurale”, afferma Harris. “Quindi, se vuoi eseguire algoritmi dietro Alexa o Siri o uno qualsiasi degli assistenti vocali, Envise può eseguirli. Se vuoi fare la traduzione, Envise può eseguirla. Se vuoi identificare le cose nelle immagini per la tua auto a guida autonoma, Envise può farlo anche tu. “
Secondo Lightmatter, gli ingegneri possono utilizzare PyTorch o TensorFlow o Onyx, tutti i linguaggi e i formati a cui sono abituati, per creare reti neurali su Envise. Lightmatter offre un compilatore in Idiom per compilare programmi in codice nativo per l’elaborazione fotonica.
Forse la parte più eccitante del calcolo fotonico, tuttavia, è una qualità dei fotoni che è totalmente impossibile da duplicare per gli elettroni: il colore.
Poiché la luce ha colori diversi che occupano punti diversi nello spettro elettromagnetico, è possibile eseguire computer fotonici su colori diversi. Contemporaneamente. Utilizzando lo stesso hardware.
Ed è qui che i computer fotonici di Lightmatters diventano spaventosi velocemente.
“Per ogni colore che aggiungiamo, aumentiamo la produttività di quel numero”, afferma Harris. “Quindi due colori sono due volte più veloci. Tre colori sono tre volte più veloci e l’efficienza scala più o meno allo stesso modo. Quindi pensiamo che probabilmente puoi fare 64 colori in futuro. Non siamo ancora arrivati, ma pensiamo che sia possibile. Immagina di avere 64 processori virtuali su un chip, ed è solo l’area di uno “.
I processori normali svolgono un lavoro alla volta, anche se ai sensi e nei tempi umani sembrano essere multitasking. I processori fotonici eseguiranno più lavori in più colori contemporaneamente.
Ora stai diventando spaventoso velocemente.
“Penso che abbiamo una tabella di marcia che si estende oltre 100 volte la velocità attuale degli acceleratori”, mi ha detto Harris.
Ciò significa essenzialmente che avresti la potenza di un supercomputer delle dimensioni di una stanza in un pacchetto che puoi trasportare in un bagaglio a mano di dimensioni maggiori, funzionante fino a 20 GHz o più.
Alla fine, potresti ottenere piccoli sistemi fotonici su un laptop o persino su uno smartphone. Molto più rapidamente, si presenteranno nei sistemi basati su cloud.
“Sarebbe un mio sogno poter finalmente potenziare una ricerca su Google”, dice Harris. “Gran parte di questo viene eseguito su reti neurali.”
Lightmatter è abbastanza fiducioso sulla spedizione del prodotto nel 2021. Detto questo, tutto è sperimentale fino a quando non lo è, e probabilmente ci sono alcune sfide di produzione e scalabilità nel modo in cui l’azienda.
Supponendo che tutto funzioni, tuttavia, abbiamo bisogno di computer fotonici il prima possibile. I data center consumano già porzioni significative della fornitura totale di elettricità nel mondo: facilmente l’1% ma forse fino al 5% di tutta l’elettricità che generiamo. Entro il 2025, alcune stime dicono che l’informatica globale potrebbe assorbire fino al 20% di tutta la potenza mondiale … con tutti i danni ambientali che ciò comporta.
Il computer Photonic è a bassa potenza e non necessita di raffreddamento come le CPU e le GPU esistenti. E, con un throughput di gran lunga maggiore per esattamente i tipi di elaborazione che stanno crescendo rapidamente, potrebbe essere solo la tecnologia a invertire questa tendenza al potere.
E, naturalmente, consente una crescita continua nel nostro utilizzo dell’IA e del machine learning.
