Untether AI ottiene 125 milioni di dollari per i chip di accelerazione AI
Untether AI , una startup che sviluppa chip personalizzati per carichi di lavoro di inferenza AI, ha annunciato oggi di aver raccolto 125 milioni di dollari da Tracker Capital Management e Intel Capital. Il round, che è stato sovrascritto e ha incluso la partecipazione del Canada Pension Plan Investment Board e di Radical Ventures, sarà utilizzato per supportare l’espansione dei clienti.
Il maggiore utilizzo dell’intelligenza artificiale, insieme ai requisiti hardware della tecnologia, rappresenta una sfida per le architetture di elaborazione dei data center tradizionali. Untether è tra le aziende che propongono il calcolo at-memory o near-memory come soluzione. In sostanza, questo tipo di hardware costruisce memoria e logica in un pacchetto di circuiti integrati. In un’architettura di elaborazione near-memory “2.5D”, i die del processore sono impilati su un interposer che collega i componenti e la scheda, incorporando memoria ad alta velocità per rafforzare la larghezza di banda del chip.
Fondata nel 2018 dal CTO Martin Snelgrove, Darrick Wiebe e Raymond Chik, Untether afferma di continuare a fare progressi verso la produzione di massa del suo chip RunA1200, che vanta efficienza con robustezza computazionale. Snelgrove e Wiebe affermano che i dati nella loro architettura si spostano fino a 1.000 volte più velocemente del normale, il che sarebbe un vantaggio per l’apprendimento automatico, dove i set di dati sono spesso decine o centinaia di gigabyte di dimensioni.
Architettura ad alta velocità
Ogni chip RunA1200 contiene un processore RISC-V e 511 banchi di memoria, con i banchi che comprendono 385 KB di SRAM e un array 2D di 512 elementi di elaborazione (PE). Ci sono 261.632 PE per chip, con 200 MB di memoria, e RunA1200 offre 502 trilioni di operazioni al secondo (TOPS) di potenza di elaborazione.
Uno dei primi prodotti commerciali di Untether è TsunAImi, una scheda PCIe contenente quattro RunA1200. I processori specifici per app distribuiti negli array di memoria dei RunA1200 consentono a TsunAImi di fornire oltre 80.000 frame al secondo sul popolare benchmark ResNet-50, 3 volte il throughput del suo concorrente più vicino. Secondo l’analista Linley Gwennap, lo TsunAImi supera una singola GPU Nvidia A100 a circa la stessa potenza nominale, o circa 400 W di potenza.
Untether sta inviando campioni di TsunAImi e punta alla disponibilità generale questa estate. La società afferma che le carte possono essere utilizzate in una vasta gamma di settori e applicazioni, tra cui servizi bancari e finanziari, elaborazione del linguaggio naturale, veicoli autonomi, smart city e vendita al dettaglio e altri scenari che richiedono un’accelerazione dell’intelligenza artificiale ad alta velocità e bassa latenza.
“Untether AI ha un’architettura scalabile che fornisce un approccio rivoluzionario all’accelerazione dell’inferenza AI. La sua efficienza energetica leader del settore può fornire la densità di elaborazione e la flessibilità necessarie per i carichi di lavoro di intelligenza artificiale attuali e futuri nel cloud, per l’edge computing e i dispositivi integrati”, ha affermato Shaygan Kheradpir, senior advisor di Tracker Capital in un comunicato stampa.
Non mancano le startup rivali adiacenti in un mercato del segmento dei chip che si prevede raggiungerà i 91,18 miliardi di dollari entro il 2025. Mythic, con sede in California, ha raccolto 85,2 milioni di dollari per sviluppare un’architettura di elaborazione in memoria personalizzata. Graphcore , una startup con sede a Bristol, nel Regno Unito, che crea chip e sistemi per accelerare i carichi di lavoro dell’intelligenza artificiale , ha un bottino di centinaia di milioni di dollari. SambaNova ha raccolto oltre 1 miliardo di dollari per commercializzare il suo hardware di accelerazione AI. E la crescente unità di chip AI di Baidu è stata recentemente valutata a $ 2 miliardi dopo il finanziamento.
Il totale raccolto da Untether, con sede a Toronto, è ora di 152 milioni di dollari.
