SiMa.ai, startup statunitense specializzata in semiconduttori per l’intelligenza artificiale, ha lanciato Modalix, un chip di seconda generazione progettato per eseguire modelli linguistici di grandi dimensioni (LLM) con capacità di ragionamento direttamente su dispositivi edge, consumando meno di 10 watt di potenza.
Modalix è un System-on-Chip (SoC) che integra un’architettura Arm flessibile, ottimizzata per applicazioni di AI fisica nei settori della robotica, dell’automotive e della sanità. Il chip supporta in tempo reale LLM, reti neurali convoluzionali (CNN), modelli transformer e AI generativa (GenAI), consentendo l’elaborazione locale di dati complessi senza la necessità di connessioni cloud.
SiMa.ai ha sviluppato anche un modulo System-on-Module (SoM) Modalix, compatibile con i principali SoM basati su GPU, facilitando l’integrazione in sistemi esistenti. Il modulo include componenti essenziali come interfacce MIPI, memoria e altri I/O, supportando la rapida scalabilità delle applicazioni AI fisiche.
Per semplificare l’implementazione di GenAI, SiMa.ai ha introdotto LLiMa, un framework software che supporta il deployment di LLM su Modalix. Questo strumento facilita l’integrazione delle capacità AI generative nelle applicazioni edge, riducendo la complessità per gli sviluppatori.
Il progetto Modalix è stato sviluppato in collaborazione con Synopsys, utilizzando strumenti di progettazione basati su AI, e con TSMC, che ha impiegato il processo avanzato N6 per garantire prestazioni elevate, efficienza energetica e affidabilità.
I nuovi moduli SoM Modalix e i kit di sviluppo sono ora disponibili. Il prezzo del SoM con 8 GB di memoria parte da $349, mentre la versione con 32 GB è disponibile a $599. Il kit di sviluppo è offerto a $1.499.