Deci punta all’efficienza nell’IA generativa
Il panorama dell’intelligenza artificiale generativa, che spazia dalla codifica alla generazione di contenuti, è in continua evoluzione. Nel mezzo di questa competizione, l’israeliana Deci mira all’efficienza. Fondata quattro anni fa, Deci ha recentemente lanciato due modelli open source: DeciDiffusion 1.0 per generare immagini dal testo e DeciLM 6B per generare testo. In aggiunta, l’azienda ha introdotto Infery LLM, un SDK per sviluppatori orientato all’uso commerciale e alla ricerca.
Chi è interessato può testare DeciDiffusion 1.0 e una versione lite di DeciLM 6B su HuggingFace.
Efficienza e riduzione dei costi con Deci
Deci si impegna a stabilire nuovi standard di efficienza nel campo dell’IA generativa. Rispetto ai competitor, DeciDiffusion è tre volte più rapido del modello Stable Diffusion 1.5, mentre DeciLM 6B supera di 15 volte la velocità del LLaMA di Meta 27B. Utilizzando le soluzioni di Deci, i team possono ridurre i costi di inferenza fino all’80%, avvalendosi di GPU efficienti come NVIDIA A10.
Deci si distingue anche per l’ottimizzazione dei costi. Nel suo blog, l’azienda afferma che DeciDiffusion ha ridotto i costi di produzione del 200% rispetto a Stable Diffusion 1.5.
Innovazione con AutoNAC
Il segreto dietro l’efficienza di Deci risiede nella sua tecnologia proprietaria, Neural Architecture Search (AutoNAC). Questa tecnologia esamina un modello IA esistente e progetta una nuova intelligenza artificiale composta da modelli più piccoli, che conservano le stesse funzionalità del modello originale. Con AutoNAC, Deci ha perfezionato i modelli open source Stable Diffusion 1.5 e LLaMA di Meta, creando versioni più veloci ed efficienti.
I modelli di Deci sono open source, ma l’SDK, Infery-LLM, è a pagamento.
Specifiche dei modelli
DeciDiffusion 1.0 vanta 820 parametri ed è stato addestrato e ottimizzato su vari dataset, raggiungendo una qualità paragonabile a Stable Diffusion 1.5 con molte meno iterazioni. DeciLM 6B, invece, contiene 5,7 miliardi di parametri e diverse altre specifiche avanzate. Entrambi i modelli sono disponibili in inglese, ma possono essere adattati ad altre lingue.
I test iniziali condotti da VentureBeat hanno fornito risultati contrastanti. Tuttavia, DeciLM 6B-Instruct ha impressionato con la sua capacità di generare riassunti accurati.
In conclusione, Deci si sta posizionando come un attore chiave per aziende e ricercatori interessati all’IA generativa. È indubbiamente un periodo entusiasmante per l’evoluzione dell’intelligenza artificiale.
