La startup di intelligenza artificiale Arcee AI ha annunciato il lancio di “Arcee Swarm”, una rete avanzata di modelli esperti misti (MoE). Questo sistema combina modelli specializzati, ognuno formato su set di dati specifici, per ottenere risultati ottimali in base alle richieste degli utenti.
Arcee Swarm non è un singolo modello come “GPT-4” di OpenAI, ma una combinazione di diversi modelli esperti, che variano da 8 miliardi a 72 miliardi di parametri. A differenza dei metodi MoE tradizionali, Arcee AI ha migliorato le prestazioni personalizzando ciascun modello per specifici domini, come scrittura creativa, codifica, matematica e medicina.
Il punto distintivo di Arcee Swarm è il “router”, un componente chiave che riceve e analizza le richieste degli utenti e seleziona il modello esperto più adatto per ogni query. Il router utilizza una nuova architettura proprietaria con 100 milioni di parametri e viene addestrato con set di dati relativi alle query degli utenti, migliorando la precisione nella selezione dei modelli.
Questo approccio consente a Arcee Swarm di ridurre la latenza mantenendo una precisione simile a quella di un singolo LLM. È particolarmente vantaggioso per applicazioni che richiedono elevata precisione e rapidità, come la diagnosi medica e il supporto alla codifica in tempo reale.
Arcee Swarm include anche una “Modalità Ultra”, progettata per compiti che richiedono la massima accuratezza. In questa modalità, più modelli collaborano tra loro, generano suggerimenti, si criticano reciprocamente e perfezionano le risposte attraverso iterazioni successive fino a raggiungere un consenso. Questo approccio è ideale per analisi approfondite e scenari complessi che superano le capacità di un singolo modello AI.
Arcee Swarm sarà disponibile su AWS, Google Cloud e Microsoft Azure, e sarà accessibile anche tramite il sito web di Arcee AI nelle prossime settimane.