Oggi, SambaNova Systems, con sede a Palo-Alto, ha rivelato il suo nuovo chip AI, chiamato SN40L, che sarà il cuore pulsante della loro piattaforma full-stack LLM (Large Language Model), nota come SambaNova Suite. Questa suite è progettata per assistere le aziende nell’evoluzione dal chip al modello, facilitando la creazione e la distribuzione di soluzioni generative personalizzate.
Rodrigo Liang, il cofondatore e CEO di SambaNova Systems, ha enfatizzato che SambaNova sta andando oltre rispetto a Nvidia nel supportare le aziende nel corretto addestramento dei loro modelli AI.
Liang ha spiegato: “Molte persone erano entusiaste dell’infrastruttura che offriamo, ma riscontravano difficoltà nel possedere le competenze necessarie. Di conseguenza, affidavano ad altre società, come OpenAI, la costruzione dei loro modelli.”
Per affrontare questa sfida, SambaNova ha deciso di sostenere l’approccio “Linux” nell’ambito dell’intelligenza artificiale, credendo che i modelli di intelligenza artificiale open source avrebbero un grande impatto. Quindi, oltre ai modelli di base pre-addestrati, la SambaNova Suite offre una selezione curata di modelli di intelligenza artificiale generativa open source ottimizzati per l’utilizzo aziendale, che possono essere implementati in locale o nel cloud.
Liang ha aggiunto: “Prendiamo il modello di base e lo adattiamo alle esigenze aziendali, compresa l’ottimizzazione dell’hardware, qualcosa che la maggior parte dei clienti preferisce evitare. Non vogliono preoccuparsi di gestire le unità di elaborazione grafica (GPU) o comprendere la complessità della loro architettura.”
Nonostante SambaNova si concentri non solo sullo sviluppo dei chip ma anche sull’intero stack software, Liang è convinto che “chip per chip, superiamo Nvidia”.
Secondo un comunicato stampa, l’SN40L di SambaNova è in grado di supportare modelli con 5 trilioni di parametri, con sequenze lunghe fino a 256.000 possibili su un singolo nodo di sistema. Ciò promette di offrire “modelli di alta qualità, con tempi di inferenza e addestramento più rapidi e a un costo totale di proprietà inferiore”. Inoltre, “una memoria più ampia sblocca le capacità multimodali reali dei LLM, consentendo alle aziende di cercare, analizzare e generare facilmente dati in molteplici modalità”.
Inoltre, SambaNova ha annunciato una serie di nuovi modelli e funzionalità all’interno della SambaNova Suite:
- Varianti Llama2 (7B, 70B): Questi modelli linguistici open source all’avanguardia consentono ai clienti di personalizzare, estendere ed eseguire i migliori modelli LLM disponibili, mantenendo il controllo su tali modelli.
- BLOOM 176B: Si tratta del modello di base multilingue più preciso nella comunità open source, che permette ai clienti di affrontare una vasta gamma di problemi in diverse lingue e di estendere il modello per supportare nuove lingue con risorse limitate.
- Un nuovo modello di incorporamento per la generazione avanzata di recupero basato su vettori, che consente ai clienti di incorporare i propri documenti in rappresentazioni vettoriali che possono essere richiamate durante il processo di domande e risposte senza causare distorsioni. Il LLM quindi analizza, estrae o riassume le informazioni dai risultati.
- Un modello di riconoscimento vocale automatizzato di livello mondiale per la trascrizione e l’analisi dei dati vocali.
- Ulteriori funzionalità multimodali e di sequenze a lunga durata.
In sintesi, SambaNova sta offrendo non solo potenti chip AI ma anche un ecosistema completo di strumenti e modelli per supportare le aziende nell’adozione dell’intelligenza artificiale.