Groq, un leader nel campo dell’inferenza AI, ha ottenuto 640 milioni di dollari in un round di finanziamento di serie D. Questo investimento valorizza l’azienda a 2,8 miliardi di dollari e segna un importante cambiamento nell’industria delle infrastrutture AI. Il finanziamento è stato guidato da BlackRock Private Equity Partners e include la partecipazione di Neuberger Berman, Type One Ventures, oltre a investitori strategici come Cisco, KDDI e Samsung Catalyst Fund.
Groq, con sede a Mountain View, utilizzerà questi fondi per ampliare rapidamente la propria capacità e accelerare lo sviluppo della sua Language Processing Unit (LPU) di nuova generazione. Questa iniziativa risponde alla crescente domanda di capacità di inferenza più veloci nel settore AI, spostando l’attenzione dalla fase di formazione all’implementazione.
Groq prevede di distribuire oltre 108.000 LPU entro la fine del primo trimestre del 2025, puntando a diventare uno dei principali fornitori di capacità di calcolo di inferenza AI, a fianco dei giganti tecnologici. Questa espansione sosterrà la crescente base di utenti di Groq, che conta ora più di 356.000 sviluppatori sulla piattaforma GroqCloud dell’azienda.
Il servizio Token-as-a-Service (TaaS) di Groq ha guadagnato attenzione per la sua velocità e convenienza. Stuart Pann, COO di Groq, ha dichiarato: “Il nostro Token-as-a-Service su GroqCloud è il più veloce e conveniente, secondo i benchmark indipendenti di Artificial Analysis. Chiamato ‘economia dell’inferenza’, offre un grande valore.”
Groq si distingue anche per la sua strategia di supply chain, che affronta le sfide del settore dei semiconduttori. La LPU di Groq utilizza un’architettura unica che non dipende da componenti con tempi di consegna lunghi. “La nostra LPU non utilizza memoria HBM o packaging CoWos ed è costruita su un processo GlobalFoundries da 14 nm, conveniente e maturo, costruito negli Stati Uniti”, ha spiegato Pann. Questo approccio risponde anche alle preoccupazioni sulla sicurezza della supply chain e al crescente controllo governativo sulle tecnologie AI.
La tecnologia di Groq sta trovando applicazioni in diversi ambiti. Pann ha evidenziato alcuni usi pratici, come “coordinamento e cura dei pazienti, prezzi dinamici attraverso l’analisi della domanda di mercato e l’adeguamento dei prezzi in tempo reale, e elaborazione di interi genomi in tempo reale per fornire linee guida aggiornate sui farmaci genici tramite LLM.”
Groq sta quindi facendo passi da gigante nel migliorare l’inferenza AI, con innovazioni che potrebbero trasformare il settore e affrontare le sfide globali.