DeepInfra, fondata da ex ingegneri di IMO Messenger, mira a rivoluzionare il mercato dei chatbot LLM offrendo servizi di hosting su server privati a costi molto bassi, solo $1 per milione di token, rispetto ai prezzi maggiori dei concorrenti.
Con un finanziamento di partenza di 8 milioni di dollari, l’azienda punta a fornire modelli open source per piccole e medie imprese, enfatizzando l’efficienza e l’ottimizzazione dei server.
Nikola Borisov, CEO di DeepInfra, sottolinea l’importanza di un’infrastruttura server economica e performante per gestire i carichi di inferenza dei modelli LLM, considerando anche la sicurezza e la privacy dei dati dei clienti.