Eurotech, leader nel campo dell’intelligenza artificiale edge (AIoT), ha annunciato una nuova serie di server progettati per l’intelligenza artificiale generativa. Questi server, ottimizzati per NVIDIA AI Enterprise, supportano un’ampia gamma di modelli di intelligenza artificiale generativa, tra cui i grandi modelli linguistici (LLM).
La nuova offerta di Eurotech include server per tutte le esigenze, dai modelli di base ai più avanzati. Questi server possono gestire tutto, dall’implementazione di modelli pre-addestrati alla formazione intensiva di LLM e alla messa a punto di modelli specifici per dominio.
Dotati dell’intero stack di elaborazione accelerata NVIDIA, questi server offrono prestazioni eccezionali e possono gestire carichi di lavoro di intelligenza artificiale molto esigenti. Le aziende possono sfruttare questi server per ottimizzare l’efficienza operativa e affrontare vari casi d’uso dell’IA.
I server di Eurotech permettono alle organizzazioni di mantenere i dati sensibili all’interno della loro infrastruttura aziendale, offrendo una maggiore sicurezza e risparmi sui costi rispetto alle soluzioni basate su cloud. Questi server sono progettati per offrire flessibilità nella personalizzazione dei modelli di IA secondo le esigenze specifiche delle aziende.
I server AI generativi di Eurotech sono completamente compatibili con NVIDIA AI Enterprise e si integrano con i microservizi NVIDIA NIM e NVIDIA Metropolis. Questa compatibilità facilita l’inferenza ottimizzata per una vasta gamma di modelli AI, rendendo più semplice lo sviluppo di chatbot intelligenti, copiloti avanzati e agenti AI visivi.
Per dimostrare le applicazioni pratiche, Eurotech ha reso disponibile un agente LLM open source come copilota. Questo strumento, basato su NVIDIA AI Enterprise e su framework open source come Llama Index, trasforma schede tecniche di prodotto, manuali e documenti interni in un tutor intelligente per l’onboarding dei dipendenti e la gestione delle richieste dei clienti.