Persistent Systems ha presentato GenAI Hub, una nuova piattaforma progettata per semplificare lo sviluppo e l’implementazione di applicazioni basate sull’intelligenza artificiale generativa (GenAI) all’interno delle aziende.
Questa piattaforma si integra facilmente con l’infrastruttura, le applicazioni e i dati già esistenti in un’organizzazione, consentendo di creare rapidamente soluzioni GenAI su misura e adatte al settore specifico.
GenAI Hub supporta l’adozione di GenAI in vari modelli linguistici di grandi dimensioni (LLM) e ambienti cloud, senza vincoli legati al provider di servizi cloud.
La piattaforma semplifica lo sviluppo e la gestione di più modelli GenAI, accelerando l’ingresso sul mercato attraverso componenti software pre-costruiti, il tutto mantenendo l’attenzione sui principi di intelligenza artificiale responsabile.
GenAI Hub si compone di cinque componenti principali:
- Playground: uno strumento senza codice che consente agli esperti del settore di esplorare e applicare GenAI con LLM sui dati aziendali, senza necessità di competenze di programmazione. Fornisce un’interfaccia unificata per accedere a diversi LLM da fornitori come Azure OpenAI, AWS Bedrock e Google Gemini, oltre a modelli aperti come LLaMA2 e Mistral di Hugging Face.
- Agents Framework: fornisce un’architettura flessibile per lo sviluppo di applicazioni GenAI, utilizzando librerie come LangChain e LlamaIndex per soluzioni innovative come la Generazione Arricchita da Recupero (RAG).
- Quadro di valutazione: utilizza un approccio di “AI per convalidare l’intelligenza artificiale”, generando automaticamente domande per verificare la qualità delle applicazioni. Monitora le prestazioni delle applicazioni e misura eventuali deviazioni o distorsioni che possono essere affrontate.
- Gateway: agisce come un router tra i diversi LLM, garantendo la compatibilità delle applicazioni e migliorando la gestione delle priorità del servizio e il bilanciamento del carico. Fornisce inoltre dettagli sul consumo di token e sui costi associati.
- Pipeline di modelli personalizzati: semplifica la creazione e l’integrazione di LLM e Small Language Models (SLM) su misura nell’ecosistema GenAI, facilitando il processo di preparazione dei dati e la messa a punto del modello per distribuzioni cloud e locali.
GenAI Hub semplifica lo sviluppo di casi d’uso aziendali, offrendo una guida passo-passo e un’integrazione fluida dei dati nei modelli linguistici di grandi dimensioni, consentendo la creazione rapida e sicura di soluzioni GenAI su larga scala per utenti finali, clienti e dipendenti.