Coforge ha introdotto AI Launchpad, una piattaforma enterprise progettata per permettere alle organizzazioni di costruire, personalizzare, distribuire e gestire un proprio stack di intelligenza artificiale direttamente all’interno degli ambienti tecnologici controllati dall’azienda. La soluzione è basata su Coforge Nuuron e punta in particolare all’utilizzo dei modelli open-weight, consentendo però di affiancarli, quando necessario, anche a modelli frontier. L’obiettivo è permettere alle imprese di mantenere la proprietà e il controllo dei dati, della proprietà intellettuale e dell’ambiente AI, evitando che componenti essenziali dell’infrastruttura dipendano necessariamente da un singolo fornitore esterno.
AI Launchpad è stato sviluppato per intervenire soprattutto nella fase che separa i progetti sperimentali dalla loro effettiva messa in produzione. L’adozione dei modelli open-weight è ormai estesa anche in ambito aziendale, ma la loro gestione su scala produttiva continua a richiedere competenze specialistiche, infrastrutture adeguate e sistemi capaci di rispettare requisiti di governance e auditabilità. La piattaforma combina quindi tecnologia e servizi gestiti in un unico ambiente, consentendo alle aziende di instradare i diversi workload verso modelli open-weight oppure verso modelli frontier in funzione delle esigenze del singolo caso d’uso, dei vincoli normativi, delle prestazioni richieste e dei costi operativi.
La possibilità di modificare il modello utilizzato per uno specifico workload costituisce uno degli elementi centrali dell’architettura. L’impresa non viene vincolata a un unico stack tecnologico, ma può scegliere e sostituire i modelli sulla base delle proprie necessità mantenendo sotto il proprio controllo l’ambiente nel quale vengono elaborati dati e applicazioni. AI Launchpad può essere distribuito su differenti infrastrutture cloud e supporta configurazioni nelle quali i modelli frontier vengono utilizzati on demand. L’impostazione è quindi pensata per combinare modelli gestiti direttamente dall’organizzazione con servizi esterni quando questi risultano più adatti a determinati workload, senza rendere l’intera infrastruttura AI dipendente da un unico ecosistema.
Alla base della piattaforma è prevista una selezione di foundation model open-weight che possono essere ulteriormente addestrati e personalizzati fino alla realizzazione di LLM sovrani specifici per il dominio dell’impresa. A questa componente viene associata una data foundation costruita sui dati proprietari dell’organizzazione e su ontologie di settore predefinite, in modo da trasformare modelli generalisti in sistemi maggiormente specializzati sulle attività e sulle informazioni dell’azienda. L’infrastruttura di calcolo utilizza inoltre risorse GPU elastiche e multi-vendor, configurabili per scenari cloud, single-tenant o completamente isolati tramite ambienti air-gapped.
Coforge indica per questa architettura una riduzione dei costi di inferenza fino a sei volte rispetto ad alcune configurazioni basate su API chiuse e un costo totale di proprietà potenzialmente inferiore fino al 35%. La gestione economica dell’infrastruttura viene affiancata da funzioni FinOps destinate a controllare i costi anche quando cambiano prezzi, modelli e modalità di utilizzo. Per le organizzazioni soggette a requisiti particolarmente rigidi sono previste inoltre funzioni relative alla residenza dei dati, alla possibilità di utilizzare ambienti isolati e alla riproducibilità delle operazioni necessaria per verifiche e audit.
AI Launchpad integra anche strumenti di osservabilità continua, valutazione dei modelli e guardrail destinati alle attività di governance e controllo del rischio. Queste funzioni permettono di verificare il comportamento dei sistemi anche una volta entrati in produzione, fornendo ai gruppi responsabili di compliance e sicurezza strumenti per controllare modelli che possono intervenire su processi e decisioni aziendali rilevanti. La personalizzazione comprende invece l’impiego di dati proprietari, ontologie e strumenti di fine-tuning per adattare i modelli ai singoli settori e casi d’uso senza dover ricorrere esclusivamente a servizi AI general-purpose disponibili tramite API esterne.
La piattaforma viene fornita attraverso sei aree integrate di servizio che coprono l’intero ciclo operativo dell’AI aziendale. Queste comprendono strategia e consulenza, infrastruttura e piattaforma, ingegnerizzazione e personalizzazione dei modelli, deployment e integrazione, LLMOps con osservabilità e guardrail e, infine, governance, FinOps e servizi gestiti per l’esercizio continuativo dell’ambiente. L’organizzazione può quindi utilizzare la stessa architettura sia nella fase di progettazione iniziale sia successivamente, quando modelli e applicazioni devono essere mantenuti, monitorati e modificati nel normale funzionamento produttivo.
Coforge sta già implementando AI Launchpad presso clienti che operano in settori nei quali sovranità dei dati, governance e conformità normativa rappresentano requisiti essenziali. Uno dei progetti riguarda la realizzazione di un ambiente AI sovrano per una società statunitense specializzata in intelligence clinica e sanitaria, settore nel quale il controllo sull’ubicazione e sull’elaborazione delle informazioni è particolarmente rilevante. Un’altra implementazione interessa una grande banca statunitense, per la quale il routing gestito dei workload AI ha permesso di ridurre i costi operativi mantenendo contemporaneamente i requisiti di governance e auditabilità.
L’impostazione di AI Launchpad si basa quindi sulla possibilità per l’impresa di possedere e governare direttamente una parte sostanziale della propria infrastruttura AI, lasciando comunque aperto l’accesso a modelli e risorse esterne quando risultano necessari. Coforge punta in questo modo a separare la scelta del singolo modello dall’architettura complessiva, permettendo alle aziende di sostituire tecnologie, modificare il routing dei workload e adattare l’infrastruttura all’evoluzione delle esigenze operative e normative senza dover ricostruire ogni volta l’intero sistema.
Questo articolo è stato redatto con il supporto di strumenti di intelligenza artificiale (AI)