Mentre le aziende stanno adottando rapidamente l’intelligenza artificiale (IA), si rendono conto che la sfida più grande non è la creazione dei modelli IA, ma assicurarsi che i dati utilizzati siano affidabili e conformi. Senza una corretta governance dell’IA, le aziende rischiano di prendere decisioni errate, violare le norme sulla privacy o peggio.
Collibra, un fornitore di data intelligence aziendale, sta cercando di affrontare questa sfida con una serie di nuovi strumenti IA annunciati oggi. Questi strumenti coprono vari aspetti come la governance dei dati, l’automazione e la democratizzazione dei dati, riflettendo l’approccio multifaceted necessario per instillare fiducia nell’IA.
Felix Van de Maele, CEO di Collibra, ha sottolineato in un’intervista a VentureBeat che per avere successo nell’implementazione dell’IA, è necessario molto più di un semplice algoritmo. I dati sono fondamentali per l’IA, quindi una solida governance dei dati è essenziale.
Tra le nuove offerte di Collibra, c’è un’applicazione di governance dell’IA che funge da centro di comando per le iniziative di IA in un’azienda. Questo strumento mira a colmare il divario tra i team di data science che prototipano modelli e le parti interessate in materia di rischio e conformità che devono approvare i modelli prima che possano essere messi in produzione.
Van de Maele ha spiegato che Collibra aiuta le organizzazioni a fornire un’IA affidabile migliorando la governance dei casi d’uso dell’IA. Ha parlato di “intelligenza artificiale ombra”, dove un’organizzazione sta prototipando ed esplorando molto, ma non ha una visibilità reale su ciò che sta accadendo. Una grande sfida è assicurarsi che i data scientist o gli ingegneri trovino i dati giusti, appropriati e conformi da utilizzare.
La governance dell’IA di Collibra si basa sulla sua piattaforma di governance dei dati, che l’azienda sta costruendo da oltre un decennio. Van de Maele vede la governance dell’IA come un’estensione naturale della governance dei dati, sottolineando che molti dei principi fondamentali sono gli stessi.
Con funzionalità per la definizione di politiche, ruoli e responsabilità, lo strumento mira a fornire un flusso di lavoro standard per la registrazione, l’approvazione, la documentazione e il monitoraggio dei casi d’uso dell’IA all’interno di un’organizzazione. L’obiettivo è dare alle parti interessate visibilità su come viene applicata l’IA e la fiducia che viene eseguita in modo responsabile.
Inoltre, Collibra ha incluso Collibra AI nella sua versione, che utilizza modelli linguistici di grandi dimensioni (LLM) per automatizzare molte delle attività di gestione dei dati che in passato richiedevano un notevole sforzo manuale.
Una di queste funzionalità è la generazione automatica di descrizioni e definizioni per le risorse di dati, un elemento chiave della catalogazione e della governance dei dati. Quando gli utenti esaminano tabelle di database e nomi di colonne criptici, spesso non hanno idea di cosa significhino i dati. Collibra AI può dedurre e generare questi metadati analizzando i valori dei dati.