Oggi, la startup Credo AI, con sede a Palo Alto, ha fatto un importante annuncio: la sua piattaforma di governance dell’intelligenza artificiale è ora disponibile su Databricks Data Intelligence.
Secondo quanto affermato da Credo AI, i clienti di Databricks avranno ora la possibilità di monitorare e gestire in modo efficiente il rischio e la conformità dell’intelligenza artificiale su larga scala. Questo sarà reso possibile grazie all’utilizzo dei dati e delle evidenze già archiviati nella piattaforma di data intelligence di Databricks. Questo consentirà ai clienti di avere una trasparenza completa sui loro sistemi di intelligenza artificiale durante tutto il ciclo di vita dello sviluppo.
Credo AI, che è stata lanciata nel 2020 e ha recentemente raccolto 12,8 milioni di dollari in finanziamenti di serie A a maggio 2022, si integrerà con MLFlow di Databricks. MLFlow gestisce il ciclo di vita dello sviluppo dell’apprendimento automatico e sarà responsabile di tradurre automaticamente le metriche e i metadati del modello in schede modello e altri elementi di governance richiesti, come le valutazioni dell’impatto dell’IA.
Questo annuncio è particolarmente rilevante in un momento in cui stanno emergendo nuove normative, come l’EU AI Act, che richiederanno ai fornitori di modelli e agli sviluppatori di autovalutare il rischio dei loro sistemi di IA, eseguire valutazioni di conformità, mantenere registri verificabili e monitorare le prestazioni, oltre ad adempiere agli obblighi di trasparenza in base alla categoria di rischio del modello.
Navrina Singh, fondatrice e CEO di Credo AI, ha dichiarato in un’intervista a VentureBeat: “Abbiamo iniziato quattro anni fa con l’obiettivo principale di fornire un livello di governance che garantisca responsabilità continua e supervisione sulla vostra infrastruttura tecnica”. Ha anche aggiunto: “Penso che la partnership con Databricks sia significativa, e che dia il via a un 2024 in cui il livello di governance deve comprendere il contesto e le priorità aziendali. Non solo puoi gestire il tuo rischio, ma puoi davvero introdurre sul mercato prodotti sicuri e responsabili”.
Roger Murff, vicepresidente dei partner tecnologici di Databricks, ha dichiarato in un comunicato stampa: “Siamo entusiasti di collaborare con Credo AI per portare l’intelligenza delle politiche di intelligenza artificiale nella piattaforma Databricks Data Intelligence”. Ha inoltre sottolineato quanto sia fondamentale la governance per garantire un’adozione sicura, responsabile e conforme dell’IA su larga scala, mentre le aziende sviluppano le loro strategie di intelligenza artificiale.