CalypsoAI, una startup con sede a Washington DC specializzata nella sicurezza dell’intelligenza artificiale (IA), ha annunciato oggi di aver raccolto 23 milioni di dollari in finanziamenti di serie A-1 per accelerare lo sviluppo delle sue soluzioni di governance dell’IA. Il round di finanziamento è stato guidato da Paladin Capital Group, con la partecipazione di Lockheed Martin Ventures e altri investitori.
Neil Serebryany, CEO e fondatore di CalypsoAI, ha identificato tre principali minacce che potrebbero ostacolare l’adozione diffusa dell’IA da parte delle imprese: “In primo luogo, c’è una notevole quantità di informazioni che trapelano nei modelli [popolari]; due, i modelli sottostanti potrebbero non essere affidabili; e tre, c’è la questione della responsabilità e verificabilità”.
Le soluzioni offerte da CalypsoAI, tra cui i prodotti Moderator e Vesper Validate, sono state progettate per affrontare queste sfide, garantendo alle organizzazioni di adottare in modo sicuro strumenti di intelligenza artificiale generativa e proteggere i loro dati critici. L’azienda è già riconosciuta come un importante fornitore di soluzioni di sicurezza IA, come indicato da Forrester Research.
Secondo Serebryany, le soluzioni di CalypsoAI stanno diventando sempre più cruciali man mano che le aziende adottano forme più sofisticate di intelligenza artificiale, come i modelli di linguaggio di grandi dimensioni che possono generare valore nell’ordine di migliaia di miliardi di dollari, ma possono anche introdurre rischi per la sicurezza informatica se utilizzati impropriamente. La startup si posiziona come una piattaforma end-to-end per la gestione del rischio dell’IA, prendendosi cura degli algoritmi stessi e dell’interazione delle persone con la tecnologia.
Ciò che distingue CalypsoAI dalle altre aziende di governance e sicurezza dell’IA è la sua vasta esperienza. Serebryany spiega: “Siamo stati messi alla prova come azienda, non siamo semplicemente spuntati all’improvviso. Abbiamo lavorato su questo per quattro anni e abbiamo dovuto garantire la sicurezza delle organizzazioni più sensibili al mondo”.
Il mercato della sicurezza dell’IA dovrebbe registrare una significativa crescita nei prossimi anni. Secondo Pitchbook, il mercato globale dell’IA generativa dovrebbe raggiungere i 42,6 miliardi di dollari nel 2023, poiché le aziende cercano sempre più di adottare la tecnologia per sbloccare nuove opportunità, migliorare il processo decisionale e alimentare l’innovazione. McKinsey prevede che l’IA generativa genererà anche un valore economico globale di 4,4 trilioni di dollari.
Serebryany individua il mercato delle minacce in due categorie: rischi di prima parte e rischi di terze parti, in cui i modelli di base svolgono un ruolo centrale nel futuro dell’IA aziendale. CalypsoAI mira a garantire l’uso aziendale sicuro di questi modelli attraverso la loro distribuzione sicura.
Con un totale di quasi 40 milioni di dollari di finanziamenti, CalypsoAI è pronta a svolgere un ruolo chiave nel plasmare il futuro della sicurezza e della governance dell’IA. Man mano che un numero sempre maggiore di organizzazioni adotta tecnologie IA, la necessità di solide soluzioni di sicurezza diventa sempre più critica.
“Il problema sta diventando così diffuso in questo momento: come possiamo adottare in modo sicuro modelli di linguaggio di grandi dimensioni? Come possiamo farlo in modo sicuro? Come possiamo assicurarci che i nostri dati non siano incorporati in questi modelli? È così importante in questo momento e diventerà sempre più importante man mano che l’IA sarà sempre più adottata dalle aziende”, afferma Serebryany.
Mentre l’IA continua a trasformare il panorama aziendale, il recente round di finanziamento di CalypsoAI è un chiaro segnale che il settore sta prendendo sul serio la sicurezza dell’IA. Le soluzioni innovative e l’esperienza consolidata dell’azienda la rendono un attore fondamentale in un mondo in rapida evoluzione, in cui la governance e la sicurezza dell’IA rivestono un ruolo cruciale.