L’intelligenza artificiale (IA) è diventata una forza trainante per molte aziende moderne. Tuttavia, con i suoi enormi vantaggi, l’IA può anche presentare nuovi rischi, aprendo la porta a potenziali vettori di attacco che mettono a repentaglio la sicurezza e la reputazione aziendale. Per affrontare questa sfida, SydeLabs, una startup con sede in California, ha lanciato un nuovo modulo di rilevamento delle risorse e valutazione dei rischi basato sull’intelligenza artificiale.
Questa nuova soluzione si propone di fornire alle aziende la visibilità necessaria per governare le tecnologie dell’IA, che spesso risultano opache agli utenti. Con 2,5 milioni di dollari di finanziamenti iniziali da investitori come RTP Global e Picus Capital, SydeLabs ha l’obiettivo di distinguersi dalla concorrenza offrendo una suite completa di soluzioni progettate per proteggere le aziende dalle vulnerabilità dei modelli linguistici di grandi dimensioni (LLM), come ChatGPT e Gemini, durante tutte le fasi del ciclo di vita del progetto, dallo sviluppo alla distribuzione.
La startup ha sviluppato tre prodotti chiave: SydeBox, SydeGuard e SydeComply. SydeBox, attualmente in versione beta, permette ai team di testare le proprie applicazioni e modelli di intelligenza artificiale per scoprire eventuali vulnerabilità. SydeGuard e SydeComply, invece, forniscono protezione intent-based in tempo reale e individuano/risolvono le lacune nei sistemi di intelligenza artificiale che potrebbero violare normative interne o esterne.
SydeLabs ha già ottenuto successo con il suo prodotto SydeBox, che ha rilevato oltre 10.000 vulnerabilità in più di 50 applicazioni/modelli. Utilizzando un approccio di red teaming, SydeBox simula attacchi di prova per identificare possibili minacce, mentre SydeGuard offre protezione in tempo reale valutando l’intento dell’utente e assegnando un punteggio di rischio per bloccare prompt o utenti sospetti.
Con il finanziamento ottenuto, SydeLabs punta a espandere la sua offerta, concentrandosi sulla ricerca e sviluppo dei prodotti SydeGuard e SydeComply. A lungo termine, l’azienda intende offrire la soluzione SydeBox gratuitamente per rilevare vulnerabilità, mentre monetizzerà SydeGuard attraverso un modello basato sul consumo.
In un momento in cui la sicurezza delle app di intelligenza artificiale è sotto attenta osservazione, SydeLabs si trova in una posizione strategica per guidare il settore con la sua innovativa tecnologia incentrata sulla sicurezza dell’IA. Sebbene la concorrenza sia agguerrita, SydeLabs si distingue per la sua precisione e prestazioni superiori rispetto agli altri strumenti disponibili sul mercato.