Abnormal Security, la principale piattaforma di sicurezza e-mail comportamentale basata sull’intelligenza artificiale, ha recentemente presentato CheckGPT, una nuova funzionalità progettata per identificare attacchi generati dall’intelligenza artificiale. Questa innovazione mira a individuare minacce e-mail, tra cui il Compromesso di Posta Elettronica Aziendale (BEC) e altri attacchi di ingegneria sociale, che potrebbero essere stati sviluppati utilizzando strumenti di intelligenza artificiale generativa.
“Con il progressivo sfruttamento dell’IA generativa da parte di individui malintenzionati, l’elaboratezza degli attacchi e-mail è destinata a subire un notevole incremento”, afferma Karl Mattson, Chief Information Security Officer di Noname Security.
L’evoluzione costante delle tattiche di attacco da parte dei cybercriminali li spinge a utilizzare strumenti avanzati, tra cui l’IA generativa. Attraverso mezzi come ChatGPT e WormGPT, i malintenzionati sono ora in grado di creare e-mail estremamente convincenti, ampliando sia la portata che la complessità dei loro attacchi. Un rapporto recente di Abnormal Security evidenzia un aumento del 55% negli attacchi BEC nei sei mesi precedenti, con la prospettiva di un incremento esponenziale al crescere dell’adozione dell’IA generativa.
Karl Mattson dichiara: “Il livello di raffinatezza degli attacchi via e-mail si intensificherà considerevolmente poiché i malintenzionati sfruttano l’IA generativa per ideare nuove campagne. Poiché non è realistico aspettarsi che ogni azienda si trasformi in un’esperta di sicurezza AI, affidiamo a Abnormal il compito di aprire la strada a un rilevamento avanzato degli attacchi via e-mail.”
Differenziandosi dalle tradizionali soluzioni di sicurezza e-mail, Abnormal adotta un approccio innovativo per contrastare gli attacchi e-mail sofisticati, rendendolo particolarmente idoneo a rilevare le minacce generate dall’intelligenza artificiale. Attraverso la sua architettura API esclusiva, la piattaforma cattura un ampio spettro di segnali al fine di costruire un modello di comportamento noto per ciascun dipendente e fornitore all’interno di un’organizzazione. Questo modello si basa su modelli di comunicazione, eventi di accesso e innumerevoli altri attributi. Successivamente, applica modelli di intelligenza artificiale avanzati, tra cui il trattamento del linguaggio naturale (NLP), per individuare anomalie nel comportamento delle e-mail che potrebbero segnalare un possibile attacco.
Dopo una fase iniziale di analisi delle e-mail, la piattaforma Abnormal amplia questa valutazione per comprendere l’intento e l’origine degli attacchi e-mail. CheckGPT sfrutta una serie di modelli linguistici di grandi dimensioni open source per valutare la probabilità che un messaggio sia stato creato da un modello di intelligenza artificiale generativa. Il sistema valuta prima la probabilità che ogni parola del messaggio sia stata generata da un modello di intelligenza artificiale, tenendo conto del contesto precedente. Se questa probabilità risulta costantemente elevata, ciò potrebbe indicare fortemente che il testo è stato generato dall’intelligenza artificiale.
Successivamente, il sistema combina questa valutazione con un insieme di rilevatori di intelligenza artificiale per stabilire se l’attacco potrebbe essere stato generato dall’IA. Questa nuova capacità di rilevamento ha portato Abnormal Security a pubblicare recentemente una ricerca che presenta diverse e-mail con testi altamente sospetti di essere stati generati dall’intelligenza artificiale. Tra questi casi, si segnalano la compromissione delle e-mail aziendali e gli attacchi di phishing basati sul furto di credenziali.
Evan Reiser, CEO di Abnormal Security, osserva: “Con l’aumento dell’adozione degli strumenti di intelligenza artificiale generativa, i cybercriminali useranno sempre più l’IA per lanciare attacchi più massicci e sofisticati. I responsabili della sicurezza devono affrontare questa minaccia investendo in soluzioni di sicurezza alimentate da intelligenza artificiale che analizzino migliaia di segnali per apprendere il comportamento unico degli utenti all’interno della propria organizzazione, utilizzino modelli avanzati per individuare con precisione le anomalie e impediscano gli attacchi prima che raggiungano i destinatari. Sebbene sia importante distinguere se un’e-mail provenga da un essere umano o dall’IA per comprendere ed affrontare le mutevoli minacce, il sistema giusto sarà in grado di individuare ed impedire gli attacchi, indipendentemente dalla loro origine.”