Perception Point, un leader nella prevenzione avanzata delle minacce attraverso i canali digitali di comunicazione, ha svelato la sua ultima innovazione nel campo del rilevamento, sviluppata per contrastare l’emergente ondata di minacce via email generate dall’intelligenza artificiale. Questa tecnologia basata sull’intelligenza artificiale sfrutta i Large Language Models (LLM) e l’architettura Deep Learning per individuare e prevenire con efficacia gli attacchi Business Email Compromise (BEC), una minaccia informatica che sta subendo un cambiamento epocale a causa dell’aumento delle tecnologie di Generative AI (GenAI).
Gli attori delle minacce stanno sempre più abusando delle tecnologie in continua evoluzione della GenAI per perpetrare attacchi più sofisticati e mirati contro organizzazioni di tutte le dimensioni. Grazie alle nuove capacità democratizzate, che consentono di creare output di alta qualità simili a quelli umani, come ad esempio email personalizzate, la GenAI è diventata uno strumento potente per il crimine informatico, specialmente nell’ambito dell’ingegneria sociale e degli attacchi BEC, che hanno raggiunto nuovi livelli negli ultimi anni. Secondo il rapporto DBIR 2023, il BEC ha rappresentato oltre il 50% degli incidenti che coinvolgono l’ingegneria sociale, mentre il rapporto annuale 2023 di Perception Point ha rivelato un aumento dell’83% nei tentativi di BEC.
Per contrastare questa crescente minaccia, Perception Point ha sviluppato un modello di rilevamento basato su LLM, sfruttando in modo innovativo la potenza dei Transformers, modelli di intelligenza artificiale capaci di comprendere il contesto semantico del testo. Questo approccio riflette la tecnologia alla base di famosi LLM come ChatGPT di OpenAI e Bard di Google. Grazie a questa soluzione, Perception Point è in grado di identificare i modelli unici presenti nel testo generato dai LLM, un aspetto critico per rilevare e contrastare le minacce basate su GenAI. I tradizionali fornitori di sicurezza, che utilizzano l’analisi contestuale e comportamentale, non riescono a raggiungere lo stesso risultato.
Il modello elabora le email in arrivo con un tempo medio di 0,06 secondi, garantendo che Perception Point sia in grado di scansionare dinamicamente il 100% dei contenuti quasi in tempo reale. Inizialmente, il modello è stato addestrato su centinaia di migliaia di esempi dannosi individuati da Perception Point e viene costantemente aggiornato con nuovi dati per massimizzarne l’efficacia.
“Trovandoci in un panorama di minacce sempre più complesso, c’è un urgente bisogno di difese all’avanguardia contro le minacce basate su GenAI”, ha affermato Tal Zamir, CTO di Perception Point. “Il nostro settore si trova di fronte a un’altra strada che i malintenzionati stanno sfruttando per ampliare la loro gamma di attacchi. Ribaltando questa dinamica e utilizzando in modo proattivo l’intelligenza artificiale per il rilevamento, siamo in grado di prevenire queste minacce prima che raggiungano la casella di posta dell’utente: un vero cambiamento di paradigma nella lotta contro gli attacchi BEC”.
Per ridurre al minimo i falsi positivi derivanti dall’ampio utilizzo dell’IA generativa per la creazione di email legittime, Perception Point utilizza una singolare architettura a tre fasi. Dopo una valutazione iniziale, il modello classifica il contenuto dell’email utilizzando Transformers e algoritmi di clustering, integrando le informazioni ottenute da questi passaggi con dati aggiuntivi come la reputazione del mittente e le informazioni sul protocollo di autenticazione. Questo processo permette al modello di prevedere con precisione se l’email è generata da un’intelligenza artificiale e se rappresenta potenzialmente una minaccia.
Mentre la GenAI continua a crescere, Perception Point sta guidando la battaglia con la sua soluzione di sicurezza informatica basata sull’intelligenza artificiale. Grazie all’utilizzo dei modelli nei contenuti generati dai LLM, al riconoscimento avanzato delle immagini, agli algoritmi anti-evasione e ai motori dinamici brevettati, Perception Point fornisce una difesa solida e proattiva, neutralizzando le minacce prima che raggiungano l’utente.