I deepfake negli attacchi informatici non stanno arrivando. Sono già qui.   A marzo, l' FBI ha pubblicato un rapporto in cui dichiarava che gli attori malintenzionati quasi sicuramente sfrutteranno il "contenuto sintetico" per le operazioni di influenza informatica e straniera nei prossimi 12-18 mesi. Questo contenuto sintetico include deepfake , audio o video interamente creati o alterati dall'intelligenza artificiale o dall'apprendimento automatico per travisare in modo convincente qualcuno che fa o dice qualcosa che non è stato effettivamente fatto o detto. Abbiamo tutti sentito la storia del CEO la cui voce è stata imitata in modo abbastanza convincente da avviare un bonifico di 243.000 dollari. Ora, le costanti riunioni Zoom dell'era della forza lavoro ovunque hanno creato una grande quantità di dati audio e video che possono essere inseriti in un sistema di apprendimento automatico per creare un duplicato convincente. E gli aggressori ne hanno preso atto. La tecnologia Deepfake ha visto un drastico aumento nel dark web e sicuramente si stanno verificando attacchi.  Nel mio ruolo, lavoro a stretto contatto con i team di risposta agli incidenti e all'inizio di questo mese ho parlato con diversi CISO di importanti aziende globali dell'aumento della tecnologia deepfake di cui hanno assistito. Ecco le loro principali preoccupazioni. Dark web tutorialsFuturo registrato, una società di risposta agli incidenti, ha osservato che gli attori delle minacce si sono rivolti al dark web per offrire servizi e tutorial personalizzati che incorporano tecnologie deepfake visive e audio progettate per aggirare e sconfiggere le misure di sicurezza. Proprio come il ransomware si è evoluto in modelli ransomware-as-a-service (RaaS), stiamo vedendo che i deepfake fanno lo stesso. Questa informazione di Recorded Future dimostra come gli aggressori stiano facendo un passo avanti rispetto alle operazioni di influenza alimentate da deepfake di cui l'FBI ha avvertito all'inizio di quest'an...
Continua a Leggere

 L'intelligenza artificiale spiegabile può cedere i dati riservati più facilmente I ricercatori della National University of Singapore hanno concluso che più l'intelligenza artificiale diventa spiegabile, più facile diventerà eludere le funzionalità vitali della privacy nei sistemi di apprendimento automatico . Hanno anche scoperto che anche quando un modello non è spiegabile, è possibile utilizzare spiegazioni di modelli simili per "decodificare" dati sensibili nel modello non spiegabile. La ricerca , intitolata Exploiting Explanations for Model Inversion Attacks , evidenzia i rischi derivanti dall'utilizzo dell'opacità "accidentale" del modo in cui le reti neurali funzionano come se si trattasse di una caratteristica di sicurezza predefinita, non da ultimo perché un'ondata di nuove iniziative globali, tra cui il La bozza di regolamento sull'IA dell'Unione Europea sta caratterizzando l' IA spiegabile (XAI) come un prerequisito per l'eventuale normalizzazione dell'apprendimento automatico nella società. Nella ricerca, un'identità reale viene ricostruita con successo da dati presumibilmente anonimi relativi alle espressioni facciali, attraverso lo sfruttamento di molteplici spiegazioni del sistema di apprendimento automatico. Fonte: https://arxiv.org/pdf/2108.10800.pdfI ricercatori commentano: "L'intelligenza artificiale esplicabile (XAI) fornisce più informazioni per aiutare gli utenti a comprendere le decisioni del modello, ma questa conoscenza aggiuntiva espone ulteriori rischi per gli attacchi alla privacy. Quindi, fornire spiegazioni danneggia la privacy.' Ri-identificazione dei dati privatiI partecipanti ai set di dati di machine learning potrebbero aver acconsentito a essere inclusi assumendo l'anonimato; nel caso di informazioni di identificazione personale (PII) che finiscono nei sistemi di intelligenza artificiale tramite la raccolta di dati ad hoc (ad esempio, attraverso i social network), la partecipazione può essere tecnicamente legale, ma mette a dura p...
Continua a Leggere

Le frodi pubblicitarie sulle applicazioni mobili sono esplose del 50% nell'ultimo anno, secondo un nuovo rapporto della società di misurazione e dati dei media DoubleVerify. Le cifre sono una delle numerose statistiche illuminanti sullo stato attuale della qualità e delle prestazioni dei media sul Web.   La pubblicità mobile è un settore caldo, con Emarketer che  prevede che la spesa pubblicitaria mobile supererà i 156 miliardi di dollari a livello globale entro il 2023. Il consumo di dispositivi mobili in tutto il mondo è aumentato vertiginosamente, in parte a causa delle persone che restano a casa durante la pandemia di coronavirus. Anche con una popolazione vaccinata in crescita e l'allentamento delle regole di blocco, le persone stanno ancora in casa e trasmettono video, giocano e fanno acquisti online utilizzando le app mobili. Di conseguenza, gli inserzionisti stanno investendo denaro nella pubblicità mobile e i truffatori si stanno muovendo con i loro clic e traffico falsi per sottrarre parte di quei dollari pubblicitari.  Sebbene il volume globale delle frodi sia rimasto complessivamente stabile (i tassi di frode post-offerta/traffico non valido sofisticato [SIVT] sono diminuiti dal 2% all'1,4% e il volume complessivo non è cambiato di anno in anno), le sacche di frode continuano ad affliggere il settore , DoubleVerify ha trovato nel suo Global Insights Report annuale. Un esempio sono le truffe che prendono di mira i video sulle app mobili. Le frodi pubblicitarie in streaming sono diventate un grosso problema, con DoubleVerify che rileva oltre 500.000 dispositivi TV collegati (CTV) falsi, dispositivi di gioco e console di streaming, al giorno. Anche i truffatori stanno cambiando tattica. L'anno scorso, le frodi bot hanno rappresentato il 78% delle violazioni di frode/SIVT su CTV. Mentre le violazioni delle frodi dei bot su CTV rimangono il tipo più comune di frode CTV, il traffico dei data center è un problema crescente. Il traffico del datacenter è un tipo ...
Continua a Leggere

Gli aggressori usano "l'intelligenza artificiale offensiva" per creare deepfake per le campagne di phishing  L'intelligenza artificiale consente alle organizzazioni di automatizzare le attività, estrarre informazioni e creare contenuti multimediali quasi indistinguibili dalla realtà. Ma come ogni tecnologia, l'intelligenza artificiale non è sempre sfruttata per sempre. In particolare, i cyberattaccanti possono utilizzare l'intelligenza artificiale per potenziare i propri attacchi ed espandere le proprie campagne. Un recente sondaggio pubblicato da ricercatori di Microsoft, Purdue e Ben-Gurion University, tra gli altri, esplora la minaccia di questa " IA offensiva " sulle organizzazioni. Identifica diverse funzionalità che gli avversari possono utilizzare per rafforzare i propri attacchi e classifica ciascuno in base alla gravità, fornendo approfondimenti sugli avversari.  Il sondaggio, che ha esaminato sia la ricerca esistente sull'AI offensiva sia le risposte di organizzazioni tra cui IBM, Airbus, Airbus, IBM e Huawei, identifica tre motivazioni principali per un avversario nell'usare l'AI: copertura, velocità e successo. L'intelligenza artificiale consente agli aggressori di "avvelenare" i modelli di apprendimento automatico corrompendo i loro dati di addestramento, oltre a rubare le credenziali tramite l' analisi del canale laterale . E può essere utilizzato per armare i metodi di intelligenza artificiale per il rilevamento delle vulnerabilità, i test di penetrazione e il rilevamento delle perdite di credenziali. Le principali minacce informatiche dell'IA AILe organizzazioni hanno detto ai ricercatori che considerano lo sfruttamento dello sviluppo, l'ingegneria sociale e la raccolta di informazioni come le tecnologie di intelligenza artificiale offensive più minacciose. Sono particolarmente preoccupati per l'intelligenza artificiale utilizzata per la rappresentazione, come i deepfake per perpetrare attacchi di phishing e reverse engineering che potrebbero consent...
Continua a Leggere