McAfee ha recentemente lanciato il Project Mockingbird, una tecnologia innovativa progettata per contrastare i deepfake generati dall’intelligenza artificiale che utilizzano l’audio per ingannare i consumatori con notizie false e altri schemi. Questa tecnologia, denominata Deepfake Audio Detection e basata sull’intelligenza artificiale, è stata presentata al CES 2024, la grande fiera tecnologica di Las Vegas, e mira a proteggere i consumatori dai criminali informatici che usano audio manipolato generato dall’IA per perpetrare truffe e manipolare la percezione pubblica.
Le truffe a cui si riferisce Project Mockingbird includono l’uso di video con oratori legittimi, come noti giornalisti, ai quali viene sovrapposto materiale falso, in modo che l’oratore sembri pronunciare parole mai effettivamente dette. Steve Grobman, CTO di McAfee, ha evidenziato come il Project Mockingbird miri a proteggere i consumatori dalle minacce che incidono sulla loro vita digitale, tradizionalmente focalizzate sul rilevamento di malware e prevenzione dell’accesso a siti web pericolosi. Tuttavia, con l’avanzamento dell’intelligenza artificiale generativa, emerge una tendenza all’uso di questa tecnologia da parte di criminali informatici per creare una vasta gamma di truffe.
Grobman ha anche sottolineato la potenziale applicazione di questa tecnologia in ambito elettorale, per la disinformazione e la generazione legittima di contenuti di campagne politiche. Di conseguenza, McAfee ha incrementato gli investimenti in tecnologie in grado di rilevare queste capacità, aiutando i clienti a prendere decisioni più informate sull’autenticità dei video.
Il problema dei deepfake è aggravato dall’uso di materiale hackerato, come dimostra il caso di Insomniac Games, produttore di Spider-Man 2, il cui materiale privato è stato diffuso sul web. Tra i dati diffusi potrebbero esserci deepfake difficili da distinguere dal materiale autentico. Grobman ha annunciato che al CES sarebbero state presentate le prime dimostrazioni pubbliche delle tecnologie sviluppate da McAfee, che includono il rilevamento di immagini, video, testo e in particolare audio deepfake.
Project Mockingbird è in grado di rilevare se l’audio rappresenta effettivamente la persona umana o meno, basandosi sull’ascolto delle parole pronunciate. Questa tecnologia è fondamentale nel contesto di un aumento delle truffe audio deepfake, specialmente in vista delle elezioni presidenziali americane del 2024. I progressi nell’intelligenza artificiale hanno facilitato i criminali informatici nella creazione di contenuti ingannevoli, rendendo difficile per i consumatori discernere l’autenticità nel regno digitale.
McAfee Labs ha sviluppato un modello di intelligenza artificiale in grado di rilevare l’audio generato dall’IA con un tasso di precisione superiore al 90%. Questa tecnologia fornisce agli utenti gli strumenti per valutare accuratamente l’autenticità dei contenuti online, proteggendo la loro privacy, identità e benessere online. L’obiettivo di McAfee è offrire ai consumatori la chiarezza e la sicurezza necessarie per navigare nel mondo basato sull’intelligenza artificiale.
Il team di ricerca sulle minacce di McAfee ha inoltre scoperto l’uso di account legittimi registrati per reti pubblicitarie in piattaforme come Meta, evidenziando come i deepfake vengano pubblicati su piattaforme di social media come Facebook, Instagram, Threads e Messenger.
Grobman ha sottolineato l’importanza per i consumatori di avere un sano scetticismo riguardo ai contenuti che potrebbero non sembrare autentici e di affidarsi alla tecnologia di partner fidati come McAfee per identificare e individuare contenuti potenzialmente ingannevoli. Il progetto Mockingbird si estende oltre la sperimentazione e sarà integrato in tutta la linea di prodotti di McAfee, fornendo ai consumatori i mezzi per navigare in un panorama pieno di cyberbullismo, disinformazione e schemi fraudolenti basati sul deepfake.
Nel contesto delle preoccupazioni crescenti sulla tecnologia deepfake, McAfee ha rilevato una crescente apprensione tra gli americani, con circa il 68% che esprime maggiore preoccupazione per i deepfake rispetto all’anno precedente. Le principali preoccupazioni includono l’influenza sulle elezioni, il cyberbullismo, l’indebolimento della fiducia del pubblico nei media, l’impersonificazione di personaggi pubblici, la creazione di contenuti pornografici falsi, la distorsione dei fatti storici e la possibilità di cadere preda di truffe.
McAfee sottolinea che l’obiettivo è quello di offrire agli utenti la chiarezza e la sicurezza necessarie per esplorare le sfumature del mondo basato sull’intelligenza artificiale, proteggendo la loro privacy, identità e benessere online. La tecnologia di rilevamento dei deepfake sarà integrata in un prodotto per proteggere gli utenti, fornendo loro gli strumenti necessari per distinguere tra contenuti autentici e manipolati.