I legislatori statunitensi sostengono che l’IA ‘ha il potenziale per distruggere ogni aspetto della nostra società’
Stanno chiedendo alla comunità dell’intelligence di valutare la minaccia della manipolazione video di AI
I politici statunitensi stanno diventando sempre più preoccupati per i deepfakes, un nuovo tipo di editing video assistito da AI che crea risultati realistici con il minimo sforzo. Ieri, un trio di parlamentari ha inviato una lettera al direttore dell’intelligence nazionale, Dan Coats, chiedendogli di valutare la minaccia posta alla sicurezza nazionale da questa nuova forma di fakery.
La lettera recita “falsi digitali iper-realistici” che mostrano “convincenti raffigurazioni di persone che fanno o dicono cose che non hanno mai fatto” potrebbero essere usate per il ricatto e la disinformazione. “Poiché la tecnologia falsa profonda diventa più avanzata e più accessibile, potrebbe rappresentare una minaccia per il discorso pubblico degli Stati Uniti e la sicurezza nazionale”, affermano i firmatari della lettera, rappresentanti della Camera Adam Schiff (D-CA), Stephanie Murphy (D-FL), e Carlos Curbelo (R-FL).
DEEPFAKES HA IL POTENZIALE DI RICATTO, DISINFORMAZIONE E ALTRO
Il trio vuole che la comunità di intelligence produca un rapporto che includa le descrizioni di quando i “deepfake” “confermati o sospetti” sono stati prodotti da individui stranieri (non ci sono esempi attuali di questo) e per suggerire potenziali contromisure.
In un comunicato stampa, Curbelo ha dichiarato: “I falsi profondi hanno il potenziale di distruggere ogni aspetto della nostra società e scatenare pericolose conseguenze internazionali e domestiche […] Come con qualsiasi minaccia, la nostra comunità di intelligence deve essere preparata a combattere i falsi profondi, essere vigili contro di loro e pronti a proteggere la nostra nazione e il popolo americano “.
Questa non è la prima volta che i legislatori hanno sollevato questo problema. All’inizio dell’anno, i senatori Mark Warner (D-VA) e Marco Rubio (R-FL) hanno avvertito che i deepfakes dovrebbero essere trattati come una minaccia alla sicurezza nazionale. In un discorso, Rubio ha detto che la tecnologia potrebbe sovralimentare campagne di disinformazione condotte da potenze straniere, individuando la Russia come una particolare minaccia.
“So per certo che la Federazione Russa al comando di Vladimir Putin ha cercato di seminare instabilità e caos nella politica americana nel 2016”, ha affermato Rubio. “Lo hanno fatto tramite i bot di Twitter e lo hanno fatto attraverso un paio di altre misure che verranno sempre più alla luce. Ma non l’hanno usato. Immagina di usarlo. Immagina di iniettare questo in un’elezione. ”
Deepfakes è stato premiato per la prima volta nel 2016 quando gli utenti di Reddit hannoiniziato a utilizzare la ricerca all’avanguardia dell’IA per incollare i volti delle celebrità sul porno. Il termine stesso non si riferisce ad alcuna ricerca particolare, ma è un portmanteau che combina “deep learning” con “fake”. La frase è stata inizialmente utilizzata da un utente Reddit, ma sta lentamente diventando sinonimo di una vasta gamma di editing AI tecnologia. Tali strumenti possono trasformare le persone in pupazzi virtuali , sincronizzare la bocca con il discorso di qualcun altro o semplicemente farli ballare come un professionista.
Un certo numero di organizzazioni, inclusi laboratori universitari, startup e persino parti dell’esercito, stanno esaminando i modi per rilevare in modo affidabile i deepfake. Questi includono metodi come individuare pattern intermittenti intermittenti o tonalità della pelle non realistiche.
Tuttavia, i ricercatori concordano sul fatto che non esiste un unico metodo e che qualsiasi strumento di individuazione del deepfake creato verrà presto ingannato dalle nuove versioni della tecnologia. Ad ogni modo, anche se esistesse un modo semplice per individuare i deepfakes, non impedirebbe necessariamente che la tecnologia venga usata maliziosamente. Lo sappiamo dalla diffusione di notizie false su reti come Facebook. Anche se può essere facilmente confutato, può ancora convincere coloro che vogliono credere.
Nonostante queste sfide, coinvolgere il governo è una notizia incoraggiante. “Questo è un passo costruttivo”, ha detto al Washington Post Stewart Baker, ex consigliere generale per la National Security Agency . “Una cosa è per accademici e tecnici dire che i deepfakes sono un problema, un altro per la comunità di intelligence dire lo stesso. Rende la preoccupazione qualcosa che il Congresso può affrontare senza timore di essere indovinata su quanto sia grande il problema “.