Home / Intelligenza artificiale pericolo / Anonymizer : Sostituisci il tuo viso con un gemello AI per ingannare il riconoscimento facciale

Anonymizer : Sostituisci il tuo viso con un gemello AI per ingannare il riconoscimento facciale

Sostituisci il tuo viso con un gemello AI per ingannare il riconoscimento facciale
Prova lo strumento Anonymizer per creare una faccia falsa che ti somiglia

Sehai pubblicato una tua foto online negli ultimi anni, ci sono buone probabilità che Clearview AI l’abbia bevuta e aggiunta all’enorme database di riconoscimento facciale dell’azienda con oltre 3,1 miliardi di immagini. Il New York Times ha affermato che Clearview potrebbe ” porre fine alla privacy come la conosciamo “. A gennaio, ho messo le mani sul mio profilo AI Clearview e il suo contenuto mi ha fatto impazzire .
Una vasta gamma di legali e di sfide legislative sono state montato contro Clearview. Il mio articolo è stato citato nella storica azione legale contro la società dell’American Civil Liberties Union . Ma anche se i legislatori frenassero l’IA di Clearview, interrompere il riconoscimento facciale online è come giocare a whack-a-mole: un altro clone dell’azienda apparirà semplicemente al suo posto.

Data l’ubiquità del riconoscimento facciale online, cosa possono fare i consumatori per tenere i loro volti lontani da enormi database di sorveglianza? La startup di Synthetic Content, Generated Media, pensa di avere una soluzione: sostituire la tua faccia con un fake tecnologicamente avanzato creato da una rete neurale. Il falso dà alle persone un senso per il tuo aspetto mantenendo il tuo volto anonimo.
Generated Media è specializzata nella creazione di volti artificiali. Per fare ciò, utilizza una tecnologia chiamata GAN (generative adversarial networks), che mette due reti neurali in guerra l’una contro l’altra . Nel caso di Generated Media, mentre le reti si affrontano, una rete (chiamata rete generativa) diventa sempre migliore nel generare volti artificiali. La tecnologia GAN è così buona che può produrre facce false che facilmente inducono gli umani a pensare che siano reali. La società ha fatto colpo in un recente articolo del New York Times sulla tecnologia dietro i volti falsi.
I GAN possono anche eseguire questa impresa su vasta scala. Generated Media ha meno di un anno e ha già creato più di 2 milioni di facce false. I volti rappresentano persone di ogni età e aspetto possibile. Sembrano completamente reali, ma le persone che raffigurano in realtà non esistono e non lo sono mai state. Generated Media li concede in licenza come foto d’archivio sul suo sito Web Generated.Photos e li utilizza come dati di addestramento per ridurre i pregiudizi in altri sistemi di intelligenza artificiale .
Data l’ubiquità del riconoscimento facciale online, cosa possono fare i consumatori per tenere i loro volti lontani da enormi database di sorveglianza?
Con il suo enorme database di immagini, Generated Media sta ora rivolgendo la sua attenzione ai consumatori. Con uno strumento lanciato oggi chiamato Anonymizer , l’azienda ti consente di caricare una foto reale del tuo viso e ricevere una varietà di volti falsi che sembrano simili al tuo. Puoi quindi utilizzare i falsi al posto del tuo vero volto sui social media o in qualsiasi altro luogo in cui devi pubblicare una foto su Internet pubblico. Le foto false sono gratuite per uso personale e hanno la possibilità di utilizzare uno sfondo trasparente.
Le foto false, dice Generated Media, dovrebbero assomigliare abbastanza a te in modo che i contatti le trovino credibili. Ma poiché in realtà non sei tu, se Clearview o un’altra società di riconoscimento facciale aggiunge la tua faccia falsa al suo database, non sarà in grado di utilizzare la faccia falsa per trovare il vero te. Generated Media afferma che gli utenti possono scambiare le loro foto con nuovi falsi “almeno ogni giorno” per una misura extra di anonimato.
In un’intervista, Tyler Lastovich , responsabile della strategia per Generated Media, mi ha detto che la società ha creato l’Anonymizer dopo essere stato ” contattato personalmente su LinkedIn da qualcuno che utilizzava una foto generata come avatar” e dopo che la società ha visto “molti, molti altri [delle sue foto utilizzate come immagini del profilo] su Twitter. ” Altri hanno tentato di creare strumenti che utilizzano l’intelligenza artificiale per oscurare le identità di manifestanti e attivisti online alterando sottilmente le loro foto del profilo. Ma Clearview ha detto al New York Times che questi strumenti non funzionano per ingannare i suoi sistemi . Una foto totalmente falsa come quelle create da Generated Media sarebbe probabilmente una soluzione più sicura.
Ho testato l’Anonymizer caricando una foto del mio viso, scattata in una pizzeria di lusso a San Ramon, in California.
I
Anonymizer di Generated Media mi ha presentato una griglia di circa 20 sosia, con la possibilità di visualizzarne altri. Ho sfogliato e ho scelto una faccia finta che sembrava la più simile alla mia.

Qui siamo fianco a fianco. Poiché la faccia finta aveva uno sfondo trasparente, sono stato in grado di sovrapporla a una foto che ho scattato nella stessa pizzeria in cui è stata scattata la mia foto reale.
Immagine per post
Abbiamo esattamente lo stesso aspetto? No. Per prima cosa, non porterei mai i capelli in quel modo. Ma guardiamo abbastanza da vicino che i contatti al di là dei miei amici intimi e della mia famiglia potrebbero scambiare il falso per me, specialmente se ho usato il falso su un sito di social media come Twitter, dove le foto del profilo sono pochi 49×49 pixel.
Anche un computer potrebbe commettere lo stesso errore. Per verificare quanto siamo simili io e il mio doppelgänger AI, ho confrontato i nostri volti utilizzando un’API di confronto dei volti di Face ++ , un fornitore onnipresente di software di riconoscimento facciale. Face ++ ha restituito una “probabilità normale” che la mia faccia corrispondesse a quella del mio clone di intelligenza artificiale e ha stimato con il 64% di certezza che fossimo la stessa persona.
Non è perfetto, ma non è male per una faccia finta immaginata da un computer, ei risultati dovrebbero migliorare nel tempo. L’Anonymizer funziona analizzando il volto di un utente e trovando la corrispondenza più vicina dal database esistente di volti falsi di Generated Media. Poiché l’azienda genera più volti falsi, aumenteranno le possibilità di trovare una corrispondenza altamente credibile.
Durante i miei test, ho scoperto che più un volto è riconoscibile, più diventa difficile trovare un falso convincente. Per verificarlo, ho caricato una foto di Donald Trump nell’Anonymizer. I risultati erano totalmente diversi dal suo aspetto reale. Nel bene o nel male, ho quasi sicuramente visto più foto della faccia di Trump negli ultimi quattro anni di quante ne abbia viste di mia. Quando confronti un volto reale estremamente familiare come quello di Trump con un falso, i piccoli difetti nel falso sono palesemente evidenti. Per i volti meno familiari, sono più facili da trascurare e il falso sembra più convincente.
Ciò suggerisce un altro caso d’uso per il sistema. L’app killer di Anonymizer potrebbe non creare necessariamente cloni di volti che i tuoi contatti crederanno che tu sia effettivamente tu. Piuttosto, il sistema potrebbe essere il migliore per le situazioni in cui vuoi dare un senso del tuo aspetto a una persona che non hai mai incontrato prima, mantenendo il tuo aspetto reale anonimo.
I profili di appuntamenti, afferma Generated Media, sono un ottimo esempio. Se stai creando un profilo di appuntamenti online, puoi prendere un’immagine falsa dall’Anonymizer di Generated Media e usarla al posto del tuo vero volto. L’immagine darebbe un buon senso del tuo aspetto: se incontrassi qualcuno di speciale e in seguito scegliessi di rivelare il tuo vero volto, si spera che non si sentirebbero abbattuti. Ma fino a quando non sceglierai di rivelare il vero te, la faccia falsa impedirebbe ai cyberstalker che frequentano i siti di appuntamenti di conoscere il tuo aspetto esatto e di prenderti di mira IRL.
In un caso d’uso simile, l’azienda ha lavorato con giornalisti investigativi, utilizzando uno strumento correlato per creare volti falsi per le fonti che desiderano rimanere anonime. La faccia finta può dare a un giornalista (e ai suoi lettori) un senso dell’età della fonte, del colore della pelle, della lunghezza dei capelli e di altri elementi chiave del loro aspetto, garantendo al contempo che la loro vera identità rimanga protetta. (I giornalisti che usano questa tattica per proteggere le proprie fonti dovrebbero riconoscere nella loro storia che il volto è un falso e viene utilizzato per proteggere un’identità sensibile.) Clearview AI scarica milioni di immagini da articoli di notizie e siti di social media, inclusi i volti falsi negli articoli sensibili è un buon modo per impedire a Clearview di indicizzare il volto di una fonte e ricollegarlo a un articolo sensibile.
Se hai intenzione di postare su argomenti sensibili come una protesta, potresti prendere in considerazione l’adozione di un approccio simile creando un account di social media separato e popolandolo con una versione falsa del tuo volto. In questo modo, i contenuti sensibili non verranno ricollegati al tuo vero volto e non saranno disponibili per coloro che potrebbero cercare il tuo viso su una piattaforma come quella di Clearview. Controlla sempre i termini di servizio del tuo social network prima di caricare una faccia falsa; Twitter, ad esempio, non ammette volti falsi se utilizzati per scopi ingannevoli . Se stai usando il falso per proteggere il tuo diritto alla libertà di parola senza ostacoli, probabilmente stai bene.
Tuttavia, non tutti i sostenitori della privacy sono convinti che sistemi come Anonymizer si dimostreranno efficaci. Chris Gilliard , attivista e ricercatore del Shorenstein Center della Harvard Kennedy School , mi ha detto: “Sarei piuttosto diffidente nei confronti di qualsiasi affermazione secondo cui questo può funzionare come un modo per proteggere l’anonimato delle persone”. La condivisione dei dati va ben oltre le foto pubbliche pubblicate su Internet e Gillard mi ha detto che “parte del problema con la mancanza di regolamentazione e supervisione dei nostri dati e con così tanti di questi strumenti digitali è che è relativamente facile ottenere foto di persone , sia che ciò significhi raschiare i social media o acquistarli dal DMV. ” Gillard riteneva che questi fossero problemi sociali piuttosto che tecnici, e non qualcosa da cui la società può “tecnologizzare” per uscire.
Anche le facce false comportano dei rischi. Secondo il New York Times , i volti falsi possono essere “usati come maschere da persone reali con intenti nefasti: spie che indossano una faccia attraente nel tentativo di infiltrarsi nella comunità dell’intelligence; propagandisti di destra che si nascondono dietro falsi profili, foto e tutto il resto; molestatori online che troll i loro obiettivi con un volto amichevole. ” All’inizio di quest’anno, una faccia falsa è stata usata in questo modo per condividere una storia su Hunter Biden da una società di intelligence falsa.
Nelle mani di un utente malvagio, l’Anonymizer potrebbe potenzialmente creare questo tipo di falsi. Ma per coloro che stanno cercando di creare una faccia falsa per motivi negativi, ci sono probabilmente metodi più semplici. Il sito web ThisPersonDoesNotExist.com genera volti falsi nel tuo browser utilizzando una tecnologia GAN simile alla tecnologia di Generated Media, senza la necessità di caricare un’immagine.
E poiché il codice alla base dei GAN che generano volti è ampiamente disponibile , i criminali più sofisticati probabilmente costruiranno i propri sistemi di generazione dei volti, piuttosto che fare affidamento su volti che potrebbero essere ricondotti a una particolare azienda – e quindi potenzialmente a loro. Da parte sua, Generated Media afferma che gli utenti non possono “utilizzare la tua immagine per impersonare un’altra persona o per condurre attività illegali”.
Se desideri pubblicare una rappresentazione di te stesso online senza preoccuparti della sorveglianza di massa o se vuoi solo testare quanto bene i tuoi contatti ti conoscono scambiando l’immagine del tuo profilo Twitter con una falsa e vedendo se qualcuno se ne accorge, controlla l’Anonymizer . Per lo meno, è divertente vedere una griglia dei tuoi falsi cloni personali. E se pubblichi contenuti sensibili online, sei preoccupato di poter essere preso di mira per lo stalking, o vuoi semplicemente controllare chi conosce il tuo vero aspetto, l’Anonymizer non è solo un giocattolo, è uno strumento potenzialmente potente.

Thomas Smith da Debugger

Top

Utilizzando il sito, accetti l'utilizzo dei cookie da parte nostra. maggiori informazioni

Questo sito utilizza i cookie per fornire la migliore esperienza di navigazione possibile. Continuando a utilizzare questo sito senza modificare le impostazioni dei cookie o cliccando su "Accetta" permetti il loro utilizzo.

Chiudi