L’ex presidente degli Stati Uniti Donald Trump ha condiviso una deepfake su Truth Social questa settimana, un’immagine generata dall’intelligenza artificiale che sta diventando popolare sui social media. Nell’immagine, Trump si trova in ginocchio mentre prega, ma i difetti nella biologia e nell’ambientazione evidenziano chiaramente le origini dell’IA dell’immagine.
L’immagine è stata prodotta da Eliot Higgin, il fondatore dell’outlet di reportage investigativo open source Bellingcat, utilizzando il motore di conversione da testo a immagine Midjourney v5, rilasciato dalla società di media sintetici all’inizio di questo mese. Higgin ha condiviso una serie di immagini prodotte da Midjourney, tra cui suggerimenti sull’arresto di Trump, che sono diventati rapidamente virali a livello internazionale.
Midjourney v5 dimostra come l’IA possa produrre effetti visivi molto realistici, ma evidenziando contemporaneamente i difetti, contrassegnandoli chiaramente come sintetici. In questo caso, l’immagine non riesce a rappresentare accuratamente le mani umane, un problema frequente nelle precedenti iterazioni dello strumento AI. La mano destra di Trump ha un dito mancante e un pollice stranamente mutilato, tradendo ogni pretesa di realtà. La situazione stessa sembra irreale, poiché è improbabile che una stanza piena di persone con un ex presidente lo ignori mentre si mette in posa drammatica in un raggio di sole per pregare.
Il fatto che l’ex presidente Trump abbia condiviso l’immagine deepfake senza commenti significativi ha sollevato preoccupazioni sulla manipolazione delle informazioni e sull’uso dell’IA per creare contenuti ingannevoli. Mentre la tecnologia ha il potenziale per creare immagini e video straordinariamente realistici, può anche essere utilizzata per creare immagini manipolate e ingannevoli. La diffusione di immagini deepfake potrebbe avere conseguenze negative sulle elezioni, la politica e la società nel suo complesso.
In sintesi, la diffusione di deepfake sui social media solleva preoccupazioni sulla manipolazione delle informazioni e sull’uso dell’IA per creare contenuti ingannevoli. Mentre la tecnologia ha il potenziale per creare immagini e video straordinariamente realistici, è importante prendere in considerazione i potenziali impatti negativi che la diffusione di immagini deepfake potrebbe avere sulla società.