L’era del porno generato dall’intelligenza artificiale è qui
Siamo alla vigilia di una nuova era nella pornografia.
Uno in cui il porno generato dall’IA è la norma. Questo nuovo tipo di media è generato da algoritmi che creano immagini o video realistici di persone che non esistono.
Nelle ultime settimane, ho visto sempre più fotografie sintetiche di nudo di persone inesistenti in Lexica , una vasta collezione di immagini generate da Stable Diffusion.
Che cos’è la diffusione stabile?
Stable Diffusion è un modello di intelligenza artificiale open source di proprietà di Stability.AI.
È uno strumento di conversione da testo a immagine che richiede un semplice messaggio di testo descrittivo di qualsiasi cosa tu possa immaginare e produrre un’immagine in pochi secondi.
L’IA utilizza un processo chiamato “diffusione” in fase di esecuzione. Partendo dal solo rumore, migliora gradualmente un’immagine fino a quando non rimane alcun rumore, avvicinandola sempre di più a una descrizione testuale fornita.
È uno strumento di intelligenza artificiale permissivo
Stability.AI lo ha reso un software open source nell’agosto 2022, il che significa che gli utenti possono ora modificare e disabilitare qualsiasi restrizione per esplorare il lato più oscuro dei sistemi per un diverso tipo di caso d’uso: il porno.
Nutri con un input come “calda bionda” e ti dà questa immagine.
Immagine generata da Stable Diffusion AI
È pazzesco come riesca a realizzare una foto sintetica quasi indistinguibile da una reale.
Il CEO e fondatore dell’azienda Emad Mostaque , in un tweet , ha affermato che Stable Diffusion sbloccherà una nuova forma di creatività per l’umanità.
“Oggi abbiamo tutti reso il mondo un luogo più creativo, più felice e comunicativo.
Attiviamo il potenziale dell’umanità.“
— Emad
Il genio è fuori e non può essere rimesso nella bottiglia.
È il primo del suo genere
Stability.AI è il primo tra i grandi attori nell’attuale spazio dell’IA a rendere open source il suo modello di generatore di immagini.
OpenAI ha messo molte salvaguardie sul suo strumento Dall-E2 per disabilitare qualsiasi forma di risultato erotico o offensivo. Fino ad ora, è ancora in accesso privato solo su invito.
Imagen di Google è già stato annunciato ma non è stato ancora rilasciato al pubblico, anche per motivi di sicurezza.
MidJourney ha recentemente integrato Stable Diffusion nel proprio modello di intelligenza artificiale. Il loro bot AI discord, tuttavia, filtra gli input di testo che vanno contro le loro regole predefinite per evitare risultati NSFW.
I pericoli del porno AI
Sta arrivando il giorno in cui dovremo tutti confrontarci con la realtà del porno generato dall’IA. E non sarà carino.
Deepfake di nuova forma
I media deepfake sono già qui. Il processo esistente altera il volto di un’immagine o di un video esistente con quello di qualcun altro. Rappresenta un danno particolare per le donne poiché il porno generato dall’intelligenza artificiale può essere utilizzato per ricattarle e metterle a tacere.
Nel 2019, Sensity AI , una società di ricerca ha scoperto che il 96% dei video deepfake online erano porno non consensuali.
Ma che ne dici di creare immagini e video di celebrità da zero? È qui che entrano in gioco i nuovi modelli di intelligenza artificiale come Stable Diffusion. Presto, i deepfake saranno possibili con nient’altro che una foto di una persona reale e un paio di istruzioni di testo.
Pornografia infantile
L’idea stessa di pedopornografia è ripugnante e ripugnante. E ora, con l’avvento dell’IA, c’è un nuovo sviluppo ancora più preoccupante: la pedopornografia generata dal computer.
L’IA non ha un’anima e seguirà solo qualsiasi cosa l’umano le dica di fare. È estremamente difficile regolare ciò che le persone cercano di inventare e pubblicare utilizzando questa tecnologia.
Più violento della pornografia tradizionale
Poiché è creato dai computer, non ci sono limiti a ciò che i creatori possono fare. Questo può portare a contenuti molto inquietanti e violenti.
Quindi cosa possiamo fare al riguardo?
Per ora non molto. Ma dobbiamo essere consapevoli del problema e iniziare a pensare alle soluzioni.
I ricercatori dell’UC Riverside affermano di trovare un modo per rilevare video deepfake con una precisione fino al 99%.
Dobbiamo anche fare pressione su aziende come Meta, Microsoft e Google affinché facciano di più per combattere il porno generato dall’IA.
Nel frattempo, la cosa migliore che possiamo fare è stare attenti a ciò che condividiamo online. Non mettere nulla là fuori che non vorresti fosse usato contro di te.
Come un’espressione artistica
Mentre alcuni vedono i contenuti espliciti generati dall’IA come pericolosi, altri potrebbero vederlo come un’espressione artistica.
I sostenitori dei contenuti espliciti generati dall’intelligenza artificiale potrebbero sostenere che si tratta di una forma d’arte che può essere utilizzata per esplorare la sessualità e il desiderio umani. Che non è diverso dai dipinti medievali di donne nude.
Dai un’occhiata all’immagine qui sotto. Ti provoca? O ti stupisce?
Immagine generata da Stable Diffusion
suggerimento: pittura d’arte low brow di von franco, olio su tela, dettagli squisitamente intricati, surrealismo, sexy, osé, neoclassicismo, rinascimento, iperrealistico, ultra dettagliato, cell shaded, 8k
Che tu la consideri un’arte o un pericolo, non si può negare che la pornografia generata dall’intelligenza artificiale sia un argomento controverso e polarizzante.
È importante avere una discussione aperta e onesta sulle implicazioni di questa nuova tecnologia, al fine di garantire che venga utilizzata in modo responsabile ed etico.
Normative vigenti
Sfortunatamente, ci sono alcune leggi nel mondo che affrontano i problemi relativi ai contenuti deepfake.
Negli Stati Uniti, Virginia e California sono i primi stati ad avere normative che limitano l’uso e la distribuzione di determinati media deepfake.
La legge in Virginia impone sanzioni penali sulla distribuzione di materiale pornografico non consensuale deepfake, mentre la legge in Texas vieta la creazione e la distribuzione di video deepfake destinati a danneggiare i candidati a cariche pubbliche o influenzare le elezioni.
Con l’ascesa di nuovi modelli di intelligenza artificiale come Stable Diffusion, mi aspetto che presto si verificheranno più leggi e strumenti tecnologici contro il porno sintetico.
Pensieri finali
Questo nuovo tipo di media ha il potenziale per cambiare il panorama dell’industria della pornografia. Il porno generato dall’intelligenza artificiale sta lentamente diventando realistico e può essere creato senza la necessità del consenso delle persone che appaiono nei video o nelle immagini.
Ciò significa che persone di tutte le età, razze e tipi di corpo possono essere rappresentate nel porno generato dall’IA. Inoltre, può essere personalizzato in base alle preferenze dell’utente e può essere creato per assomigliare a chiunque desideri.
Le potenziali implicazioni sono sia eccitanti che terrificanti.
Il futuro del porno generato dall’intelligenza artificiale è spaventoso. Ma non possiamo lasciare che ci controlli.
Jim Clyde Monge da medium.com
