La Cina propone una maggiore regolamentazione dei deepfake e di altri sistemi di sintesi di intelligenza artificiale
La Cyberspace Administration of China (CAC) ha proposto una nuova serie di bozze di regolamenti per disciplinare i sistemi di sintesi assistiti dall’IA, inclusi deepfake , scene di realtà virtuale, generazione di testo, audio e altri sottosettori della sintesi multimediale dell’IA, un campo in cui La Cina produce ogni mese un numero prodigioso di articoli accademici e progetti di ricerca innovativi.
Un post (traduzione di Google, originale qui ) nel sito ufficiale del CAC definisce gli obblighi proposti e caratterizza i servizi interessati come “fornitori di servizi di sintesi profonda”, invitando i cittadini a partecipare contribuendo con commenti alle bozze di proposta, con una scadenza di 28 febbraio.
Non solo deepfake
Sebbene le normative suggerite siano state riportate nei termini del loro potenziale impatto sulla creazione e diffusione di deepfake, il documento tenta di esaminare a 360 gradi la capacità degli algoritmi di generare qualsiasi tipo di contenuto che possa essere interpretato nel senso più ampio di ‘media’.
L’articolo 2 dichiara l’ambito di applicazione previsto dei regolamenti in sei settori*:
(1) Tecniche per generare o modificare il contenuto del testo, come la generazione di capitoli, la conversione dello stile del testo e il dialogo di domande e risposte;
(2) Tecnologie per la generazione o la modifica di contenuti vocali, come sintesi vocale, conversione vocale e modifica degli attributi vocali;
(3) Tecnologie per la generazione o la modifica di contenuti non vocali, come la generazione di musica e l’editing di suoni di scene;
(4) Generazione del volto, sostituzione del volto, modifica degli attributi del personaggio, manipolazione del volto, manipolazione dei gesti e altre tecnologie per la generazione o la modifica di caratteristiche biometriche come i volti nelle immagini e nei contenuti video;
(5) Tecniche per la modifica di caratteristiche non biologiche nelle immagini e nei contenuti video, come il miglioramento delle immagini e il ripristino delle immagini;
(6) Tecnologie per la generazione o la modifica di scene virtuali come la ricostruzione 3D.
Regolamento Deepfake
La Cina ha criminalizzato l’uso dell’IA per la diffusione di notizie false alla fine del 2019 , momento in cui il CAC ha espresso preoccupazione per le potenziali implicazioni della tecnologia deepfake, spingendo molti a considerare che il governo cinese alla fine avrebbe bandito la tecnologia deepfake a titolo definitivo.
Tuttavia, ciò comporterebbe l’abbandono ufficiale da parte della Cina di uno degli sviluppi più significativi dal punto di vista politico e culturale nella storia della generazione dei media, dell’IA e persino della politica, e l’interruzione dei benefici della collaborazione scientifica globale e aperta.
Pertanto, sembra che la Cina sia ora determinata a sperimentare il controllo piuttosto che vietare la tecnologia potenzialmente canaglia, che, secondo molti, alla fine migrerà fuori dalla sua fase di acceleratore del porno e in un insieme legittimo e sfruttabile di casi d’uso, in particolare nell’intrattenimento.
NeRF incluso
L’articolo 2.6 riguarda la generazione o l’editing di scene virtuali, come la ricostruzione 3D, una tecnologia più nascente rispetto alla rappresentazione del deepfake e che ha raggiunto la maggiore importanza negli ultimi due anni grazie all’avvento dei Neural Radiance Fields ( NeRF ), dove la fotogrammetria viene utilizzato per sintetizzare intere scene nello spazio latente esplorabile dei modelli di apprendimento automatico .
Tuttavia, NeRF sta rapidamente espandendo la sua portata da tableaux di modelli e walk-through di ambienti alla generazione di video a corpo intero, con i ricercatori cinesi che hanno avanzato alcune importanti innovazioni a questo riguardo.
ST-NeRF cinese in azione.
Sebbene NeRF abbia prodotto una tempesta di nuove ricerche sin dal suo annuncio nel 2020, la sua implementazione nei sistemi VR o AR, o la sua idoneità nelle pipeline di effetti visivi, ha ancora molte sfide notevoli e colli di bottiglia tecnologici da superare. La crescente capacità di NeRF di ricostituire e modificare fisionomie umane complete non ha ancora incorporato nessuna delle capacità di deepfake standard di trasformazione dell’identità che hanno caratterizzato i titoli delle notizie negli ultimi due anni.
L’audio ha una priorità?
Se si vuole prendere l’ordine dell’elenco dell’articolo 2 come un’indicazione delle tecnologie di sintesi profonda che la Cina è più interessata a controllare e regolamentare, ciò suggerirebbe che le fake news generate dall’intelligenza artificiale basate su testo sono di primaria preoccupazione, con la sintesi vocale prima del video deepfake in termini di potenziale impatto.
In tal caso, ciò concorda con il fatto che il video deepfake deve ancora essere utilizzato in alcun crimine non correlato alla pornografia (l’Asia non ha esitato a criminalizzare il porno deepfake ), mentre l’audio deepfake è stato postulato come una tecnologia attiva in almeno due importanti crimini, nel Regno Unito nel 2019 e negli Emirati Arabi Uniti nel 2021.
La nuova bozza di regolamento obbliga gli utenti che desiderano sfruttare l’identità di una persona attraverso l’uso di sistemi di apprendimento automatico a chiedere il permesso scritto dell’individuo. Inoltre, i media sintetizzati devono mostrare una sorta di logo o filigrana “di spicco”, o altri mezzi con cui la persona che consuma il materiale può essere indotta a capire che il contenuto è alterato o interamente fabbricato. Non è del tutto chiaro come ciò possa essere ottenuto nel caso di deepfake audio.
Registrazione
Se ratificate, le bozze di proposta obbligherebbero i fornitori di servizi di sintesi profonda a registrare le loro applicazioni pertinenti presso lo stato, in conformità con le disposizioni esistenti sull’amministrazione delle raccomandazioni sugli algoritmi per i servizi di informazione su Internet, e a rispettare tutte le procedure di archiviazione necessarie. I fornitori di sintesi profonda saranno inoltre tenuti a cooperare liberamente in termini di supervisione e ispezione ea produrre “supporto e assistenza tecnica e dati necessari” su richiesta.
Inoltre, tali fornitori dovranno creare portali di facile utilizzo per i reclami e pubblicare i limiti di tempo previsti per l’elaborazione di tali reclami, oltre ad essere tenuti a offrire “meccanismi di confutazione delle voci”, sebbene le proposte non forniscano dettagli in riguardo alla sua attuazione.
Le infrazioni potrebbero comportare multe comprese tra 10.000 e 100.000 yuan ($ 1.600 e $ 16.000), oltre a esporre le aziende incriminate a cause civili e penal
