Il noto servizio di streaming musicale europeo, Deezer, ha annunciato i suoi piani per utilizzare l’intelligenza artificiale al fine di individuare e rimuovere cantanti deepfake e brani generati sinteticamente dalla sua piattaforma. Deezer sta cercando di automatizzare il processo di controllo e classificazione dei brani che coinvolgono l’IA generativa, presentando il sistema come un modo per proteggere gli artisti che potrebbero subire una perdita di guadagni e gli ascoltatori che potrebbero non gradire di essere ingannati.
Deezer sta lanciando questo progetto con l’obiettivo di individuare i cloni vocali di persone reali utilizzando il suo strumento Radar, che permette di analizzare rapidamente i cataloghi musicali alla ricerca di distorsioni, cambi di tempo e altri segnali indicativi dell’utilizzo di assistenza da parte dell’IA. Ogni brano che verrà individuato sarà etichettato di conseguenza. Tuttavia, gli esseri umani svolgeranno un ruolo di controllo per assicurarsi che l’IA non stia etichettando una canzone solamente in base a un’eccessiva correzione automatica. La visione a lungo termine della piattaforma di streaming include l’implementazione di un nuovo sistema di pagamento per gli artisti, che tenga conto della tecnologia utilizzata per produrre la musica.
Il piano di Deezer segue la corsa dei musicisti e delle etichette discografiche nell’esplorare, condannare o adottare una posizione nei confronti di questa tecnologia. Ad esempio, Universal Music ha citato violazioni del copyright quando ha convinto i servizi di streaming a rimuovere una canzone deepfake di Drake e The Weeknd chiamata “Heart On My Sleeve” ad aprile, dopo che il video aveva ricevuto oltre 10 milioni di visualizzazioni su TikTok. Il produttore musicale e artista Timbaland ha condiviso un’anteprima di una canzone con una voce deepfake del defunto Notorious BIG, ma ha poi deciso di interrompere il lavoro su di essa a seguito delle reazioni dei fan del rapper.
Altri artisti stanno testando pubblicamente il deepfake, come ad esempio il DJ e produttore musicale francese David Guetta, che ha creato e suonato una canzone di Eminem scritta ed eseguita da un’intelligenza artificiale durante alcuni dei suoi recenti spettacoli, chiamandola “Emin-AI-em”. Nel frattempo, l’artista musicale Grimes è arrivata al punto di offrire il 50% dei diritti d’autore su qualsiasi canzone generata dall’IA che utilizza la sua voce. Holly Herndon offre apertamente una versione sintetica gratuita della sua voce chiamata Holly+ per fare musica, mentre il gruppo musicale YACHT ha addestrato un modello di intelligenza artificiale per scrivere un intero album chiamato “Chain Tripping”.
L’individuazione di deepfake può essere difficile quando le persone cercano di nascondere l’utilizzo dell’IA generativa. La clonazione vocale può rendere i deepfake audio così realistici da ingannare alcuni test biometrici e le orecchie inesperte del pubblico durante concerti. Gli artisti che desiderano garantire l’autenticità delle loro tracce stanno collaborando con aziende come Resemble AI per implementare una filigrana audio che contrassegni il parlato generato dall’IA senza compromettere la qualità del suono. Resemble AI ha sviluppato un metodo per stratificare un suono completamente impercettibile per gli esseri umani sotto la voce di una persona che parla o canta, codificato con informazioni che possono essere decifrate da un computer per confermarne l’origine e l’autenticità.
“L’intelligenza artificiale può essere utilizzata per creare nuovi contenuti incredibili e credo che ci siano enormi vantaggi nell’utilizzare l’IA generativa, ma dobbiamo assicurarci che venga utilizzata in modo responsabile”, ha affermato Folgueir. “Adesso abbiamo l’opportunità di risolvere queste questioni fin dall’inizio della rivoluzione dell’IA, senza ripetere gli stessi errori commessi dai colossi dei social media quando le notizie false hanno iniziato a invadere le loro piattaforme. Lo dobbiamo agli artisti e ai fan”.