Tecnologia di Clonazione Vocale: Pronta per le Pubblicità Politiche del 2024 mentre Crescono le Preoccupazioni sulla Disinformazione
Mentre crescono le preoccupazioni sulla disinformazione nell’uso dell’Intelligenza Artificiale nelle elezioni degli Stati Uniti del 2024, le startup di clonazione vocale basate sull’IA stanno entrando nel campo politico senza esitazione.
Un esempio è Instreamatic, con sede a Boca Raton, in Florida, una piattaforma di annunci audio/video basata su IA che ha raccolto 6,1 milioni di dollari in una serie di finanziamenti di Serie A nel 2021. Instreamatic afferma che sta ampliando le sue capacità nell’affascinante mondo della pubblicità politica. La soluzione consente alle campagne dei candidati di generare rapidamente annunci video e audio altamente mirati basati su IA che si adattano agli eventi o alle posizioni in evoluzione.
Generate AI può modificare qualsiasi annuncio politico audio o video Ad esempio, Instreamatic ha condiviso una demo di campagna video in cui un candidato, in questo caso Barack Obama, può modificare qualsiasi annuncio politico audio o video replicando una voce senza dover andare in uno studio per una nuova registrazione.
Instreamatic ha offerto il suo prodotto AI di voce generativa a marchi ed agenzie dall’anno scorso. Ha evidenziato il fatto che, da un unico annuncio completo, le voci fuoristrada alimentate da AI possono automaticamente creare una serie illimitata di versioni dell’annuncio che possono includere la posizione del pubblico, l’orario del giorno, l’app o la piattaforma in cui ricevono l’annuncio o il negozio più vicino.
Tuttavia, l’uso dell’IA nelle campagne elettorali degli Stati Uniti del 2024 è previsto diventare un campo minato di disinformazione ed è già oggetto di preoccupazione. Ad esempio, un recente report di ABC News ha evidenziato gli sforzi della campagna del governatore della Florida Ron DeSantis durante l’estate, che includevano immagini e audio generati da AI di Donald Trump. E VentureBeat ha recentemente intervistato Nathan Lambert, un ricercatore di machine learning all’Allen Institute for AI, che ha dichiarato che, che siano chatbot o deepfake, l’IA generativa renderà le elezioni degli Stati Uniti del 2024 un “gran casino”.
Instreamatic richiede una conferma di autorizzazione all’uso della voce Stas Tushinskiy, CEO e co-fondatore di Instreamatic, sostiene che l’azienda ha implementato misure di sicurezza per assicurarsi che il suo prodotto non venga utilizzato per la disinformazione elettorale.
“Per qualsiasi tipo di campagna, chiunque sia il cliente, deve confermare di avere l’autorizzazione all’uso della voce”, ha detto a VentureBeat. Inoltre, ha dichiarato che l’offerta di pubblicità politica non sarà disponibile per tutti.
“Non puoi semplicemente iscriverti”, ha spiegato. “Ci impegneremo nella creazione della campagna”. Instreamatic, ha affermato, non “vuole essere coinvolta in situazioni non previste per la piattaforma”, aggiungendo che se ci fossero problemi con gli annunci politici, verrebbero “eliminati immediatamente” e, se necessario, verrà rilasciata una dichiarazione sulla sicurezza pubblica.
Automatizzazione di un processo manuale esistente Tushinskiy ha sottolineato che Instreamatic non sta reinventando il mondo della pubblicità politica per aiutare i candidati a essere eletti. Ha descritto l’offerta dell’azienda come l’automatizzazione di un noioso processo manuale già esistente.
“Questo processo coinvolge qualcuno come un candidato o un talento vocale che va in uno studio per passare ore ed ore in studio, poi qualcun altro li carica e qualcun altro controlla gli errori umani”, ha detto. “È un processo lungo ed costoso e noi abbiamo automatizzato tutto questo”, riducendo il processo da sei a otto settimane a pochi minuti.
Inoltre, una campagna pubblicitaria richiede anche un notevole scambio di informazioni tra l’agenzia e il cliente, spiega, in cui le parole possono essere cambiate, richiedendo nuove riprese. Ma la clonazione vocale consente a una compagnia aerea, ad esempio, di menzionare una varietà di destinazioni di viaggio in annunci mirati o ai marchi di auto di citare le località delle concessionarie locali. “Gli annunci contestuali superano sempre gli annunci generici, quindi ha senso in termini di aumento dell’efficacia della spesa pubblicitaria”, ha detto.
Preoccupazioni sull’IA e la disinformazione elettorale Gli esperti sostengono che il panorama della pubblicità politica è pieno di potenziali pericoli generati dall’IA. Ad esempio, attualmente non esistono regole federali per l’uso di contenuti generati da AI, come gli annunci, nelle campagne politiche.
Russell Wald, direttore delle politiche presso l’Istituto per l’IA centrata sull’essere umano dell’Università di Stanford, ha detto ad ABC News Live lo scorso novembre che “Tutte le campagne possono usarlo. Quindi, in questo senso, chi sta stabilendo le regole della strada sono proprio le campagne, man mano che procedono?”
Ma Tushinskiy ha detto che “se fossimo noi a creare la disinformazione, non vorrei essere coinvolto in questo processo aziendale”. Invece, ha sostenuto, “stiamo solo fornendo loro gli strumenti per essere più efficaci”. E nel momento in cui Instreamatic scopre qualcuno che fa qualcosa di non etico, “non solo possiamo fermarlo, ma possiamo anche metterlo in evidenza”.
