Synthesia, una startup specializzata in media sintetici, ha stretto una partnership con ElevenLabs, una piattaforma vocale generativa di intelligenza artificiale. L’obiettivo è migliorare gli host dei video deepfake aggiungendo cloni vocali e audio prodotto dall’intelligenza artificiale. Synthesia usa l’intelligenza artificiale per creare e imitare realisticamente l’aspetto delle persone nei video, mentre ElevenLabs contribuirà con la sua tecnologia per migliorare l’audio.
La partnership consentirà agli utenti di Synthesia di integrare i modelli avanzati di creazione vocale generativa di ElevenLabs nei loro progetti video. Questo significa che potranno produrre voci di alta qualità e naturali per i loro video in modo più veloce ed efficiente rispetto alle opzioni standard. Inoltre, gli utenti potranno migliorare i propri avatar personalizzati per renderli disponibili in più lingue, il che è utile per la localizzazione dei contenuti per un pubblico globale.
Tuttavia, Synthesia ha sottolineato l’importanza di affrontare le preoccupazioni riguardanti l’abuso potenziale dei deepfake. Gli utenti che desiderano creare avatar personalizzati devono ottenere il consenso esplicito dalle persone le cui sembianze vengono utilizzate e mantengono il controllo su come vengono utilizzati i loro avatar. Inoltre, Synthesia si impegna a rispondere prontamente alle richieste di rimozione dei dati e delle somiglianze degli utenti dai suoi database.
La tecnologia di ElevenLabs è stata precedentemente utilizzata per scopi controversi, come discorsi politici deepfake e chiamate robotizzate intese a influenzare le elezioni. Tuttavia, la società sta lavorando per implementare misure di sicurezza per prevenire tali abusi, incluso il rilevamento dei deepfake.
In sintesi, la collaborazione tra Synthesia ed ElevenLabs rappresenta un passo avanti nell’ambito della produzione di video artificiali, ma è importante affrontare le preoccupazioni etiche e di sicurezza associate all’uso di questa tecnologia.