La startup Resemble AI, specializzata nella clonazione vocale e nell’intelligenza artificiale generativa, ha recentemente lanciato un innovativo strumento chiamato Deepfake Detection Dashboard. Questo sistema, denominato Detect da Resemble, è progettato per distinguere tra l’audio autentico e quello generato dall’intelligenza artificiale. Utilizzando un modello di deep learning sviluppato internamente, Resemble Detect è in grado di analizzare file audio e assegnare loro un punteggio di probabilità che indichi un’origine sintetica.
In pratica, Resemble Detect agisce come un sofisticato “orecchio” artificiale, rilevando anche le più sottili tracce sonore legate a qualsiasi manipolazione audio. Indipendentemente dalle modifiche apportate al suono, questi indizi rimangono riconoscibili, permettendo a Resemble Detect di valutare la probabilità che un determinato audio sia un deepfake. La Deepfake Detection Dashboard si aggiunge alla crescente gamma di prodotti offerti da Resemble, promuovendo l’uso responsabile ed etico dell’intelligenza artificiale generativa. Attualmente, è disponibile insieme ad altre soluzioni, come la clonazione vocale e la sintesi vocale, principalmente orientate verso il mercato aziendale.
La missione di Resemble AI è fornire ai clienti aziendali una soluzione di rilevamento di audio deepfake basata sulla voce. L’azienda ha messo in evidenza le caratteristiche chiave della dashboard, tra cui la scalabilità, l’accuratezza, l’affidabilità e la capacità di isolamento vocale. Questo non rappresenta il primo tentativo da parte di Resemble AI nel campo del rilevamento di deepfake, dal momento che l’azienda è stata fondata nel 2019. Resemble Detect amplia le funzionalità precedentemente introdotte con il watermark audio chiamato PerTh Watermarker. Questo strumento consente a Resemble AI di etichettare qualsiasi audio generato dal suo software senza compromettere la qualità del suono. Il watermark è essenzialmente un suono molto discreto che sfugge all’attenzione delle persone, ma contiene informazioni che un computer può decodificare, identificando non solo l’audio come sintetico, ma ricollegandolo anche al suo set di dati originale.
Zohaib Ahmed, CEO di Resemble AI, ha dichiarato: “Fin dall’inizio, Resemble AI ha sempre dato priorità alla sicurezza e all’etica nella creazione di intelligenza artificiale generativa. Quest’anno, abbiamo introdotto diverse misure di sicurezza, tra cui il nostro PerTh Watermarker e Resemble Detect. Questa nuova dashboard per il rilevamento dei deepfake in tempo reale è un ulteriore strumento con cui possiamo supportare i nostri clienti nel combattere le frodi basate sull’intelligenza artificiale e garantire l’autenticità.”
Resemble ha iniziato a testare il suo strumento di rilevamento dei deepfake a luglio, ottenendo un’accuratezza dell’87% quando non aveva mai incontrato la voce o la traccia, e fino al 98% nell’identificazione in tempo reale dell’audio deepfake. Questo rilascio avviene in un momento in cui crescono le preoccupazioni riguardo all’abuso delle tecnologie di deepfake e di sintesi dell’intelligenza artificiale per diffondere disinformazione o commettere frodi. Resemble AI, focalizzandosi sullo sviluppo di applicazioni basate sull’intelligenza artificiale vocale generativa, ha introdotto anche altri strumenti per mitigare i rischi associati alle voci artificiali, tra cui la filigrana vocale neurale.
I modelli di intelligenza artificiale generativa proprietari di Resemble AI possono addestrare un clone vocale con soli pochi minuti di registrazione vocale di una persona, consentendo loro di parlare in diverse lingue. L’azienda ha già ottenuto successo nell’industria dell’intrattenimento, come nel documentario di Netflix “The Andy Warhol Diaries”. Tuttavia, c’è una crescente richiesta di strumenti in grado di individuare la presenza di contenuti sintetici, e Resemble AI sembra essere in prima linea in questo sforzo.