Sumsub ha annunciato il lancio della sua prima funzionalità di rilevamento Deepfake, integrata nella sua soluzione di identificazione video. Secondo quanto riportato, questa mossa è stata motivata dal crescente rischio di frodi basate sull’intelligenza artificiale, che stanno diventando sempre più diffuse, non solo tra gli utenti individuali ma anche tra le aziende.
I dati presentati nel rapporto sulle frodi di identità del 2023 di Sumsub indicano un aumento significativo nel numero di deepfake rilevati a livello globale, passando da 2022 a 2023, con una particolare enfasi nei settori delle criptovalute e delle fintech, che insieme rappresentano il 96% dei casi. In particolare, gli incidenti legati ai deepfake nel settore fintech hanno registrato un aumento del 700% nel corso del 2023 rispetto all’anno precedente, evidenziando l’importanza di implementare misure di sicurezza robuste durante i processi di verifica.
Secondo quanto dichiarato, la nuova funzionalità di rilevamento dei deepfake rappresenta un passo significativo nella lotta contro le frodi identitarie basate sull’intelligenza artificiale, soprattutto considerando l’aumento della sofisticazione delle tattiche di frode nel recente periodo. Durante il corso dell’ultimo anno, Sumsub ha condotto oltre un milione di controlli di identità video per conto di aziende, assicurando in modo affidabile l’autenticità degli utenti finali dei propri clienti. In questo contesto, il team di Sumsub ha notato che le interviste video per la verifica sono vulnerabili agli attacchi dei deepfake, e pertanto ha deciso di potenziare la propria soluzione di identificazione video esistente con la funzionalità di rilevamento dei deepfake.
Questo sviluppo segue il lancio della soluzione avanzata di rilevamento dei deepfake di Sumsub, incorporata nel suo prodotto Liveness. A differenza di altre tecniche che si concentrano sul rilevamento dei deepfake all’interno di immagini statiche o video pre-registrati, questa nuova soluzione opera in tempo reale durante le interviste video, fornendo un ulteriore livello di sicurezza al processo di identificazione. Si afferma che questa tecnologia avanzata sia progettata per individuare e contrastare i truffatori che tentano di manipolare le interviste video in tempo reale per scopi fraudolenti.
L’identificazione video è un requisito obbligatorio in diverse giurisdizioni, tra cui Germania, Svizzera, Austria ed Estonia. Tuttavia, viene anche utilizzata come ulteriore misura di sicurezza in molti altri mercati, specialmente quando le aziende desiderano garantire un onboarding sicuro dei propri utenti. Di conseguenza, è considerato fondamentale che le aziende siano in grado di rilevare i deepfake durante questo processo.
Un esempio recente riportato riguarda l’utilizzo di video deepfake per manipolare le vittime, come nel caso di una multinazionale a Hong Kong che ha subito una perdita di 25,6 milioni di dollari (equivalenti a 200 milioni di HK$) a causa di un inganno perpetrato da un dipendente, che è stato truffato da una versione digitalmente manipolata di un dirigente aziendale durante una videoconferenza.
Andrew Novoselsky, Chief Product Officer di Sumsub, ha sottolineato che la tecnologia AI e i suoi rischi non sono una novità, e che la loro soluzione unica nel suo genere, che integra il rilevamento dei deepfake nell’identificazione video in tempo reale, è fondamentale per la sicurezza delle aziende e dei consumatori. Pavel Goldman-Kalaydin, responsabile AI & ML di Sumsub, ha aggiunto che, data la crescente richiesta di interviste video da parte dei clienti, è cruciale migliorare costantemente le capacità di rilevamento dei deepfake per proteggere le aziende e i loro clienti.