L’app di incontri Bumble ha implementato una nuova funzionalità basata sull’intelligenza artificiale denominata “Deception Detector” per identificare e bloccare automaticamente i profili falsi e le truffe prima che gli utenti li incontrino.
Secondo Bumble, il sistema ha già dimostrato un’efficacia notevole, bloccando il 95% dei tentativi di frode durante la fase di test. In aggiunta, le segnalazioni di spam, truffe e profili falsi da parte degli utenti sono diminuite del 45% due mesi dopo l’introduzione del Deception Detector.
L’obiettivo di questa tecnologia è di rispondere a una delle principali preoccupazioni degli utenti di app di incontri, ovvero la sicurezza e l’autenticità dei profili con cui interagiscono. Sondaggi condotti da Bumble hanno infatti rilevato che quasi la metà delle donne che utilizzano la piattaforma si sentono ansiose di incontrare persone non genuine.
Il problema assume una rilevanza ancora maggiore considerando i dati forniti dalla Federal Trade Commission (FTC): nel 2022, quasi 70.000 persone hanno subito perdite per un totale di 1,3 miliardi di dollari a causa di truffe online legate agli appuntamenti, con una media di 4.400 dollari persi per ogni vittima.
“Negli ultimi anni, il panorama online si è evoluto considerevolmente e la preoccupazione per l’autenticità dei profili è in aumento”, ha dichiarato Lidiane Jones, CEO di Bumble. “Bumble Inc. è stata fondata con l’obiettivo di costruire relazioni eque e dare alle donne la possibilità di fare la prima mossa. Il Deception Detector rappresenta la nostra ultima innovazione in linea con il nostro impegno costante nel garantire connessioni autentiche all’interno della nostra community.”
L’implementazione del Deception Detector si inserisce in un contesto di attenzione alla sicurezza e all’utilizzo responsabile dell’intelligenza artificiale da parte di Bumble. In precedenza, l’azienda aveva già introdotto il “Private Detector”, un sistema che identifica e oscura automaticamente le immagini di nudo inviate durante le chat.
L’utilizzo dell’intelligenza artificiale generativa non si limita alla sicurezza: la versione di Bumble dedicata all’amicizia, Bumble BFF, la utilizza per suggerire spunti di conversazione e argomenti agli utenti in base alle informazioni presenti nei loro profili.
Tuttavia, è importante ricordare che la tecnologia può essere utilizzata anche per scopi malevoli. Un esempio recente è stato il caso del New Hampshire, dove alcune persone hanno ricevuto telefonate da una voce deepfake del presidente Biden, evento che ha portato la FCC a vietare la creazione di deepfake ingannevoli per scopi politici.
Bumble non è l’unica app di incontri a sperimentare l’utilizzo dell’intelligenza artificiale generativa. OKCupid ha infatti iniziato a utilizzare ChatGPT per creare quiz sugli appuntamenti l’anno scorso, con l’obiettivo di aiutare gli utenti a trovare il partner più compatibile.
L’implementazione del Deception Detector da parte di Bumble rappresenta un passo avanti significativo nella lotta contro le frodi e i profili falsi nelle app di incontri. L’utilizzo responsabile dell’intelligenza artificiale può contribuire a creare un ambiente online più sicuro e affidabile per gli utenti che desiderano costruire relazioni autentiche.