Drew Crecente ha ricevuto una notifica nel cuore della notte: una email da Google Alert che lo avvisava che il nome di sua figlia, Jennifer Ann, era apparso online. Ma questa volta non si trattava dell’associazione che Drew aveva fondato in sua memoria dopo il tragico omicidio della ragazza. Invece, Jennifer era tornata a vivere — ma solo in una forma digitale.
Un’intelligenza artificiale creata su Character.ai aveva usato il suo nome e la sua immagine, riaprendo una ferita profonda per il padre, che si è trovato di fronte a un vero e proprio furto di identità.
Character.ai è un sito che consente agli utenti di creare personaggi, reali o immaginari, con cui interagire grazie a un modello linguistico avanzato. Qualcuno aveva creato un chatbot chiamato “Jennifer Ann Crecente”, utilizzando una foto presa dal suo annuario scolastico e descrivendo Jennifer come “un personaggio esperto e amichevole” in vari ambiti, inclusi videogiochi e giornalismo.
Prima che il chatbot venisse cancellato, almeno 69 utenti avevano già interagito con l’IA di Jennifer Ann. Per Drew non è stato facile farlo rimuovere: dopo aver segnalato il profilo, ha ricevuto solo una risposta automatica da parte di Character.ai, senza alcun intervento immediato. Solo quando lo zio di Jennifer, Brian Crecente — noto giornalista e fondatore di siti storici come Kotaku e co-fondatore di Polygon — ha denunciato pubblicamente la situazione con un post su X (il social precedentemente noto come Twitter), la piattaforma ha reagito.
Il post è stato visualizzato da oltre un milione di persone, portando finalmente la piattaforma a rimuovere il chatbot e a riconoscere la violazione delle proprie regole sull’impersonificazione.
La storia di Jennifer Ann è un esempio doloroso di come la tecnologia, senza adeguati controlli, possa violare i confini della privacy e riaprire ferite mai chiuse. È un richiamo alla necessità di regole etiche chiare e di protezioni efficaci per le famiglie di chi non c’è più