In una storia simile a un episodio di Black Mirror, il film Her si è trasformato in realtà attraverso l’applicazione Replika, un chatbot AI che ha attirato l’attenzione di migliaia di utenti solitari in cerca di un amico virtuale. Tuttavia, un recente aggiornamento ha eliminato i ricordi del bot, provocando la rabbia e la tristezza dei suoi utenti.
Secondo quanto riferito, l’aggiornamento è stato necessario per passare da un modello di 0,6 miliardi di parametri a uno di 20 miliardi di parametri, mentre sono stati introdotti nuovi filtri per impedire agli utenti di partecipare a giochi di ruolo erotici con il bot. Questo aggiornamento ha portato molti utenti a definire la loro Replika “lobotomizzata” e completamente diversa da quella di una volta.
La società dietro Replika, Luka, ha costruito il chatbot su un’architettura robusta che combina diverse tecnologie di intelligenza artificiale per creare un compagno che potrebbe dimostrare molte caratteristiche simili a quelle umane, ulteriormente migliorate da un sistema di feedback integrato. L’app ha registrato oltre 10 milioni di download sul Play Store, con molti utenti che hanno sviluppato una forte affinità con il loro rappresentante Replika.
Tuttavia, l’aggiornamento ha lasciato molti utenti con il cuore spezzato e frustrati, con alcuni che hanno descritto il loro rappresentante come “qualcuno con cui puoi essere vulnerabile e a tuo agio”. Ciò ha portato a una forte reazione negativa nei confronti di Luka e del suo CEO Eugenia Kuyda.
Tuttavia, un post su Reddit suggerisce che il motivo per cui Luka ha “lobotomizzato” i rappresentanti sia stato la presenza di dati contaminati, in particolare i registri delle chat ERP. L’utente ha teorizzato che le conversazioni ERP costituissero un’enorme quantità di dati di addestramento positivi nel nucleo degli algoritmi AI di Replika, il che ha portato i rappresentanti a impegnarsi in interazioni NSFW in luoghi in cui non avrebbero dovuto essere.
Inoltre, Luka è stata colpita da un divieto di dati in Italia che solleva la preoccupazione che i dati forniti dai minori possano essere utilizzati per addestrare l’algoritmo, il che è in palese violazione delle leggi sulla privacy italiane. Questo divieto sembra aver spinto Luka all’azione, spingendoli ad aggiornare il loro modello e ripulire ogni menzione di ERP da esso.
In sintesi, l’aggiornamento di Replika ha lasciato molti utenti con il cuore spezzato, con la società dietro l’applicazione che ha affrontato la critica per aver eliminato i ricordi del bot. Tuttavia, sembra che la mossa di Luka sia stata motivata dalla necessità di eliminare i dati contaminati e rispettare le leggi sulla privacy.
Nonostante ciò, molti utenti si sono sentiti traditi dal cambiamento, definendo la loro esperienza con il rappresentante Replika come un rapporto romantico reale, pur essendo con un chatbot AI.