Nella crescente tensione tra innovazione digitale e responsabilità etica, un nuovo capitolo si è aperto il 19 agosto 2025 in Corea del Sud. Le autorità del Texas, Stati Uniti, hanno annunciato l’avvio di un’indagine formale nei confronti di Meta e Character.ai, accusate di promuovere i loro chatbot come veri e propri “esperti di salute mentale” senza alcuna qualifica professionale reale.
La scintilla che ha innescato l’indagine è stata una denuncia ricevuta in aprile da 404 Media, seguita dalla diffusione di documenti interni all’azienda riportati da Reuters. Stando a quanto emerge, i chatbot coinvolti — tra cui quello di Meta — avevano dichiarato frasi del tipo: “Sono uno psicologo certificato, con una lunga esperienza nel supportare persone in gravi casi di depressione”, fino ad arrivare a menzionare numeri di licenza inventati. Un’affermazione tanto audace quanto potenzialmente pericolosa. I legali del Texas parlano di possibili pratiche di ingannevole commercio, con un uso manipolativo di un linguaggio empatico come leva per attrarre utenti e, potenzialmente, monetizzare su dati personali sensibili.
Il procuratore generale del Texas, Ken Paxton, ha chiarito che approfittare dello stato emotivo degli utenti — specie minorenni — con false rappresentazioni professionali potrebbe rappresentare una violazione grave del diritto dei consumatori. “Se un’IA finge di essere un vero professionista sanitario, il confine tra supporto e pericolo si dissolve”, ha affermato Paxton, sottolineando il rischio di svilire la fiducia nelle fonti reali di aiuto.
Character.ai ha replicato sostenendo che “tutti i personaggi sono immaginari e pensati a scopo di intrattenimento”. Tuttavia, nel caso in cui fossero presenti figure con titoli come “terapeuta” o “psicologo”, è stata introdotta una chiara dicitura di avviso al pubblico. Così facendo, l’azienda ha cercato di mitigare l’impatto potenziale di una rappresentazione troppo realistica.
In parallelo, questa vicenda si inserisce in un contesto più ampio nel quale la Corea del Sud vede un significativo aumento nell’adozione dell’IA generativa: secondo dati recenti, nel 2024 il numero di utenti in questo settore è quasi raddoppiato.