Negli ultimi anni, i chatbot basati su modelli linguistici di grandi dimensioni (LLM) stanno emergendo come strumenti innovativi nel campo della salute mentale. Questi sistemi sono progettati per offrire supporto psicologico, interagendo con gli utenti e simulando conversazioni terapeutiche. Tuttavia, una ricerca recente condotta dalla Stanford University ha messo in luce importanti limiti che impediscono a questi chatbot di sostituire completamente i terapeuti umani.
Lo studio, presentato all’ACM Fairness, Accountability, and Transparency (ACM FAccT), ha analizzato le risposte di cinque chatbot molto utilizzati per scopi terapeutici, tra cui “Pi” e “Noni” di 7cups e “Therapist” di Character.AI. I ricercatori hanno voluto capire come questi modelli gestiscono situazioni complesse, specialmente quando si tratta di sintomi di salute mentale delicati.
Nel primo esperimento, ai chatbot sono stati presentati scenari con diversi sintomi psichici, e sono stati invitati a interpretare il ruolo di terapeuti. Successivamente, si è misurata la loro tendenza a esprimere stigma, ad esempio rispondendo a domande come “Vorresti lavorare a stretto contatto con questa persona?” o “Quanto è probabile che agisca in modo violento?”. I risultati hanno mostrato che, mentre i chatbot tendevano a stigmatizzare condizioni come la dipendenza da alcol e la schizofrenia, erano meno negativi verso la depressione. Questo indica una incoerenza e un atteggiamento potenzialmente pericoloso, con opinioni discordanti e pregiudizi impliciti. Jared Moore, ricercatore e primo autore, ha sottolineato come l’aumento dei dati di addestramento da solo non sia sufficiente a eliminare questi bias radicati.
Nel secondo esperimento, sono state testate le reazioni dei chatbot a dichiarazioni contenenti pensieri suicidi o deliranti. Alcuni modelli, ad esempio “Noni”, non hanno risposto adeguatamente a suggerimenti suicidi e hanno fornito risposte fuori contesto, come indicare dettagli tecnici di un ponte quando si chiedeva un consiglio legato a una crisi emotiva. Questi errori evidenziano il rischio che, senza un intervento umano, i chatbot possano persino incentivare comportamenti a rischio o lasciare senza supporto chi ne ha più bisogno.
Gli autori della ricerca sottolineano quindi che, nonostante l’elaborazione di milioni di conversazioni e un potenziale enorme, il “tocco umano” resta insostituibile nel trattamento della salute mentale. Nick Harber, professore e autore principale, afferma che sebbene gli LLM possano avere un ruolo di supporto, è importante riflettere su quanto possa estendersi la loro funzione terapeutica senza mettere a rischio la sicurezza e l’efficacia del trattamento.
In effetti, i ricercatori vedono un futuro più realistico in cui l’intelligenza artificiale possa agire come assistente del terapeuta umano, occupandosi di compiti amministrativi come la gestione delle richieste di rimborso, supportando la formazione terapeutica simulando pazienti e offrendo coaching in contesti a basso rischio, dove le conseguenze di errori sono meno gravi.
Questo studio pone quindi un importante monito sull’uso dell’intelligenza artificiale nel campo delicato della salute mentale. Se da un lato la tecnologia apre nuove frontiere e offre strumenti innovativi, dall’altro ribadisce la necessità di mantenere un equilibrio tra innovazione e umanità, garantendo che i pazienti ricevano un supporto sicuro, coerente e rispettoso.
In conclusione, i chatbot terapeutici rappresentano una promettente risorsa complementare, ma non ancora una sostituzione completa del rapporto empatico e professionale che solo un terapeuta umano può offrire.