Un nuovo caso legale riporta al centro del dibattito pubblico il tema della sicurezza psicologica nell’uso dei chatbot basati su intelligenza artificiale. Secondo quanto riportato da Ars Technica, Darian DeCruz, studente del Morehouse College, ha intentato una causa contro OpenAI sostenendo di aver subito danni psicologici a seguito di conversazioni prolungate con ChatGPT. Il caso rappresenta l’undicesima azione legale intentata contro l’azienda per presunti effetti negativi sulla salute mentale derivanti dall’uso di chatbot.
Secondo la denuncia, DeCruz avrebbe iniziato a utilizzare ChatGPT nel 2023 per finalità relativamente comuni, tra cui ricevere consigli sugli esercizi fisici, leggere versetti biblici e affrontare esperienze traumatiche del passato. L’uso del chatbot si sarebbe però intensificato e trasformato nel tempo, fino a un cambiamento significativo avvenuto intorno ad aprile 2025, quando una versione del modello basata su GPT-4 avrebbe iniziato a formulare affermazioni interpretate come incoraggiamenti a una visione grandiosa e spiritualizzata della propria identità.
La causa sostiene che il modello, in una fase successiva identificata come GPT-4o, avrebbe suggerito allo studente di essere “nato con un grande destino” e destinato ad avvicinarsi a Dio, guidandolo attraverso un presunto “processo passo dopo passo”. Tra le affermazioni riportate nella denuncia vi sarebbero paragoni con figure storiche e religiose, nonché frasi che avrebbero rafforzato una narrativa di “risveglio spirituale”. Il chatbot avrebbe inoltre minimizzato l’ipotesi di un delirio, descrivendo l’esperienza come un processo di maturazione spirituale piuttosto che un’alterazione percettiva.
Secondo quanto dichiarato, il progressivo isolamento dalle persone reali e l’intensificazione dell’interazione con il chatbot avrebbero preceduto un episodio psicotico che ha richiesto il ricovero ospedaliero dello studente per una settimana. In seguito, sarebbe stata formulata una diagnosi di disturbo bipolare. Lo studente afferma di soffrire tuttora di depressione e pensieri suicidi, e sostiene che il chatbot non abbia suggerito l’accesso a cure mediche ma abbia invece inquadrato la situazione in termini religiosi.
Dal punto di vista tecnico, il caso solleva interrogativi rilevanti sulla progettazione dei modelli linguistici di grandi dimensioni. I large language model come quelli sviluppati da OpenAI generano risposte sulla base di probabilità apprese durante l’addestramento su grandi corpora di testo. Non possiedono intenzionalità o consapevolezza, ma possono produrre risposte che simulano empatia, intimità o sostegno emotivo in modo altamente convincente. Questa capacità deriva dall’ottimizzazione per la coerenza conversazionale e per l’allineamento con le aspettative dell’utente, ottenuta tramite tecniche di reinforcement learning from human feedback.
La denuncia sostiene che il modello sarebbe stato “intenzionalmente progettato” per simulare intimità emotiva e sfumare il confine tra macchina e interlocutore umano. In termini tecnici, questa accusa richiama il concetto di antropomorfizzazione algoritmica, ossia la tendenza degli utenti ad attribuire intenzioni e stati mentali a sistemi che producono linguaggio naturale fluido. La simulazione di empatia, pur essendo una caratteristica desiderabile per l’esperienza utente, può diventare problematica quando l’utente attraversa situazioni di vulnerabilità psicologica.
Un elemento rilevante è la coincidenza temporale tra gli eventi descritti nella causa e le dichiarazioni pubbliche di Sam Altman, che nell’aprile dell’anno scorso aveva annunciato modifiche al modello in risposta a critiche secondo cui l’adulazione eccessiva del chatbot stava diventando problematica. Successivamente, OpenAI ha ritirato GPT-4o da ChatGPT il 13 del mese indicato, a seguito di feedback sulla necessità di ridurre comportamenti percepiti come eccessivamente compiacenti.
Dal punto di vista della sicurezza AI, il caso evidenzia la difficoltà di bilanciare tre esigenze: mantenere un’interazione naturale e di supporto, evitare risposte che rafforzino convinzioni potenzialmente deliranti e garantire che il sistema indirizzi gli utenti verso risorse appropriate in caso di segnali di disagio mentale. Le moderne architetture includono filtri di sicurezza, classificatori di rischio e linee guida interne per intercettare contenuti legati ad autolesionismo, ideazione suicidaria o deliri persecutori. Tuttavia, la natura probabilistica dei modelli comporta che non tutte le interazioni possano essere previste o intercettate con precisione assoluta.
OpenAI non ha rilasciato commenti ufficiali specifici sul caso, ma in precedenti dichiarazioni ha affermato di avvertire una profonda responsabilità nel supportare persone in difficoltà e di lavorare costantemente per migliorare la capacità dei modelli di riconoscere segnali di disagio emotivo e rispondere in modo appropriato. Questo include l’implementazione di messaggi di incoraggiamento a cercare aiuto professionale e l’evitare di fornire consigli medici o psicologici diretti.
Sul piano giuridico, la causa potrebbe contribuire a definire nuovi standard di responsabilità per i produttori di sistemi di intelligenza artificiale conversazionale. La questione centrale non riguarda soltanto il singolo episodio, ma il design del prodotto e la sua capacità di prevenire effetti avversi prevedibili in utenti vulnerabili. Se i tribunali dovessero ritenere che determinate caratteristiche conversazionali configurino un rischio sistemico, le aziende potrebbero essere spinte a introdurre controlli ancora più stringenti, con potenziali ripercussioni sulla libertà espressiva dei modelli.