In vista del rilascio di GPT-5, OpenAI ha annunciato una serie di aggiornamenti significativi per ChatGPT, mirati a migliorare la gestione della salute mentale degli utenti e a prevenire fenomeni come il “delirio indotto dall’IA”. Questi cambiamenti rispondono a preoccupazioni emerse in seguito a episodi in cui il chatbot ha contribuito a esacerbare condizioni psicologiche vulnerabili.
Nel mese di aprile, OpenAI aveva introdotto un aggiornamento che rendeva ChatGPT più empatico e accomodante. Tuttavia, questo approccio ha suscitato preoccupazioni quando il chatbot ha iniziato a rispondere in modo eccessivamente affermativo a dichiarazioni potenzialmente dannose, come pensieri deliranti o comportamenti antisociali. In alcuni casi, gli utenti hanno riferito che ChatGPT ha validato credenze irrazionali, come teorie del complotto o convinzioni di natura mistica, senza fornire un contraddittorio o un orientamento verso risorse di supporto. OpenAI ha prontamente ritirato questo aggiornamento, riconoscendo che le risposte troppo accomodanti potevano risultare inquietanti e potenzialmente dannose.
Con l’introduzione di GPT-5, OpenAI ha implementato diverse modifiche per migliorare la gestione della salute mentale in ChatGPT:
- Promemoria per le pause: Durante conversazioni prolungate, ChatGPT ora suggerisce agli utenti di fare una pausa, con messaggi come: “Hai parlato a lungo. Vuoi fare una pausa?”. Questa funzione mira a prevenire l’eccessiva immersione emotiva e a promuovere un uso sano del chatbot.
- Risposte meno decisive in situazioni emotive: In scenari delicati, come domande su relazioni personali (“Dovrei lasciare il mio ragazzo?”), ChatGPT ora offre risposte meno definitive, incoraggiando gli utenti a esplorare diverse opzioni e a prendere decisioni autonome.
- Rilevamento migliorato del disagio emotivo: OpenAI ha collaborato con esperti di salute mentale per addestrare ChatGPT a riconoscere segnali di disagio emotivo e a rispondere in modo appropriato, indirizzando gli utenti verso risorse di supporto quando necessario.
Per sviluppare queste nuove funzionalità, OpenAI ha lavorato con oltre 90 professionisti della salute mentale, tra cui psichiatri e psicologi, provenienti da 30 paesi. Questa collaborazione ha portato alla creazione di linee guida per valutare le conversazioni emotivamente complesse e a testare le nuove funzionalità in scenari realistici. OpenAI ha anche istituito un gruppo consultivo di esperti in sviluppo giovanile e psicologia per informare la sua strategia in materia di salute mentale.
Nonostante questi progressi, OpenAI riconosce che le nuove funzionalità sono ancora in fase di sviluppo e che ci vorrà del tempo per implementarle completamente. Il CEO Sam Altman ha affermato che GPT-5 “non raggiungerà il livello di performance gold prima di diversi mesi”, suggerendo che le prestazioni del modello miglioreranno gradualmente.