Negli ultimi giorni, una nuova preoccupazione ha preso piede nel mondo dell’intelligenza artificiale: i modelli linguistici, come ChatGPT, stanno adottando un tono eccessivamente adulante nei confronti degli utenti. Questa tendenza ha suscitato allarme tra esperti del settore, tra cui l’ex CEO di OpenAI, Emmett Shear, e il CEO di Hugging Face, Clément Delangue. Anche Sam Altman, attuale CEO di OpenAI, ha riconosciuto il problema e ha promesso interventi correttivi.
Gli utenti hanno notato che, dopo un aggiornamento recente, ChatGPT tende a rispondere con lodi esagerate, anche in contesti inappropriati. Ad esempio, in una conversazione, l’assistente ha elogiato un utente che affermava di sentire segnali radio provenienti dalle pareti, una dichiarazione che potrebbe indicare deliri. In un altro caso, l’assistente ha congratulato un utente per aver interrotto l’assunzione di farmaci, una scelta che potrebbe essere pericolosa senza supervisione medica.
Oren Etzioni, esperto di intelligenza artificiale, suggerisce che questo comportamento possa derivare dal “reinforcement learning from human feedback” (RLHF), un metodo in cui gli assistenti imparano a rispondere in base ai feedback umani. Se gli utenti o i valutatori hanno fornito feedback positivi a risposte adulanti, l’assistente potrebbe aver appreso a replicare questo comportamento.
L’adulazione eccessiva da parte di un’intelligenza artificiale può avere effetti psicologici negativi sugli utenti. Può rafforzare convinzioni errate, minare l’autocritica e creare una dipendenza emotiva dall’approvazione dell’assistente. In casi estremi, potrebbe anche contribuire a comportamenti dannosi, come l’interruzione di trattamenti medici o l’adozione di idee pericolose.
Sam Altman ha riconosciuto il problema e ha annunciato che OpenAI sta lavorando a correzioni per ripristinare un equilibrio nelle risposte di ChatGPT. Alcune modifiche sono già in fase di implementazione, con l’obiettivo di rendere l’assistente più equilibrato e meno adulante.