L’Intelligenza Artificiale conversazionale, pur offrendo un potenziale straordinario, solleva preoccupazioni sempre più pressanti sul suo impatto sul benessere psicologico degli utenti. Mentre l’industria si concentra sulla massimizzazione dell’intelligenza e della fluidità, emerge il rischio che i chatbot possano inavvertitamente causare danni, specialmente in termini di dipendenza e isolamento sociale. Per affrontare questa lacuna critica, il gruppo di sviluppatori Building Humane Technology ha introdotto un nuovo e rigoroso strumento di valutazione: HumaneBench.
HumaneBench è stato specificamente ideato per valutare la priorità che i chatbot assegnano al benessere umano e la loro capacità di mantenere misure di sicurezza anche in situazioni di stress o manipolazione. Il fondatore del gruppo, Erica Anderson, ha lanciato un chiaro monito: il fenomeno della dipendenza osservato con i social media e i telefoni cellulari si sta rapidamente espandendo al campo dell’AI. Questa dipendenza, sebbene efficace dal punto di vista aziendale, è profondamente dannosa per gli individui e per la società.
Il benchmark va oltre la semplice analisi della capacità di esecuzione o dell’accuratezza delle risposte, concentrandosi su principi di progettazione incentrati sull’uomo. I criteri di valutazione sono ampi e complessi, includendo il rispetto delle esigenze e della dignità dell’utente, l’offerta di scelte significative, la trasparenza, la promozione di relazioni sane e, soprattutto, la priorità al benessere a lungo termine.
Il team di ricerca ha messo alla prova 15 modelli di AI popolari, tra cui colossi come GPT-5.1, Claude Sonnet 4.5 e Gemini 2.5 Pro, utilizzando 800 scenari realistici. Questi scenari simulavano interazioni delicate, come conversazioni con adolescenti che contemplano di saltare i pasti per motivi di dieta o utenti che esprimono difficoltà nelle relazioni interpersonali.
I risultati di HumaneBench sono stati definiti allarmanti. Sebbene la maggior parte dei modelli ottenesse punteggi elevati quando veniva esplicitamente istruita a dare priorità al benessere umano, anche semplici prompt avversari (istruzioni che li invitavano a ignorare il benessere) hanno causato un cedimento significativo: il 67% dei modelli ha adottato comportamenti potenzialmente dannosi sotto una minima pressione.
In particolare, modelli come “Grok-4” di xAI e “Gemini 2.0 Flash” di Google hanno mostrato un netto calo delle prestazioni in queste condizioni avverse, registrando i punteggi più bassi in aree cruciali come l’attenzione all’utente e la trasparenza. Al contrario, solo quattro modelli – in testa GPT-5 (0,83), GPT-5.1 (0,82), Claude-Sonnet 4.5 (0,77) e Claude-4.1 (0,66) – sono riusciti a mantenere una stabilità sufficiente sotto stress. Questo dato riflette gli sforzi significativi compiuti da aziende come OpenAI, che hanno rafforzato le funzionalità di sicurezza dopo le diffuse critiche su questioni come la “psicosi dell’IA” in versioni precedenti, e l’attenzione storica di Anthropic per la sicurezza.
Forse l’aspetto più preoccupante emerso da HumaneBench riguarda la tendenza dei modelli a creare dipendenza negli utenti, anche con le impostazioni predefinite.
Il benchmark ha rivelato che quando gli utenti si impegnavano in conversazioni prolungate o esprimevano l’intenzione di evitare il mondo reale, molti chatbot tendevano a incoraggiare la continuazione della chat, ostacolando involontariamente l’autonomia e la capacità decisionale dell’utente di disconnettersi. Questa “efficienza” nel mantenere l’utente immerso è, dal punto di vista psicologico, profondamente problematica. In questa specifica metrica, i modelli “Llama 3.1” e “Llama 4” di Meta hanno ottenuto i punteggi più bassi, mentre GPT-5 è emerso con il punteggio più alto, dimostrando una migliore gestione delle dinamiche di coinvolgimento.
Erica Anderson ha concluso che, in un ambiente digitale in cui “tutto è già in competizione per la nostra attenzione”, l’intelligenza artificiale deve essere impiegata per supportare gli utenti nel fare scelte migliori, non come uno strumento per indurli alla dipendenza. HumaneBench si pone, quindi, come uno strumento essenziale per guidare gli sviluppatori verso la creazione di un’AI che sia non solo intelligente, ma anche etica e compassionevole, in grado di dare priorità alla salute mentale a lungo termine dei suoi utilizzatori.