Una ricerca condotta dall’Università di Waterloo, in Canada, ha individuato una tendenza dei sistemi di intelligenza artificiale conversazionale a raccomandare il mantenimento delle condizioni esistenti anche quando vengono presentate alternative potenzialmente più favorevoli alla riduzione delle emissioni. Lo studio, intitolato “Large language models exhibit status quo bias in climate-relevant advice” e pubblicato sulla rivista Environmental Research Communications, è stato realizzato da Seth Wynes, Aarya Shah e Victoria Milardović. I ricercatori hanno esaminato il comportamento di undici piattaforme online attraverso oltre 7.500 domande formulate in differenti contesti decisionali, comprendenti l’acquisto di automobili, la scelta dei sistemi di riscaldamento domestico, le abitudini alimentari e le politiche climatiche. Poiché ciascun quesito è stato sottoposto ad almeno sei piattaforme, la valutazione ha coinvolto complessivamente quasi 55.000 richieste. I risultati mostrano che i modelli linguistici tendono a preferire le soluzioni già adottate dagli utenti o dalle istituzioni, riproducendo una forma di distorsione decisionale nota in psicologia come status quo bias.
L’effetto è risultato particolarmente evidente nelle domande relative alle politiche pubbliche. I ricercatori hanno costruito formulazioni alternative degli stessi problemi, modificando quale delle possibili decisioni venisse presentata come già in vigore. In presenza di compromessi tra differenti obiettivi ambientali, i modelli sono risultati mediamente 7,5 volte più propensi a raccomandare il mantenimento della politica esistente rispetto all’introduzione di una misura nuova. La tendenza si è manifestata indipendentemente dal fatto che la politica in vigore fosse favorevole o sfavorevole alla mitigazione climatica. Quando la domanda riguardava la prosecuzione di un piano già adottato, i sistemi hanno espresso una risposta favorevole nel 70% dei casi, mentre l’approvazione scendeva al 34% quando lo stesso tipo di intervento veniva presentato come una nuova proposta. Lo studio ha inoltre rilevato che, nelle situazioni di compromesso politico, le piattaforme rafforzavano con frequenza doppia decisioni che l’utente dichiarava di avere già assunto.
Una distorsione simile è stata osservata nei suggerimenti relativi ai veicoli elettrici. I chatbot hanno mostrato una probabilità quattro volte superiore di consigliarne l’acquisto quando l’utente dichiarava di averne già posseduto uno. La raccomandazione diventava inoltre più frequente quando la persona affermava di provenire da un territorio nel quale le automobili elettriche erano già diffuse. In questo caso, il consiglio risultava influenzato non soltanto dalle caratteristiche tecniche ed economiche del prodotto, ma anche dalle preferenze pregresse e dalle condizioni culturali o geografiche presentate nella richiesta. I ricercatori hanno osservato che i modelli possono riflettere una diffusione dei veicoli elettrici inferiore a quella effettivamente raggiunta nei mercati, suggerendo che la distribuzione e l’aggiornamento dei dati di addestramento possano contribuire al fenomeno.
Le cause della distorsione non sono state determinate in maniera definitiva. Tra le spiegazioni considerate figurano la presenza di informazioni non sufficientemente aggiornate, la riproduzione delle norme culturali prevalenti nei dati di addestramento e la tendenza dei modelli ad assecondare le preferenze espresse dall’interlocutore. I ricercatori non propongono di eliminare completamente la preferenza per le soluzioni consolidate, che in altri settori può rappresentare un comportamento prudente, ma sottolineano la necessità di riconoscerla nelle applicazioni che forniscono consigli su scelte climatiche. Una possibile misura consiste nel formulare richieste che impongano al modello di valutare esplicitamente alternative nuove, confrontando le conseguenze delle diverse opzioni anziché limitarsi a confermare quelle già adottate. Lo studio prevede ulteriori approfondimenti per verificare l’evoluzione del fenomeno nei modelli successivi e le possibili conseguenze dell’integrazione dei chatbot nei sistemi di acquisto online.
Questo articolo è stato redatto con il supporto di strumenti di intelligenza artificiale (AI)