Il mio computer l’ha detto meglio?
La ricerca rileva che la fiducia nei consigli algoritmici può renderci ciechi di fronte agli errori
Con la correzione automatica e le risposte e-mail generate automaticamente, gli algoritmi offrono molta assistenza per aiutare le persone a esprimersi.
Ma una nuova ricerca dell’Università della Georgia mostra che le persone che si affidano ad algoritmi per l’assistenza con compiti creativi legati alla lingua non hanno migliorato le loro prestazioni ed erano più propensi a fidarsi di consigli di bassa qualità.
Aaron Schecter, assistente professore in sistemi informativi gestionali presso il Terry College of Business, ha pubblicato questo mese su Scientific Reports il suo studio ” Preferenze umane verso il consiglio algoritmico in un compito di associazione di parole ” . I suoi coautori sono Nina Lauharatanahirun , assistente professore di salute biocomportamentale presso la Pennsylvania State University, e il recente dottorato di ricerca del Terry College. Eric Bogert , laureato e attuale professore assistente della Northeastern University .
Il documento è il secondo dell’indagine del team sulla fiducia individuale nei consigli generati dagli algoritmi. In un documento dell’aprile 2021 , il team ha scoperto che le persone facevano più affidamento sui consigli algoritmici nel conteggio delle attività che sui consigli presumibilmente forniti da altri partecipanti.
Questo studio mirava a verificare se le persone si sono soffermate al consiglio di un computer quando affrontano compiti più creativi e dipendenti dalla lingua. Il team ha scoperto che i partecipanti avevano il 92,3% di probabilità in più di utilizzare i consigli attribuiti a un algoritmo rispetto a quelli attribuiti alle persone.
“Questo compito non richiedeva lo stesso tipo di pensiero (come il compito di conteggio nello studio precedente), ma in realtà abbiamo visto gli stessi pregiudizi”, ha detto Schecter. “Avrebbero comunque usato la risposta dell’algoritmo e si sarebbero sentiti bene, anche se non li ha aiutati a fare di meglio”.
Utilizzo di un algoritmo durante l’associazione di parole
Per vedere se le persone si sarebbero affidate maggiormente ai consigli generati dal computer per compiti legati alla lingua, Schecter e i suoi coautori hanno fornito a 154 partecipanti online porzioni del Remote Associates Test, un test di associazione di parole utilizzato per sei decenni per valutare la creatività di un partecipante.
“Non è pura creatività, ma l’associazione di parole è un tipo di compito fondamentalmente diverso rispetto alla realizzazione di una proiezione di stock o al conteggio di oggetti in una foto perché coinvolge la linguistica e la capacità di associare idee diverse”, ha affermato. “Pensiamo a questo come più soggettivo, anche se c’è una risposta giusta alle domande”.
Durante il test, ai partecipanti è stato chiesto di inventare una parola che legasse insieme tre parole di esempio. Se, ad esempio, le parole fossero base, room e bowling, la risposta sarebbe palla.
I partecipanti hanno scelto una parola per rispondere alla domanda e gli è stato offerto un suggerimento attribuito a un algoritmo o un suggerimento attribuito a una persona e autorizzato a modificare le proprie risposte. La preferenza per il consiglio derivato dall’algoritmo era forte nonostante la difficoltà della domanda, il modo in cui il consiglio era formulato o la qualità del consiglio.
I partecipanti che hanno seguito il consiglio dell’algoritmo erano anche due volte più sicuri delle loro risposte rispetto alle persone che hanno utilizzato il consiglio della persona. Nonostante la loro fiducia nelle loro risposte, avevano il 13% di probabilità in meno di scegliere le risposte corrette rispetto a coloro che utilizzavano i consigli basati sull’uomo.
“Non dirò che il consiglio stava peggiorando le persone, ma il fatto che non abbiano fatto di meglio e si siano comunque sentiti meglio riguardo alle loro risposte illustra il problema”, ha detto. “La loro fiducia è aumentata, quindi è probabile che utilizzino consigli algoritmici e si sentano bene, ma non avranno necessariamente ragione.
Dovresti accettare la correzione automatica quando scrivi un’email?
“Se ho una funzione di completamento automatico o correzione automatica sulla mia e-mail in cui credo, potrei non pensare se mi sta migliorando. Lo userò solo perché mi sento sicuro di farlo”.
Schechter e colleghi chiamano questa tendenza ad accettare i consigli generati dal computer senza tenere d’occhio la sua qualità come bias di automazione. Capire come e perché i decisori umani si affidano al software di apprendimento automatico per risolvere i problemi è una parte importante della comprensione di cosa potrebbe andare storto nei luoghi di lavoro moderni e di come porvi rimedio.
“Spesso quando parliamo di se possiamo consentire agli algoritmi di prendere decisioni, avere una persona nel circuito è data come soluzione per prevenire errori o risultati negativi”, ha detto Schecter. “Ma questa non può essere la soluzione se le persone hanno maggiori probabilità di non fare riferimento a ciò che consiglia l’algoritmo”.
TITOLO DELL’ARTICOLO
Preferenze umane verso il consiglio algoritmico in un compito di associazione di parole
