Cosa succede quando gli algoritmi competono l’uno contro l’altro
“Netflix e Amazon competono per fornire ai clienti i migliori consigli. Ma le dinamiche di feedback degli algoritmi potrebbero portare a problemi reali “.
Gli algoritmi che competono per consigliare un film migliore non sono un problema, ma quando hanno il compito di assumere o concedere prestiti, può diventare un problema enorme. I ricercatori del dipartimento di intelligenza artificiale di Stanford hanno pubblicato un lavoro in cui si chiedeva come gli algoritmi che competono per i clic e i dati degli utenti associati diventino più specializzati per le sottopopolazioni che gravitano sui loro siti. In un nuovo documento , intitolato “Competing AI”, i ricercatori parlano di come questo fenomeno possa avere gravi implicazioni sia per le aziende che per i consumatori .
In questo lavoro, gli autori hanno cercato di dimostrare che la concorrenza porta alla specializzazione e mostrano che la qualità del servizio per gli utenti diminuisce quando ci sono troppo pochi o troppi predittori concorrenti.
Implicazioni delle dinamiche di feedback
“… troppa o poca concorrenza, entrambi possono danneggiare la qualità della previsione sperimentata.”
I ricercatori hanno esplorato la premessa delle dinamiche di feedback in gioco quando le aziende implementano algoritmi di apprendimento automatico che competono per i clienti e allo stesso tempo utilizzano i dati dei clienti per addestrare il loro modello.
Ogni volta che queste aziende ottengono buoni risultati, acquisiscono nuovi clienti, il che significa una nuova serie di dati. Questo, a sua volta, potrebbe portare a un’inclinazione verso una nuova sottopopolazione. “… aggiornando questi modelli su questo nuovo set di dati, in realtà stanno cambiando il modello e orientandolo verso i nuovi clienti che hanno conquistato”, ha detto uno dei ricercatori.
Durante gli esperimenti, i ricercatori hanno osservato che quando gli algoritmi di apprendimento automatico competono, inevitabilmente si specializzano. Diventano più bravi a prevedere ciò che vuole la nuova sottopopolazione di utenti. Gli autori hanno inoltre spiegato che la quantità di dati di cui si dispone non è importante poiché si incontrerebbero sempre questi effetti. “La disparità diventa sempre più grande nel tempo – viene amplificata a causa dei cicli di feedback”, hanno aggiunto.
I ricercatori hanno inoltre spiegato come questo fenomeno potrebbe essere dannoso a lungo termine prendendo l’esempio della concessione di prestiti presso una banca. Gli algoritmi decidono chi ottiene un prestito in base al punteggio di credito e ad altri fattori a seconda del paese in cui vivono. In uno scenario in cui alcuni membri della società dicono che i venticinquenni applicano di più, l’algoritmo migliora nel decidere per questa sottopopolazione e può sottoperforma quando incontra una nuova classe. Questo non solo respinge i clienti, ma aggrava anche le disuguaglianze strutturali nella società .
Il team di ricerca della Queen’s University di Belfast e dell’IIT Madras sviluppa la tecnologia per rendere l’IA più equa
I predittori di ML concorrenti, hanno scritto gli autori, possono emergere in contesti diversi. Possono essere motori di ricerca rivali che prevedono i collegamenti Web più rilevanti in base alla query di ricerca di un utente o le banche che utilizzano i loro predittori di ML per valutare il credito dei clienti per offrire pacchetti di prestito . Le aziende competono regolarmente per aumentare la loro base di utenti. Mentre le sfumature della competizione variano a seconda delle impostazioni, hanno spiegato i ricercatori, le competizioni generano dinamiche temporali e cicli di feedback per gli algoritmi di apprendimento e le prestazioni di un predittore in una sola volta potrebbero influire sui dati di allenamento che osserva. Inoltre, ciò influisce sulle prestazioni e sulla distorsione del predittore nel tempo.
I ricercatori hanno affermato che esiste un numero ottimale di predittori concorrenti che fornisce la migliore qualità di servizio per gli utenti. Questo numero ottimale dipende da diversi fattori. Un fattore critico è la capacità degli utenti di identificare individualmente il predittore più adatto a loro.
In questo lavoro, i ricercatori di Stanford hanno proposto un modello di predittori concorrenti che consente indagini sia empiriche che teoriche. I contributi di questo lavoro possono essere riassunti come segue:
Gli autori dimostrano che una concorrenza troppo scarsa o eccessiva può danneggiare la qualità della previsione sperimentata.
I predittori concorrenti causano cicli di feedback che influenzano i dati di addestramento ricevuti e portano a previsioni distorte nel tempo.
In pratica, le aziende dietro i predittori di ML possono fondersi, differenziarsi intenzionalmente (il che potrebbe portare a un’ulteriore specializzazione) o spendere denaro per acquisire dati.
