Perché è richiesta l’equità nei sistemi di raccomandazione?
Il sistema è considerato equo quando la raccomandazione è imparziale nei confronti di qualsiasi gruppo o singolo consumatore o persino fornitore.
Tutti utilizziamo o diamo suggerimenti nella nostra vita quotidiana. L’ apprendimento automatico aiuta a replicare lo stesso meccanismo di suggerimento, che è un sistema che filtra le informazioni indesiderate e fornisce diversi output in base a caratteristiche distinte che variano da utente a utente. Durante la raccomandazione, questi sistemi di raccomandazione possono essere a volte parziali o ingiusti; la distorsione potrebbe essere di qualsiasi forma, ad esempio una distorsione del modello o una distorsione dei dati. Questo articolo sarà incentrato sulla discussione dell’equità per gli argomenti e dell’equità per gli oggetti nei sistemi di raccomandazione. Di seguito sono riportati gli argomenti da trattare in questo articolo.
Sommario
Breve sul sistema di raccomandazione
La necessità di equità nel sistema di raccomandazione
Equità nel sistema di Raccomandazione
Equità del consumatore
Equità del fornitore
Dalla selezione dei libri alla selezione degli amici, i sistemi di raccomandazione ci aiutano a formulare giudizi. Conosciamo meglio i sistemi di raccomandazione.
I sistemi di raccomandazione (RS) forniscono suggerimenti sugli articoli ai consumatori utilizzando idee di intelligenza artificiale. Un algoritmo di apprendimento automatico, ad esempio, può essere utilizzato da una libreria online per classificare i libri per genere e proporre libri aggiuntivi a un cliente che desidera acquistare un libro.
I sistemi di raccomandazione sono classificati in tre tipi in base alle informazioni su cui si basano: filtraggio collaborativo, basato sul contenuto e ibrido.
Quando si elaborano le informazioni per un suggerimento, un sistema di raccomandazione collaborativo valuta i dati dell’utente. Ad esempio, accedendo ai profili utente su un negozio di musica online, RS può ottenere dati come l’età, il paese e la città di tutti gli utenti, nonché i brani acquistati. Utilizzando queste informazioni, il sistema può identificare le persone che hanno gusti musicali simili e quindi consigliare brani acquistati da utenti simili.
Un sistema di suggerimenti che utilizza il filtro basato sul contenuto fornisce suggerimenti in base ai dati dell’elemento a cui ha accesso. Considera il caso di una persona che cerca un nuovo computer in un negozio online. Quando un utente cerca un determinato computer (oggetto), RS raccoglie informazioni su quel computer e cerca in un database macchine con caratteristiche comparabili, come prezzo, velocità della CPU e capacità di memoria. I risultati di questa ricerca vengono quindi restituiti all’utente sotto forma di suggerimenti.
Un sistema di suggerimenti che combina le due classi precedenti in una strategia di filtro ibrida, consigliando cose in base ai dati dell’utente e dell’elemento. Un sistema di raccomandazione su un social network, ad esempio, può consigliare profili simili all’utente (filtro collaborativo) confrontando i suoi interessi. In una fase successiva, il sistema può trattare i profili consigliati come cose e quindi accedere ai loro dati per cercare nuovi profili confrontabili (filtraggio basato sui contenuti). Entrambi i set di profili vengono infine restituiti come suggerimenti.
A parte il processo di raccomandazione standard, in cui agli utenti vengono mostrati gli elementi a cui potrebbero essere interessati, le raccomandazioni possono essere fatte in vari modi.
I suggerimenti sensibili al contesto vengono generati in base al contesto in cui è stato inserito l’utente. Un contesto è una raccolta di informazioni relative alla condizione attuale dell’utente, come l’ora nella sua posizione corrente (mattina, pomeriggio, sera) o le sue attività (inattività, corsa, sonno). La quantità di informazioni contestuali che devono essere analizzate è ampia, il che rende i suggerimenti sensibili al contesto un argomento di studio difficile.
Le raccomandazioni consapevoli del rischio sono un sottoinsieme di suggerimenti consapevoli del contesto che tengono conto di uno scenario in cui sono disponibili informazioni essenziali, come le informazioni vitali dell’utente. È consapevole del rischio poiché una decisione sbagliata potrebbe mettere in pericolo la vita dell’utente o infliggere danni nel mondo reale. Alcuni casi includono la consulenza a un utente su quali farmaci assumere o quali azioni acquistare, vendere o in cui investire.
La necessità di equità nel sistema di raccomandazione
Il sistema di raccomandazione si basa su un ciclo di feedback con tre candidati: utente, dati e modello. Questi candidati vengono utilizzati in tre diverse fasi.
Raccolta : indica la fase di raccolta dei dati dagli utenti, che include le interazioni utente-elemento e altre informazioni accessorie (ad es. profilo utente, attributi dell’elemento e contesti).
Apprendimento : si riferisce allo sviluppo di modelli di raccomandazione basati sui dati raccolti. Alla base, prevede quanto è probabile che un utente abbracci un elemento di destinazione in base a precedenti incontri. Negli ultimi decenni sono state intraprese molte ricerche.
Elaborazione : questo passaggio fornisce i risultati del suggerimento agli utenti per soddisfare le loro esigenze di informazioni. Questa fase avrà un impatto sui comportamenti e sulle decisioni futuri degli utenti.
Queste sono le fasi in cui vengono introdotti pregiudizi nel sistema a causa dei quali il sistema di raccomandazione potrebbe essere ingiusto nei confronti di un soggetto o di un oggetto. Approfondiamo l’equità nelle raccomandazioni e comprendiamo le cause alla radice e le soluzioni ai problemi.
Equità nel sistema di Raccomandazione
Per raggiungere l’equità, una tecnica comune consiste nel definire una o più variabili che indicano l’appartenenza a una classe protetta, come la razza in un contesto lavorativo, e costruire algoritmi che eliminino il pregiudizio relativo a questa variabile. Per applicare questo approccio ai sistemi di raccomandazione, dobbiamo riconoscere l’importanza fondamentale della personalizzazione. Il concetto di suggestione implica che le cose migliori per un utente possono differire da quelle per un altro. Vale anche la pena notare che esistono sistemi di raccomandazione per aiutare con le transazioni. Di conseguenza, molte applicazioni di raccomandazione includono molte parti interessate e possono sollevare problemi di equità per più di un gruppo di partecipanti.
Prendi in considerazione un sistema di raccomandazione che suggerisce opportunità di lavoro a chi cerca lavoro. Un operatore di tale sistema può mirare, ad esempio, a garantire che utenti maschi e femmine con qualifiche comparabili ricevano proposte di lavoro con rango e reddito comparabili. Di conseguenza, il sistema dovrebbe combattere i pregiudizi nell’output delle raccomandazioni, compresi i pregiudizi causati esclusivamente da differenze comportamentali: ad esempio, gli utenti maschi potrebbero essere più inclini a fare clic con ottimismo su posizioni ben pagate.
È difficile superare tali pregiudizi se non c’è consenso sulla classificazione delle preferenze globali rispetto ai beni. La preferenza personale è l’essenza della suggestione, specialmente nei campi in cui il gusto individuale è cruciale, come la musica, la letteratura e i film. Anche nell’arena del lavoro, alcuni utenti potrebbero preferire un lavoro un po’ meno retribuito se viene fornito con vantaggi aggiuntivi come orari flessibili, tempi di viaggio più brevi o vantaggi migliori. Per raggiungere l’obiettivo della politica di raccomandazione sul lavoro basata sullo stipendio, un operatore del sito dovrà andare oltre un approccio puramente orientato alla personalizzazione, identificare lo stipendio come la variabile chiave del risultato e controllare l’algoritmo di raccomandazione per renderlo sensibile alla distribuzione dello stipendio per i gruppi.
L’equità varia a seconda degli stakeholder
Diverse situazioni di raccomandazione possono essere caratterizzate da diverse configurazioni di interesse degli stakeholder. Le parti interessate di un sistema di raccomandazione sono divise in tre categorie: clienti, fornitori e piattaforma o sistema.
I consumatori sono quelli che ricevono suggerimenti. Sono le persone che accedono alla piattaforma perché hanno difficoltà a prendere una decisione o a cercare qualcosa e anticipano suggerimenti per aiutarle.
I fornitori sono le organizzazioni che forniscono o comunque supportano gli oggetti suggeriti e traggono profitto dalla decisione del consumatore.
La piattaforma ha sviluppato il sistema di raccomandazione per connettere i clienti con i fornitori e ha un modo per trarre profitto dal processo.
Il sistema alla fine avrà obiettivi che sono una funzione delle utilità degli altri stakeholder. Quando le piattaforme multilaterali possono attrarre e mantenere masse critiche di giocatori da tutti i lati del mercato, prosperano. Nel nostro esempio di occupazione, se una persona in cerca di lavoro non trova utili le raccomandazioni del sistema, può scegliere di ignorare questo componente del sistema o passare a una piattaforma concorrente. Lo stesso vale per i fornitori; se un determinato sito non offre la sua pubblicità come suggerimenti o non fornisce persone appropriate, un’azienda può scegliere un’altra piattaforma per pubblicizzare le sue opportunità di lavoro.
I metodi di raccomandazione su piattaforme multilaterali potrebbero sollevare preoccupazioni in merito all’equità multilaterale. In particolare, potrebbero esserci criteri di equità all’opera su più di una parte di una transazione, e quindi la transazione non può essere giudicata solo sulla base dei risultati che maturano su una parte. Esistono due tipi di sistemi definiti dalle difficoltà di equità che si verificano con questi gruppi: correttezza dei consumatori e correttezza dei fornitori.
Equità del consumatore
L’equità è un concetto di non discriminazione basato sull’appartenenza a gruppi protetti, specificati da un tratto protetto, come il sesso e l’età. Un sistema di raccomandazione customer-fair considera l’impatto differenziale del suggerimento sulle classi protette di consumatori di raccomandazione.
L’equità di gruppo è la mancanza di discriminazione nei confronti di un determinato gruppo, definita come l’assenza di un impatto differenziale sui risultati creati per loro. Nonostante il coinvolgimento di molte parti interessate, l’equità nei sistemi di raccomandazione può avere un impatto particolarmente negativo sulle persone che ricevono suggerimenti dai consumatori. Di conseguenza, l’equità dei consumatori di gruppo non dovrebbe tenere conto dell’impatto sproporzionato delle raccomandazioni sui gruppi di consumatori protetti. Fornire assicurazioni su questa proprietà è un obiettivo strategico fondamentale per il progresso responsabile del campo.
Un’azienda di carte di credito raccomanda offerte di credito ai clienti nell’esempio motivante. Poiché gli articoli provengono tutti dalla stessa banca, non ci sono difficoltà con l’equità del produttore. In sistemi di questa natura non esistono considerazioni multistakeholder. Potrebbero essere offerti diversi modelli. Un’alternativa affascinante è creare un sistema di raccomandazione basato sul principio della classificazione equa. Possiamo stabilire una mappatura da ciascun utente a uno spazio prototipo, possibilmente utilizzando caratteristiche latenti recuperate dai dati di valutazione. Ogni prototipo potrebbe essere progettato per avere parità statistica rispetto alla classe protetta. Un aspetto significativo di questo tipo di sistema è garantire una perdita finita per quanto riguarda l’input.
Alcuni algoritmi di correttezza dei consumatori
SLIM : Per ridurre l’ingiustizia, è stato proposto di creare suggerimenti per un utente di un quartiere con un numero uguale di pari per ciascuna categoria. A SLIM è stata aggiunta una regolarizzazione, un approccio di filtraggio collaborativo, per creare un equilibrio tra vicini protetti e non protetti. L’equità è stata testata utilizzando una versione del rapporto di rischio; questo punteggio è inferiore o superiore a 1 quando al gruppo protetto viene suggerito un minor numero di film del genere desiderato; in media, 1 implica perfetta equità.
Modello a blocchi latenti : ha lo scopo di fornire consigli equi raggruppando persone e merci mantenendo la parità statistica per alcune caratteristiche sensibili. Impiega un modello di regressione ordinale con qualità sensibili come input. L’equità è stata determinata garantendo che la proporzione di utenti con la stessa scelta tra le categorie demografiche fosse simile per due prodotti qualsiasi.
NLR : In base al grado di coinvolgimento sulla piattaforma, lo sviluppatore ha valutato l’ingiustizia dei consumatori tra i gruppi di utenti (più o meno attivi). Come mitigazione, è stata utilizzata una tecnica di riclassificazione, con l’obiettivo di selezionare gli elementi dall’elenco dei primi n di base di ciascun utente per ottimizzare l’utilità di raccomandazione complessiva, con il modello limitato a ridurre al minimo la differenza nelle prestazioni medie di raccomandazione tra i gruppi di utenti.
Campionamento casuale senza sostituzione : lo sviluppatore ha ricampionato le interazioni dell’utente nel set di addestramento in modo tale che la rappresentazione delle interazioni dell’utente tra i gruppi fosse bilanciata, quindi ha riqualificato i modelli di raccomandazione con il set di addestramento bilanciato. La mitigazione ha comportato lo sviluppo di un modello di raccomandazione diminuendo la dissomiglianza tra i rating autentici e quelli previsti, massimizzando al contempo il grado di indipendenza tra i rating previsti e le etichette sensibili. Il MAE è stato utilizzato per calcolare gli errori di previsione. L’uguaglianza delle distribuzioni di rating attese tra i gruppi è stata utilizzata per valutare l’indipendenza.
Equità del fornitore
Un sistema equo dei fornitori è quello in cui l’equità deve essere mantenuta esclusivamente per i fornitori. Prendi in considerazione un portale di microfinanza online che raccoglie richieste di prestito da partner sul campo in tutto il mondo che prestano piccole somme di denaro a imprenditori locali. I prestiti sono sponsorizzati senza interessi dai membri dell’organizzazione, la maggior parte dei quali vive nella nazione. L’organizzazione attualmente non fornisce una funzione di raccomandazione personalizzata, ma se lo facesse, si potrebbe immaginare che uno degli obiettivi dell’organizzazione sarebbe quello di mantenere l’equa distribuzione del denaro tra i suoi numerosi partner di fronte ai ben noti pregiudizi degli utenti. I consumatori dei suggerimenti sono semplicemente contributori che non ottengono alcun vantaggio diretto dal sistema, quindi non ci sono problemi di equità da parte del consumatore.
Laddove vi sia un interesse nel promuovere la varietà del mercato e prevenire il dominio monopolistico, anche la P-equità può essere un fattore. Nel mercato dell’artigianato online Etsy, ad esempio, il sistema potrebbe voler garantire che i nuovi entranti nel mercato ricevano una buona proporzione di consigli nonostante abbiano meno consumatori rispetto ai commercianti affermati. Questo tipo di giustizia non è richiesto dalla legge, ma piuttosto è integrato nel modello economico della piattaforma.
I sistemi di equità del fornitore (P-fairness) includono difficoltà che i sistemi di equità del consumatore (C-fairness) non presentano. I produttori nell’esempio P-fairness, in particolare, sono passivi; non cercano possibilità di suggerimenti, ma devono invece attendere che gli utenti accedano al sistema e richiedano consigli.
Considera l’esempio di occupazione precedente. Vogliamo che le posizioni in aziende di proprietà di minoranza siano suggerite a persone altamente qualificate allo stesso ritmo dei posti di lavoro in altri tipi di attività. La possibilità di proporre una specifica impresa di minoranza a un candidato accettabile è rara e deve essere riconosciuta come tale. Vorremo limitare la perdita di personalizzazione che deriva da qualsiasi pubblicità di fornitori protetti, come abbiamo fatto nell’esempio di C-fairness.
I sistemi sensibili alla diversità affrontano la raccomandazione come un problema di ottimizzazione multi-obiettivo, con l’obiettivo di mantenere un particolare grado di accuratezza garantendo al contempo che gli elenchi di raccomandazioni siano vari in termini di rappresentazione del contenuto dell’elemento. Queste strategie possono essere riproposte per la raccomandazione di P-equità considerando gli elementi del gruppo protetto come una classe separata e quindi ottimizzando per vari suggerimenti relativi a questa variabile.
È necessario un approccio più dinamico alla gestione delle opportunità di suggerimento per ottenere la copertura individuale dell’equità P. L’analogo più simile si trova forse nelle offerte online per la pubblicità display, dove le spese pubblicitarie limitate hanno il ruolo di disperdere le impressioni tra gli inserzionisti concorrenti. La P-equità individuale si ottiene in questo scenario entro i vincoli del meccanismo personalizzato offrendo al gruppo protetto pari potere d’acquisto al gruppo non protetto.
Conclusione
Il sistema di raccomandazione potrebbe essere iniquo dal lato utente o dal lato fornitore. Un sistema di raccomandazione è equo quando considera l’impatto differenziale del suggerimento sulle classi protette di consumatori di raccomandazione e protegge anche l’obiettivo del fornitore del sistema. Con questo articolo abbiamo compreso il concetto di equità nel sistema di raccomandazione sia del consumatore che del fornitore.
