In che modo l’intelligenza artificiale può aiutarci a rendere i giudici meno prevenuti
Prevedere quali giudici possano essere prevenuti potrebbe dare loro l’opportunità di considerare con maggiore attenzione le proprie sentenze
Mentre l’intelligenza artificiale si sposta in aula, molto è stato scritto sugli algoritmi di condanna con pregiudizi nascosti. Daniel L. Chen , ricercatore presso la Scuola di Economia di Tolosa e la Facoltà di Giurisprudenza dell’Università di Tolosa, ha un’idea diversa: usare l’intelligenza artificiale per correggere le decisioni tendenziose dei giudici umani.
Chen, che possiede sia una laurea in giurisprudenza che un dottorato in economia, ha passato anni a raccogliere dati su giudici e tribunali statunitensi. “Una cosa che mi ha particolarmente tormentato è come capire tutti i pregiudizi comportamentali che abbiamo trovato”, dice. Ad esempio, pregiudizi umani che possono far pendere la bilancia quando si prende una decisione. In un nuovo documento di lavoro , Chen delinea un suggerimento su come grandi serie di dati in combinazione con l’intelligenza artificiale potrebbe aiutare a prevedere le decisioni dei giudici e aiutarci Nudge loro di fare condanna più equo.
The Verge ha parlato con Chen dei molti fattori che possono influenzare il pregiudizio giudiziario e il futuro dell’IA in campo giuridico.
Questa intervista è stata leggermente modificata per chiarezza.
È ormai risaputo che le decisioni dei giudici sono spesso influenzate da fattori non pertinenti al caso in questione. Detto questo, puoi darmi alcuni esempi specifici di studi in questo settore?
Sicuro. Un risultato pubblicato è l’ errore del giocatore d’azzardo . Se sono un giudice incaricato e assegno asilo troppe volte di fila, posso temere che stia diventando troppo indulgente. Quindi provo attivamente a correggere automaticamente. Quindi la prossima volta, negherò l’asilo. Questa è un’influenza estranea, perché il modo in cui ho giudicato il caso precedente influisce in modo errato sulla sentenza sul caso in corso . Un’altra scoperta è che nei tribunali del circuito, si vede un comportamento che varia nel ciclo delle elezioni presidenziali . Quando arriva la stagione delle elezioni, iniziano a non essere più d’accordo ea votare secondo le linee partigiane.
Abbiamo un documento sulla prevedibilità precoce in cui abbiamo utilizzato l’apprendimento automatico per tentare di prevedere le decisioni dei giudici nei casi di asilo. Si scopre che possiamo fare un’ottima previsione su come il giudice governerà prima che il caso si apra, usando solo le informazioni sull’identità del giudice e la nazionalità del richiedente asilo. Ciò solleva la domanda: perché i giudici sono così prevedibili prima di osservare i fatti? Un’interpretazione è che forse i giudici stanno ricorrendo a più giudizi improvvisati ed euristiche per decidere un caso piuttosto che i fatti.
Destra. Quindi la tua idea è che se possiamo individuare quali giudici tendono ad essere “prevedibili” – implicando che potrebbero fare affidamento più su giudizi improvvisi – possiamo avvisarli di questo fatto e suggerire che essi deliberino con maggiore attenzione?
Sì. Può essere un modo di notare quando i giudici ricorrono a giudizi improvvisi che non sono presi in considerazione dai fattori giuridicamente rilevanti. Quindi possiamo suggerire qualcosa del tipo “Puoi passare qualche ora in più o qualche giorno in più su questo caso? Sulla base di ciò che hai fatto in passato, tendi a essere un po ‘più prevenuto in questa direzione. “
Nello studio di predicibilità iniziale, hai usato solo informazioni limitate sull’identità e la nazionalità di un giudice. Più in generale, suggerisci che possiamo utilizzare altri set di dati, combinati con l’intelligenza artificiale, per rilevare casi in cui le decisioni giudiziarie possono essere previste da fattori estranei. Come funzionerebbe?
Mi piacerebbe avere un grande set di dati sulla storia delle decisioni del giudice e su tutti i potenziali fattori estranei contestuali. Quindi è possibile analizzare i dati e vedere quali fattori, rilevanti e non rilevanti, potrebbero aver influenzato la decisione del giudice. Un grande set di dati può aiutarci a dire che in queste determinate situazioni, il giudice ha maggiori probabilità di essere influenzato in una determinata direzione.
Quali tipi di fattori estranei dovremmo prendere in considerazione?
C’è così tanto che abbiamo imparato dall’economia psicologica e dalle scienze politiche – tutto da umore o tempo. Ad esempio, c’è un documento in cui si afferma che le perdite di calcio della Louisiana influenzano la sentenza del giudice. Altri osservano come la temperatura influisce sull’assegnazione delle decisioni . Abbiamo un documento che mostra che i giudici tendono ad essere più indulgenti nei compleanni degli imputati . Quindi potremmo provare a ottenere tutti questi dati e metterli insieme. Quello sarebbe un punto di partenza.
Una volta che sembra ci potrebbe essere parzialità, cosa faresti? Un suggerimento è la spinta a deliberare con più attenzione. Nel documento hai menzionato anche un possibile programma di allenamento?
Lasciare che le persone sappiano di essere influenzate da pregiudizi può aiutare a ridurle. Forse dare una maggiore preparazione ai giudici potrebbe aiutare. Non sto parlando di mostrare loro una litania di pregiudizi, che può essere difficile da tenere a mente, ma di offrire un quadro teorico per comprendere un sacco di diversi fenomeni e tutti i modi e le ragioni per cui siamo influenzati.
C’è qualche polemica su AI in diritto e condanna in questo momento. Come pensi che cambierà?
Sempre più persone utilizzano gli strumenti dell’elaborazione del linguaggio naturale e dell’IA e i big data con le opinioni dei tribunali. Questa è una zona promettente di ricerca, e sono interessato a vedere come si traduce in politica.
C’è sicuramente molto interesse su come gli algoritmi possono migliorare il processo decisionale. Ho anche pensato a come e perché le persone sono così resistenti a questa idea di predizioni e macchine che aiutano nel giudizio. Penso che sia un po ‘correlato al fatto che alla gente piace pensare che siamo unici e quindi essere paragonati a qualcun altro in questo modo non riconosce abbastanza la mia individualità e dignità. Da un lato, le persone potrebbero semplicemente abituarsi ai big data aiutando i giudici a prendere decisioni. Dall’altro, sono un individuo, quindi non trattarmi come un altro punto dati.
Ovviamente, tutto ciò è soggetto alle solite preoccupazioni di quanto siano buone le previsioni. Le tue previsioni possono essere basate su dati distorti e riflettere attentamente su come può influire sui risultati è importante. Detto questo, è ancora un atto di equilibrio. Anche se si basa su dati tendenziosi, se hai persone di parte che stanno prendendo decisioni, forse una previsione leggermente parziale è ancora leggermente più equa