La Cina sviluppa un “procuratore” di intelligenza artificiale in grado di identificare il “dissenso” e sporgere denuncia per crimini comuni “con una precisione del 97%”
Il sistema può sporgere denuncia per gli otto crimini più comuni di Shanghai
Funziona su un computer standard e può prendere parte al processo decisionale
Ma ci sono timori che la macchina possa essere armata dallo stato
La Cina ha sviluppato un procuratore di intelligenza artificiale in grado di accusare le persone di crimini con una precisione superiore al 97%, affermano i ricercatori.
La macchina distopica può identificare il “dissenso” contro lo stato e suggerire condanne per presunti criminali, rimuovendo le persone dal processo.
Ci sono già timori che il sistema possa essere armato dal Partito Comunista Cinese con pubblici ministeri umani preoccupati su chi si assumerebbe la responsabilità delle decisioni dell’IA.
La Cina ha sviluppato un procuratore di intelligenza artificiale in grado di accusare le persone di crimini con una precisione superiore al 97%, affermano i ricercatori
Lo strumento può presentare un’accusa sulla base di una descrizione verbale del caso ed è stato costruito e testato dalla Procura del popolo di Shanghai Pudong, la più grande e attiva procura distrettuale della Cina.
L’intelligenza artificiale consentirebbe ai pubblici ministeri umani di alleggerire il carico di lavoro e consentire loro di concentrarsi solo sui casi più complessi, ha affermato lo scienziato capo del progetto, il professor Shi Yong.
Il sistema può funzionare su un computer desktop standard e sporgerebbe denuncia sulla base di 1.000 “tratti” dal testo della descrizione del caso generato dall’uomo, secondo quanto riportato dal South China Morning Post .
È stato “addestrato” utilizzando 17.000 casi reali dal 2015 al 2020 ed è in grado di identificare e sporgere denuncia per gli otto crimini più comuni a Shanghai.
Questi includono “provocare guai” – un termine usato per soffocare il dissenso in Cina, frode con carta di credito, reati di gioco d’azzardo, guida pericolosa, furto, frode, lesioni intenzionali e ostruzione dei doveri ufficiali.
Presto il pubblico ministero dell’intelligenza artificiale sarà in grado di riconoscere più tipi di reato e presentare più accuse contro un sospetto una volta aggiornato.
Shi ha affermato in un articolo pubblicato sulla rivista Management Review: “Il sistema può sostituire in una certa misura i pubblici ministeri nel processo decisionale”.
Alcune tecnologie di intelligenza artificiale esistono già nelle forze dell’ordine, ma questa sarebbe la prima volta che viene coinvolta in una denuncia.
In Germania, il riconoscimento delle immagini e la medicina legale digitale vengono utilizzati per aiutare con i casi, mentre la Cina utilizza uno strumento noto come System 206 per valutare le prove, il potenziale pericolo di un sospetto e le condizioni per l’arresto.
Il governo cinese fa sempre più affidamento sull’intelligenza artificiale per aumentare la sua produttività, con macchine già in atto per reprimere la corruzione e aumentare il controllo statale
Ma il sistema non ha alcun ruolo nel processo decisionale e non suggerisce sentenze.
Un procuratore a Guanghzhou afferma di essere preoccupato per la nuova tecnologia.
Ha detto: “La precisione del 97 per cento può essere elevata da un punto di vista tecnologico, ma ci sarà sempre la possibilità di un errore.
‘Chi si assumerà la responsabilità quando accadrà? Il pubblico ministero, la macchina o il progettista dell’algoritmo?’
Ha aggiunto che molti pubblici ministeri umani non vorranno che i computer interferiscano nel loro lavoro.
“L’intelligenza artificiale può aiutare a rilevare un errore, ma non può sostituire gli esseri umani nel prendere una decisione”, ha affermato il pubblico ministero.
Ci sono anche timori che non riuscirà a tenere il passo con i cambiamenti degli standard sociali e potrebbe essere usato come arma dallo stato.
Il governo cinese fa sempre più affidamento sull’intelligenza artificiale per aumentare la sua produttività, con macchine già in atto per reprimere la corruzione e aumentare il controllo statale.
