Pericoli dell’intelligenza artificiale: approfondimenti dallo studio AI100 2021
Nell’ambito di uno studio quinquennale, il nuovo rapporto AI100 esamina le preoccupazioni più significative poste dall’intelligenza artificiale.
Come parte di una serie di studi longitudinali sull’intelligenza artificiale, la Stanford HAI ha pubblicato il nuovo rapporto AI100 intitolato “Gathering Strength, Gathering Storms: The One Hundred Year Study on Artificial Intelligence (AI100) 2021 Study Panel Report”. Il rapporto valuta le preoccupazioni più significative dell’IA nei cinque anni precedenti.
Molto è stato scritto sullo stato dell’intelligenza artificiale e sui suoi effetti sulla società sin dal primo rapporto AI100. Nonostante ciò, AI100 è insolito in quanto combina due caratteristiche cruciali.
In primo luogo, è scritto da un gruppo di studiosi di importanti studiosi multidisciplinari nel settore, esperti che da molti anni creano algoritmi di intelligenza artificiale o studiano il loro impatto sulla società come attività professionale primaria. Gli autori sono esperti nel campo dell’intelligenza artificiale e offrono una prospettiva “da insider”. In secondo luogo, si tratta di uno studio a lungo termine, con rapporti periodici di gruppi di studio previsti ogni cinque anni per almeno un secolo.
Poiché i sistemi di intelligenza artificiale dimostrano una maggiore utilità nelle applicazioni del mondo reale, hanno ampliato la loro portata, aumentando la probabilità di uso improprio, uso eccessivo e abuso esplicito. Man mano che le capacità dei sistemi di intelligenza artificiale migliorano e si intrecciano maggiormente nell’infrastruttura della società, le conseguenze della perdita di un controllo significativo su di essi diventano più allarmanti.
Nuovi sforzi di ricerca mirano a ripensare le fondamenta del campo per ridurre la dipendenza dei sistemi di intelligenza artificiale da obiettivi espliciti e spesso errati. Una preoccupazione particolarmente evidente è che l’intelligenza artificiale potrebbe rendere più facile lo sviluppo di computer in grado di spiare gli esseri umani e potenzialmente ucciderli su larga scala.
Tuttavia, al momento ci sono numerose preoccupazioni più significative e più sottili.
Tecnosoluzionismo: mentre assistiamo a più progressi dell’IA, aumenta la tentazione di applicare il processo decisionale dell’IA a tutti i problemi della società. Ma la tecnologia spesso crea problemi più grandi nel processo di risoluzione di quelli più piccoli, come la discriminazione razziale ed etnica, nonché algoritmi basati sull’utente che amplificano gli stessi pregiudizi sperimentati dagli umani.
I rischi di adottare un approccio statistico alla giustizia: alcune persone credono che il processo decisionale dell’IA sia oggettivo, anche se deriva da giudizi storici distorti o da azioni apertamente discriminatorie. La discriminazione è un problema serio sia in ambito penale che sanitario. Gli algoritmi che inducono pregiudizi possono promuovere pregiudizi, inclusi stereotipi di genere, razziali, di classe e abilisti, senza nemmeno rendersene conto. Le lacune giurisprudenziali rendono difficile l’applicazione del titolo VII alla discriminazione algoritmica. Le bolle informative formate dall’IA possono potenzialmente ridurre l’autonomia.
La minaccia della disinformazione alla democrazia: i sistemi di intelligenza artificiale vengono cooptati da criminali, stati canaglia ed estremisti ideologici per manipolare le persone per ottenere vantaggi economici o politici. La disinformazione rappresenta una seria minaccia per la società, poiché modifica e manipola efficacemente le prove per creare circuiti di feedback sociale che minano qualsiasi senso di verità oggettiva.
Discriminazione medica e rischio: sostengono che la mancata inclusione delle preoccupazioni umane nell’integrazione dell’IA ha portato alla sfiducia nel sistema. L’algoritmo di Optum per determinare quali pazienti necessitano di cure mediche speciali includeva pregiudizi razziali. Secondo un nuovo rapporto, i pazienti neri ricevono 1.800 dollari in meno di costi sanitari annuali rispetto ai pazienti bianchi. Nel caso dei melanomi, il tasso di sopravvivenza a cinque anni per i neri è di 17 punti percentuali inferiore a quello per i bianchi.
IL rapporto si trova qui https://ai100.stanford.edu/sites/g/files/sbiybj18871/files/media/file/AI100Report_MT_10.pdf
