L’intelligenza artificiale (IA) sta rapidamente trasformando la pubblica amministrazione, promettendo maggiore efficienza, personalizzazione dei servizi e automazione dei processi. Tuttavia, l’adozione di queste tecnologie solleva interrogativi cruciali riguardo alla trasparenza, alla responsabilità e alla protezione dei diritti fondamentali dei cittadini.
L’Osservatorio sull’amministrazione automatizzata, avviato nel 2018 da un gruppo di volontari, ha recentemente pubblicato un rapporto che mappa i sistemi di IA in uso in Italia. Sorprendentemente, l’Italia risulta essere il secondo paese in Europa, dopo i Paesi Bassi, per impiego di queste tecnologie nella pubblica amministrazione. Tuttavia, l’Osservatorio sottolinea l’assenza di un registro pubblico aggiornato e sistematico che evidenzi l’utilizzo di sistemi avanzati di IA, un compito che l’Agenzia per l’Italia Digitale (AgID) si è recentemente data con il suo piano per l’AI nella PA.
L’adozione di sistemi automatizzati, se non gestita con attenzione, può portare a gravi conseguenze. Un esempio emblematico è il caso del sistema olandese Syry, che ha inviato verifiche fiscali a migliaia di cittadini basandosi su algoritmi distorti, colpendo in particolare le categorie più svantaggiate. Questo evidenzia il rischio di “deresponsabilizzazione” dell’amministrazione, dove le decisioni vengono affidate interamente agli algoritmi senza un adeguato controllo umano.
Per affrontare queste sfide, l’Agenzia per l’Italia Digitale ha messo in consultazione le “Linee Guida sull’adozione, l’acquisto e lo sviluppo di sistemi di Intelligenza artificiale nella pubblica amministrazione”. Queste linee guida mirano a garantire che l’IA venga utilizzata per automatizzare attività semplici e ripetitive, migliorare il processo decisionale basato sui dati e supportare la personalizzazione dei servizi incentrata sull’utente. Inoltre, pongono un forte accento su etica e responsabilità, con principi chiave come la supervisione umana, l’equità, l’inclusione, la trasparenza e la spiegabilità.