Il Comune di Treviso ha approvato un regolamento dedicato all’utilizzo dell’intelligenza artificiale all’interno dell’amministrazione, introducendo un divieto esplicito per l’impiego di piattaforme generative non omologate nei processi di lavoro degli uffici comunali. La delibera, approvata il 1° settembre, nasce dalla necessità di ridurre il rischio legato alla cosiddetta Shadow AI, cioè l’uso autonomo da parte dei dipendenti di servizi accessibili liberamente sul web per velocizzare la preparazione di testi, pareri, documenti o altre attività amministrative. Il problema individuato dall’ente riguarda soprattutto la possibilità che informazioni relative ai cittadini vengano inserite in sistemi esterni non controllati, con conseguenze sulla protezione dei dati personali e sulla riservatezza dei procedimenti, ma anche il rischio che errori o allucinazioni generate dai modelli vengano trasferiti all’interno di documenti con rilevanza amministrativa. Il regolamento non introduce quindi un divieto generale dell’intelligenza artificiale, ma stabilisce che gli strumenti utilizzati dagli uffici debbano essere preventivamente autorizzati e inseriti in un perimetro tecnico e organizzativo controllato.
Secondo il vicesindaco e assessore alla Digitalizzazione Alessandro Manera, l’obiettivo è creare regole per strumenti che erano già entrati nell’uso quotidiano prima della definizione di procedure interne specifiche. Il Comune considera particolarmente critico l’inserimento di dati reali all’interno di servizi pubblici o gratuiti, perché le informazioni trasferite a piattaforme esterne possono essere sottoposte a trattamenti non compatibili con gli obblighi dell’amministrazione. Per questo motivo gli uffici potranno utilizzare soltanto sistemi considerati sicuri e controllabili sotto il profilo delle fonti, dell’accesso e del trattamento dei dati, mentre vengono esclusi gli strumenti gratuiti usati senza una preventiva valutazione. La distinzione prevista dal Comune non dipende quindi semplicemente dal fatto che un servizio sia a pagamento oppure gratuito, ma dal livello di controllo esercitabile sulla piattaforma e dalle garanzie fornite sul trattamento delle informazioni.
Per consentire comunque la sperimentazione di nuove soluzioni AI, Treviso ha predisposto anche una sandbox separata dalla rete operativa dell’ente. All’interno di questo ambiente isolato potranno essere testati software e modelli senza utilizzare database comunali reali: le prove dovranno essere svolte esclusivamente con dati fittizi oppure anonimizzati, evitando così che eventuali errori del sistema o trasferimenti di informazioni verso infrastrutture esterne coinvolgano direttamente dati dei cittadini. Il regolamento introduce inoltre un principio di supervisione umana obbligatoria. Qualsiasi testo, relazione o altro output prodotto con sistemi di intelligenza artificiale viene considerato soltanto una bozza tecnica e deve essere controllato e approvato da un funzionario responsabile prima di poter essere utilizzato. Non sono ammessi automatismi nei quali una decisione generata dall’AI possa produrre direttamente effetti giuridici nei confronti di cittadini o imprese.
Il provvedimento riguarda specificamente l’organizzazione interna del Comune e non limita l’utilizzo dell’intelligenza artificiale da parte dei cittadini. Per il pubblico l’amministrazione prevede invece attività di supporto e orientamento, anche attraverso la creazione di una giuria di comunità composta da esperti che dovrebbe aiutare a verificare informazioni e dubbi relativi ai sistemi AI. L’impostazione scelta da Treviso combina quindi restrizioni sull’uso non controllato negli uffici con la possibilità di sperimentare strumenti autorizzati in ambienti separati e con un controllo umano finale sui risultati. La finalità dichiarata è evitare che l’adozione dell’AI nei procedimenti amministrativi preceda la definizione delle regole necessarie per gestire privacy, responsabilità e affidabilità degli output.
Questo articolo è stato redatto con il supporto di strumenti di intelligenza artificiale (AI)