L’intelligenza artificiale sta assumendo un ruolo sempre più centrale anche nel contesto delle pubbliche amministrazioni, incluse quelle che si occupano di fisco e tributi. Recentemente, un allarme è stato sollevato dall’Unione Nazionale delle Camere degli Avvocati Tributaristi (UNCAT), che ha segnalato possibili casi in cui atti di accertamento dell’Agenzia delle Entrate contengono riferimenti a sentenze o circolari che in realtà non esistono, casi che potrebbero essere ricondotti alle cosiddette “allucinazioni” dei sistemi di AI generativa. Questo termine indica proprio la tendenza di alcuni modelli di intelligenza artificiale a generare informazioni che sembrano plausibili ma non corrispondono alla realtà dei fatti o delle fonti giuridiche effettive.
Il problema è emerso in alcune motivazioni di atti amministrativi fiscali, dove i riferimenti normativi o giurisprudenziali citati non risultano rintracciabili nei database ufficiali, mettendo in discussione la correttezza delle motivazioni su cui si fondano quegli atti. Secondo gli avvocati tributaristi, anche se non è chiaro se tali anomalie siano il risultato di un utilizzo interno di sistemi AI o di un uso occasionale da parte di singoli funzionari, il fenomeno costituisce comunque un serio motivo di preoccupazione perché può compromettere le garanzie procedurali offerte al contribuente, in particolare quando atti con effetti giuridici vengono fondati su informazioni errate.
Di fronte a queste segnalazioni, l’Agenzia delle Entrate ha risposto sottolineando che, per quanto concerne la situazione emersa, si tratterebbe di un singolo atto isolato di accertamento e che non sono stati forniti dettagli tali da permettere una verifica immediata da parte dell’Amministrazione. Ciò nondimeno, l’Agenzia ha deciso di avviare una verifica interna più ampia su tutte le strutture territoriali al fine di accertare eventuali violazioni delle proprie politiche sull’uso delle tecnologie digitali e di intelligenza artificiale. Nel comunicato si ribadisce che i sistemi di AI generativa non devono mai essere utilizzati per la redazione diretta di atti amministrativi, comprese le motivazioni degli accertamenti o la gestione delle fasi contenziose, e che eventuali violazioni saranno soggette a sanzioni disciplinari, anche nel caso di un singolo documento.
Il fenomeno delle “allucinazioni” dell’intelligenza artificiale non è un’astrazione tecnica, ma un rischio reale quando si utilizza tecnologia generativa in contesti ad alto rischio come quello fiscale o legale. Per definizione, un modello IA può generare informazioni false o fuorvianti anche se formate in modo apparentemente coerente e credibile — un problema documentato in vari studi sui modelli linguistici generativi in ambito giuridico che evidenziano come essi possano confabulare citazioni o normative inesistenti in assenza di verifiche rigorose.
Per evitare che queste tecnologie compromettano la certezza del diritto e la fiducia dei cittadini nelle istituzioni, la normativa italiana ed europea sta sviluppando un quadro di regole e principi volto a garantire un uso responsabile dell’intelligenza artificiale. La legge italiana sull’IA (Legge n. 132 del 23 settembre 2025) e il regolamento europeo sull’intelligenza artificiale richiedono che i sistemi di AI siano impiegati in modo trasparente, affidabile e sotto controllo umano, con particolare attenzione alla sicurezza, alla protezione dei diritti fondamentali e alla responsabilità dell’operatore umano che supervisiona e verifica i risultati prodotti dalla tecnologia stessa.
Nel dibattito pubblico e istituzionale, la vicenda evidenzia l’importanza di stabilire confini chiari tra ciò che l’IA può fare come supporto — ad esempio per l’analisi di grandi volumi di dati o per suggerire elementi di rischio fiscale — e ciò che deve rimanere sotto la piena responsabilità e controllo umano. Questo equilibrio è ritenuto essenziale per tutelare i principi di legalità, trasparenza e diritto alla difesa del contribuente, evitando che errori generati da un algoritmo possano tradursi in atti con conseguenze reali per cittadini e imprese.