L’utilizzo dell’intelligenza artificiale all’interno del sistema giudiziario sta diventando uno dei temi più delicati nel rapporto tra tecnologia e diritto. Negli Stati Uniti, e in particolare nello Stato di New York, sono state introdotte linee guida specifiche per disciplinare l’impiego di strumenti AI da parte di magistrati, personale amministrativo e operatori della giustizia. L’obiettivo è consentire l’utilizzo delle nuove tecnologie come supporto operativo senza compromettere principi fondamentali come trasparenza, responsabilità, imparzialità e controllo umano delle decisioni.
Il cosiddetto “modello New York” si basa sul principio secondo cui l’intelligenza artificiale può assistere il lavoro giudiziario, ma non può sostituire il giudizio umano. Le policy adottate prevedono infatti che eventuali strumenti generativi o sistemi di supporto basati su AI possano essere utilizzati per attività preparatorie, organizzative o di ricerca documentale, mentre ogni decisione giuridica rimane sotto la piena responsabilità del magistrato o del professionista che la sottoscrive. La supervisione umana viene considerata un requisito essenziale e non delegabile.
Uno degli aspetti più rilevanti riguarda la verifica dell’affidabilità delle informazioni prodotte dai sistemi generativi. Negli ultimi anni diversi casi giudiziari internazionali hanno evidenziato il rischio delle cosiddette “allucinazioni” dell’intelligenza artificiale, ovvero la generazione di riferimenti normativi, sentenze o precedenti inesistenti ma presentati come autentici dal sistema. Per questo motivo le linee guida richiedono controlli indipendenti e verifiche documentali prima che qualsiasi contenuto generato dall’AI possa essere utilizzato in atti, pareri o documentazione processuale.
Il modello pone inoltre una forte attenzione alla trasparenza algoritmica. Quando strumenti automatizzati vengono impiegati in attività che possono influenzare il funzionamento della giustizia, emerge la necessità di comprendere il processo che porta alla produzione di un determinato risultato. Questo tema è particolarmente importante nel contesto giudiziario, dove la motivazione delle decisioni e la possibilità di ricostruire il percorso logico utilizzato rappresentano elementi fondamentali dello Stato di diritto. Per questo motivo cresce l’interesse verso approcci di Explainable AI, orientati a rendere maggiormente interpretabili i meccanismi interni dei sistemi intelligenti.
Un altro elemento centrale riguarda la gestione dei rischi legati a bias e discriminazioni algoritmiche. Le esperienze maturate negli Stati Uniti nell’ambito dell’audit dei sistemi automatizzati hanno mostrato come la semplice introduzione di controlli tecnici non sia sufficiente senza definizioni chiare, procedure verificabili e responsabilità precise. Proprio per questo le nuove politiche puntano a integrare verifiche, monitoraggio continuo e documentazione delle attività svolte attraverso strumenti AI.
Il modello sviluppato a New York si inserisce inoltre in un contesto internazionale più ampio caratterizzato dalla crescente regolamentazione dell’intelligenza artificiale. In Europa, ad esempio, i sistemi utilizzati nell’amministrazione della giustizia rientrano generalmente tra le applicazioni considerate ad alto rischio dall’AI Act, con obblighi specifici relativi a supervisione umana, sicurezza, tracciabilità e governance dei dati. Le discussioni tra istituzioni europee e statunitensi mostrano come stia emergendo una convergenza su alcuni principi fondamentali, pur mantenendo approcci regolatori differenti.
L’esperienza dei tribunali di New York rappresenta quindi uno dei primi tentativi strutturati di definire regole operative per l’integrazione dell’intelligenza artificiale nell’attività giudiziaria. Il principio che emerge con maggiore chiarezza è che l’AI può diventare uno strumento di supporto utile per migliorare efficienza e gestione delle informazioni, ma non può assumere il ruolo decisionale che rimane attribuito esclusivamente agli esseri umani. In un settore in cui ogni errore può incidere direttamente sui diritti delle persone, la responsabilità finale continua infatti a essere considerata una prerogativa irrinunciabile dell’intervento umano.