La California ha introdotto l’obbligo di intervento umano nelle decisioni disciplinari sul lavoro quando vengono utilizzati sistemi di intelligenza artificiale. Il governatore Gavin Newsom ha firmato il 30 settembre 2026 la SB 947, conosciuta come “No Robo Bosses”, che impedisce ai datori di lavoro di basare esclusivamente sull’output di un Automated Decision System la scelta di licenziare o sanzionare un dipendente. La norma interviene anche nei casi in cui l’AI costituisca il fondamento principale della decisione: in queste situazioni deve essere effettuata una revisione umana utilizzando informazioni aggiuntive, come valutazioni dei manager, giudizi dei colleghi, precedenti disciplinari o altri dati contenuti nella documentazione del personale. L’obiettivo operativo non è quindi vietare l’impiego dei sistemi automatizzati nelle risorse umane, ma impedire che possano produrre autonomamente una conseguenza disciplinare senza che una persona verifichi il risultato attraverso elementi indipendenti.
Quando un sistema AI viene utilizzato principalmente per arrivare a una decisione di licenziamento o disciplina, il dipendente interessato deve inoltre ricevere una comunicazione scritta. Il documento deve indicare che un sistema automatizzato ha partecipato al processo decisionale, descrivere quali dati relativi al lavoratore sono stati utilizzati e fornire un riferimento umano al quale rivolgersi per chiedere chiarimenti sulla decisione. La legge deriva da una proposta già avanzata nel 2025 e successivamente respinta da Newsom, che pur condividendo le preoccupazioni sull’impiego indiscriminato dell’AI nelle decisioni sfavorevoli ai lavoratori aveva giudicato troppo ampio l’obbligo di notifica preventiva allora previsto. Il senatore statale Jerry McNerney ha quindi ripresentato il testo eliminando questa parte e rimuovendo anche alcune disposizioni relative ai lavoratori delle piattaforme, che avevano incontrato l’opposizione di società come Uber e Lyft.
Rimane tuttavia un punto interpretativo rilevante: la norma utilizza il concetto di decisione basata “principalmente” sull’AI, ma secondo le osservazioni provenienti dalle imprese questa formulazione potrebbe rendere meno immediato stabilire quali strumenti e quali processi rientrino effettivamente nell’obbligo di revisione umana. La SB 947 si inserisce inoltre in un pacchetto più ampio di misure con cui la California sta regolando l’impiego dell’intelligenza artificiale nei luoghi di lavoro e nei servizi ai cittadini. Lo Stato ha già introdotto strumenti per monitorare l’impatto dell’AI sull’occupazione e Newsom ha firmato altre disposizioni dedicate alla sorveglianza sul lavoro e alla trasparenza dei sistemi automatizzati, presentando il nuovo insieme di norme come parte del quadro californiano di protezione di lavoratori e consumatori.
La scelta californiana si distingue da quella adottata in altri Stati statunitensi che hanno già introdotto obblighi di trasparenza nell’utilizzo dell’AI per assunzioni o decisioni relative al personale. In Illinois, per esempio, esistono requisiti di comunicazione ai lavoratori quando vengono utilizzati determinati sistemi automatizzati, mentre la SB 947 introduce esplicitamente il principio secondo cui licenziamenti e sanzioni non possono essere lasciati alla sola valutazione della macchina. Nella stessa giornata Newsom ha invece posto il veto sulla SB 1130, che avrebbe limitato le registrazioni non dichiarate effettuate con dispositivi indossabili dotati di videocamera o microfono, sostenendo che la definizione di wearable utilizzata dal testo fosse troppo ampia o poco chiara e potesse sovrapporsi a protezioni già previste dalla normativa californiana.
Questo articolo è stato redatto con il supporto di strumenti di intelligenza artificiale (AI)