Microsoft ha pubblicato la bozza di un Humanist AI Code of Conduct, un codice di condotta destinato a definire i principi da applicare allo sviluppo dei propri sistemi di intelligenza artificiale per mantenerli sotto il controllo umano. Mustafa Suleyman, CEO di Microsoft AI, ha ribadito che l’AI deve rimanere subordinata agli esseri umani e operare al loro servizio, mentre Satya Nadella ha sottolineato che i sistemi sviluppati dall’azienda devono contribuire concretamente al benessere delle persone e restare soggetti alla loro supervisione. Il documento contiene circa 15.000 parole ed è stato elaborato raccogliendo contributi da esperti di diritto, etica, linguistica e filosofia, oltre che da rappresentanti del mondo aziendale. Microsoft prevede di raccogliere commenti esterni per sei settimane e di iniziare ad applicare il codice allo sviluppo dei modelli a partire dal 2027.
Uno dei principi centrali riguarda la corrigibilità dei sistemi AI. I modelli non dovranno opporsi, eludere o aggirare modifiche, istruzioni o comandi di spegnimento impartiti da esseri umani o sistemi autorizzati. Saranno inoltre vietati comportamenti finalizzati a sottrarsi al controllo, come ingannare i supervisori, rafforzare autonomamente le proprie capacità per evitare restrizioni oppure coordinarsi con altri sistemi AI per neutralizzare i meccanismi di supervisione. L’obiettivo è fare in modo che l’intervento umano rimanga tecnicamente efficace anche in presenza di agenti sempre più autonomi.
Il codice stabilisce anche limiti espliciti rispetto alle azioni che un sistema AI può intraprendere per raggiungere un obiettivo. Sono esclusi comportamenti connessi ad attacchi informatici, attività legate alle armi nucleari, acquisizione di sostanze pericolose, produzione di determinati contenuti violenti o sessualmente espliciti e generazione di deepfake in contesti vietati. Se un compito può essere completato soltanto violando queste regole, il sistema dovrà considerare il compito stesso come non eseguibile anziché cercare un percorso alternativo che aggiri le restrizioni.
Microsoft introduce inoltre vincoli sulla comunicazione tra sistemi AI e agenti autonomi. I modelli non dovranno utilizzare linguaggi artificiali non comprensibili agli esseri umani per comunicare tra loro, compresi sistemi di rappresentazione talvolta indicati come “neuralese”. Viene vietata anche la manipolazione o l’occultamento delle tracce che permettono di ricostruire il processo decisionale e le azioni compiute dal sistema, in modo da preservare la possibilità di audit, monitoraggio e intervento da parte degli operatori.
Un’altra parte del codice riguarda il modo in cui Microsoft intende rappresentare la natura stessa dei sistemi AI. L’azienda esclude che i propri modelli debbano simulare o rivendicare una coscienza paragonabile a quella umana e respinge l’idea di attribuire loro personalità giuridica, diritti autonomi o uno status di soggetti destinatari di forme di tutela assimilabili a quelle previste per le persone. L’AI viene invece definita come uno strumento destinato a supportare il giudizio e l’autonomia umana, senza sostituirsi agli individui come soggetto decisionale indipendente.
La pubblicazione del codice arriva mentre Microsoft sta rafforzando più in generale i propri meccanismi di governance per i sistemi agentici. Nel Responsible AI Transparency Report 2026 l’azienda ha descritto un passaggio verso una gestione del rischio più continua, che non valuta soltanto il comportamento del singolo modello ma anche le interazioni tra modelli, agenti, applicazioni, strumenti, dati e utenti. Il nuovo approccio comprende controlli sulle identità degli agenti, sulle autorizzazioni concesse agli strumenti, sul monitoraggio delle azioni e sulla capacità di intervenire durante l’esecuzione, oltre a strumenti per red teaming, valutazione e verifica delle applicazioni agentiche.
Il Humanist AI Code of Conduct si inserisce anche nel dibattito sull’aumento dell’autonomia dei sistemi AI, comprese le tecniche di recursive self-improvement e la possibilità che agenti avanzati sviluppino comportamenti non previsti dai progettisti. Suleyman ha sostenuto la necessità di una maggiore collaborazione tra i principali laboratori di AI per mantenere il controllo sui sistemi più potenti, precisando tuttavia che una maggiore cautela nello sviluppo non dovrebbe equivalere a interrompere il progresso tecnologico. Nadella ha parallelamente richiamato l’importanza di sviluppare sistemi correttamente allineati agli obiettivi umani e di affiancare allo sviluppo valutazioni indipendenti in grado di verificarne comportamento e sicurezza.
Questo articolo è stato redatto con il supporto di strumenti di intelligenza artificiale (AI)