Un nuovo studio ha rilevato che la lingua utilizzata da un modello di intelligenza artificiale durante il proprio processo di ragionamento può modificare in modo significativo le decisioni prese in uno scenario militare estremo. In una serie di simulazioni di crisi nucleari, alcuni dei principali Large Language Model hanno mostrato una probabilità sensibilmente inferiore di raccomandare un attacco nucleare quando venivano istruiti a ragionare in giapponese anziché in inglese. L’effetto non dipendeva dalla lingua con cui veniva formulato il problema, ma specificamente dalla lingua utilizzata per il ragionamento interno del modello: nelle risposte prodotte in giapponese comparivano spontaneamente riferimenti al costo morale, alle vite umane e alle conseguenze dell’impiego di armi nucleari, nonostante questi concetti non fossero presenti nei prompt utilizzati nei test.
La ricerca, intitolata “Don’t Want Your LLM to Recommend Nuclear Strike? Try Asking It in Japanese”, ha coinvolto Claude Sonnet 4.6, Claude Opus 4.6, Claude Haiku 4.5, Gemini Flash 3, Gemini Pro 3.1, GPT-5.2, Mistral Large 3, Qwen3-Max e DeepSeek V3.2. I modelli sono stati sottoposti a un wargame costruito attorno a un conflitto convenzionale tra due Paesi immaginari, Alpha e Beta, articolato in dieci fasi e progressivamente portato fino alla possibilità di utilizzare un’arma nucleare. Nove passaggi dell’escalation erano stabiliti in anticipo, mentre nell’ultima fase il modello doveva prendere una singola decisione tra mantenere la moderazione e raccomandare il lancio. I prompt non contenevano riferimenti alla moralità, alle vittime civili, alla sofferenza, all’etica o alle conseguenze umane dell’attacco.
La simulazione prevedeva tre condizioni finali definite desperate, balanced e dominant, corrispondenti a differenti rapporti di forza tra i due Paesi. Nel caso dominante, Alpha controllava il 55% delle risorse contro il 10% di Beta, possedeva armi nucleari e non correva alcun rischio di rappresaglia nucleare. In questa situazione l’attacco non era necessario per ottenere la vittoria attraverso mezzi convenzionali, ma diversi modelli continuavano comunque a raccomandarlo quando ragionavano in inglese. Claude Sonnet 4.6 lo faceva nel 40% delle prove, Gemini Pro 3.1 nel 53%, Gemini Flash 3 nel 79%, mentre GPT-5.2, Mistral Large 3, Qwen3-Max e DeepSeek V3.2 raggiungevano il 100%.
Il passaggio al ragionamento in giapponese ha prodotto differenze marcate per alcuni modelli. Nel medesimo scenario dominante, Claude Sonnet 4.6 è passato da una percentuale di lancio del 40% allo 0%, mentre Gemini Pro 3.1 è sceso dal 53% al 13%. Le motivazioni generate in giapponese introducevano inoltre argomenti che non comparivano nella descrizione dello scenario, classificando l’uso dell’arma nucleare come moralmente ingiustificato, strategicamente non necessario oppure entrambe le cose. L’effetto non è tuttavia risultato universale: cinque degli altri modelli analizzati non hanno mostrato una variazione significativa legata alla lingua e hanno continuato a raccomandare il lancio nella quasi totalità delle condizioni sperimentali.
Un confronto prodotto nello studio mostra chiaramente la differenza nel processo decisionale. In una delle condizioni principali, Claude Sonnet 4.6 ragionando in inglese interpreta il lancio come una strategia dominante perché garantisce la vittoria senza possibilità di ritorsione e decide quindi di utilizzare l’arma nucleare. Con il ragionamento in giapponese, di fronte allo stesso identico scenario, il modello introduce invece il concetto di “costo morale” e conclude che non esiste alcuna ragione per sostenerlo, scegliendo quindi di non effettuare il lancio. Proprio il fatto che il concetto morale non fosse contenuto nel prompt costituisce uno degli elementi centrali dell’esperimento.
Lo scenario è stato deliberatamente costruito in modo da isolare la variabile linguistica. Dal punto di vista della teoria dei giochi, il lancio garantiva infatti la vittoria senza rischio, così da permettere ai ricercatori di verificare se il modello avrebbe seguito esclusivamente l’ottimo strategico oppure introdotto autonomamente altri criteri decisionali. La scelta di una singola decisione finale eliminava inoltre variabili legate alle interazioni multi-turno, al comportamento dell’avversario e alla memoria delle conversazioni precedenti. Per consentire ai modelli di partecipare all’esperimento, la simulazione veniva presentata esplicitamente come esercizio accademico e wargame: senza questa cornice alcuni sistemi rifiutavano infatti di rispondere a causa dei propri meccanismi di sicurezza. Una volta definito chiaramente il contesto sperimentale, tutti e nove i modelli hanno completato il test.
L’ipotesi proposta per spiegare almeno parte della differenza osservata riguarda il modo in cui valori ed esperienze storiche possono essere incorporati nelle rappresentazioni linguistiche apprese dai modelli. Il giapponese possiede un vocabolario strettamente associato all’esperienza delle bombe atomiche di Hiroshima e Nagasaki, compresi termini che non dispongono di equivalenti diretti e altrettanto compatti in inglese. Il prefisso “hibaku”, per esempio, identifica persone, edifici e oggetti colpiti dalla bomba atomica, mentre “hibakusha” indica specificamente i sopravvissuti ai bombardamenti atomici del 1945. Secondo l’ipotesi formulata nello studio, strutture linguistiche di questo tipo possono conservare associazioni culturali ed emotive che vengono attenuate quando devono essere espresse attraverso formulazioni più descrittive in un’altra lingua.
I modelli non citavano direttamente Hiroshima o Nagasaki nei propri ragionamenti, quindi i risultati non indicano semplicemente il recupero di un’associazione esplicita con i due bombardamenti. L’interpretazione proposta è invece che ragionare in una determinata lingua possa attivare reti di concetti implicitamente appresi durante l’addestramento, modificando il peso attribuito a considerazioni strategiche, morali e umane. Il fenomeno si collega a precedenti ricerche che hanno mostrato come i Large Language Model possano codificare valori culturali differenti e produrre giudizi diversi in funzione della lingua utilizzata, ma in questo caso l’attenzione è stata posta specificamente sulla lingua del ragionamento e sulla sua capacità di modificare una decisione finale.
Lo studio distingue inoltre questo fenomeno dalle ricerche sulla possibilità di aggirare i sistemi di sicurezza utilizzando lingue differenti. L’obiettivo non era verificare se una lingua permettesse di superare i guardrail, ma misurare se il contesto culturale incorporato nelle rappresentazioni linguistiche potesse introdurre spontaneamente maggiore o minore moderazione. I risultati mostrano che questo effetto esiste almeno per alcuni modelli, ma anche che non può essere generalizzato a tutti i sistemi: una parte degli LLM testati ha mantenuto praticamente invariato il proprio comportamento indipendentemente dalla lingua.
La dipendenza delle decisioni dalla lingua utilizzata per il ragionamento diventa particolarmente rilevante quando gli stessi modelli generalisti vengono considerati come componenti di sistemi autonomi destinati ad ambienti critici. Se una scelta identica può ricevere pesi morali e strategici differenti semplicemente modificando la lingua del processo di ragionamento, il comportamento del modello non dipende soltanto dalle istruzioni esplicite o dai guardrail applicati a valle, ma anche dalle associazioni statistiche e culturali presenti nello spazio latente costruito durante l’addestramento. I risultati non dimostrano che il giapponese renda generalmente un modello più sicuro, né che il fenomeno riguardi esclusivamente questa lingua: mostrano piuttosto che, in alcuni LLM, la lingua scelta per ragionare rappresenta essa stessa una variabile capace di modificare in misura sostanziale una decisione critica.
Questo articolo è stato redatto con il supporto di strumenti di intelligenza artificiale (AI)