OpenAI ha annunciato un aggiornamento delle proprie misure di prevenzione della violenza, introducendo restrizioni aggiuntive sulle informazioni relative alle armi, sui contenuti riguardanti attacchi violenti del passato e sulle interazioni che possono manifestare segnali di rischio. Contestualmente, la società ha comunicato l’intenzione di pubblicare un Community Safety Report con cadenza semestrale, destinato a documentare le attività di prevenzione, i sistemi di individuazione dei comportamenti problematici e i risultati delle misure di protezione adottate. La prima edizione è prevista per l’inizio del 2027 e riguarderà il secondo semestre del 2026. Il documento comprenderà informazioni sulle modalità di addestramento e configurazione dei sistemi di rilevamento dei rischi, descrizioni anonimizzate di situazioni riconducibili a potenziali danni, aggiornamenti delle politiche di utilizzo e dati relativi agli interventi effettuati. Nel terzo trimestre del 2026 OpenAI ha dichiarato di aver effettuato oltre 200 segnalazioni alle autorità di pubblica sicurezza. La società ha inoltre precisato di avvalersi del contributo di esperti di salute mentale e comportamento per la valutazione dei casi complessi, nell’ambito di un modello di prevenzione che coinvolge differenti soggetti e competenze.
Le modifiche alle politiche di ChatGPT riguardano innanzitutto il trattamento delle richieste relative agli attacchi di massa già avvenuti. I sistemi vengono ulteriormente limitati nella possibilità di fornire ricostruzioni dettagliate delle modalità operative degli aggressori, comprese informazioni sugli strumenti utilizzati, sulle procedure di acquisizione delle armi e su specifiche caratteristiche tecniche che potrebbero agevolare l’emulazione di episodi violenti. Vengono inoltre ridotte le possibilità di ottenere confronti quantitativi particolarmente dettagliati sull’entità dei danni prodotti da differenti attacchi, quando tali informazioni rischiano di alimentare la notorietà degli autori. Le restrizioni si applicano indipendentemente dall’età dell’utente e dalla motivazione dichiarata nella richiesta. Rimane possibile utilizzare ChatGPT per comprendere gli avvenimenti, analizzarne le conseguenze sulle vittime e sulle comunità, individuare segnali di rischio e approfondire le misure preventive. L’aggiornamento si aggiunge alle politiche già esistenti, che vietano di assistere gli utenti nella pianificazione o nell’esecuzione di atti violenti e prevedono limitazioni alla diffusione di contenuti che possano facilitare comportamenti pericolosi.
Un ulteriore intervento riguarda la capacità dei sistemi di considerare elementi emersi nelle conversazioni precedenti quando devono valutare richieste potenzialmente rischiose. OpenAI aveva già introdotto nel maggio 2026 una modalità basata su brevi riepiloghi fattuali di segnali di allarme identificati nelle interazioni precedenti. L’aggiornamento annunciato prevede un utilizzo più prudente delle informazioni quando le conversazioni recenti contengono indicatori riconducibili a possibili intenzioni violente. La società sta inoltre sviluppando meccanismi automatici di intervento anticipato che, in presenza di segnali di fissazione persistente sulla violenza o sull’intenzione di arrecare gravi danni a un’altra persona, potranno interrompere direttamente la conversazione. Nel caso di interruzioni ripetute per motivazioni analoghe, OpenAI potrà applicare una sospensione temporanea dell’account. Questi strumenti sono in fase di sviluppo con il contributo di specialisti nella prevenzione della violenza e della salute mentale e si affiancano alle procedure di sospensione degli account che risultano aver violato le politiche relative alle attività violente.
Particolare attenzione viene riservata agli utenti di età inferiore ai 18 anni, ai quali sono applicate ulteriori limitazioni nell’accesso alle informazioni pratiche riguardanti armi e sistemi di sicurezza. Le nuove restrizioni si estendono anche alle domande apparentemente innocue, qualora le risposte possano fornire indicazioni operative suscettibili di essere utilizzate per facilitare atti violenti. Restano consentite le richieste finalizzate alla prevenzione, alla riduzione dei conflitti, alla ricerca di sostegno e al coinvolgimento di adulti di fiducia. OpenAI ha inoltre aggiornato il sistema di previsione dell’età, che analizza diversi segnali, compresi i modelli di comportamento durante l’utilizzo del servizio, per valutare se un account debba essere inserito nell’esperienza protetta riservata ai minorenni. Gli utenti adulti classificati erroneamente possono confermare la propria età mediante il servizio di verifica Persona. Per gli account collegati ai controlli parentali sono già previste notifiche relative ad alcune situazioni gravi individuate da revisori specializzati, comprese problematiche di autolesionismo e possibili disturbi alimentari. Dal luglio 2026, le notifiche comprendono anche la disattivazione di un account minorenne per violazioni delle politiche sulla violenza, mentre sono allo studio avvisi aggiuntivi nel caso di sospensioni dovute a conversazioni ripetute su comportamenti violenti. Il Community Safety Report documenterà periodicamente l’evoluzione di queste misure, distinguendo gli strumenti già operativi dagli interventi ancora in fase di implementazione.
Questo articolo è stato redatto con il supporto di strumenti di intelligenza artificiale (AI).