OpenAI ha presentato Private Safety Processing, una nuova tecnologia di sicurezza destinata ai clienti enterprise e progettata per individuare potenziali abusi anche quando i segnali di rischio sono distribuiti su più interazioni, senza modificare i principi della Zero Data Retention. Per i clienti API che utilizzano ZDR, i prompt e le risposte del modello continuano quindi a non essere conservati da OpenAI una volta completata l’elaborazione della richiesta, mentre i contenuti del cliente non sono accessibili al personale dell’azienda e i dati enterprise non vengono utilizzati per addestrare i modelli senza consenso esplicito.
Il sistema nasce per superare uno dei limiti dei controlli di sicurezza applicati esclusivamente alla singola richiesta. Un prompt isolato può infatti apparire perfettamente legittimo, anche quando fa parte di una sequenza più ampia di operazioni potenzialmente dannose. OpenAI utilizza l’esempio di un utente che in una conversazione chiede informazioni sulle vulnerabilità di un software aziendale e, in una sessione successiva, domanda come ottenere accesso remoto o aggirare i sistemi di rilevamento. Analizzate separatamente, le richieste potrebbero essere compatibili con normali attività di ricerca sulla sicurezza informatica; considerate insieme possono invece mostrare uno schema coerente con la preparazione di un attacco.
Private Safety Processing permette di analizzare automaticamente questi pattern distribuiti tra più interazioni senza trasmettere a OpenAI il contenuto originale delle conversazioni. Il meccanismo separa infatti i dati grezzi dalle informazioni utilizzate per la sicurezza: quando il sistema identifica un possibile comportamento anomalo, vengono prodotti soltanto segnali limitati che descrivono elementi come la tipologia del rischio e il relativo livello di gravità. I prompt e le risposte che hanno generato il segnale non vengono inviati insieme all’alert.
Anche in presenza di un segnale di rischio, il contenuto del cliente non viene automaticamente reso disponibile al personale OpenAI. L’organizzazione può analizzare autonomamente l’evento all’interno della propria infrastruttura e decidere se si tratta di un falso positivo, di un’attività legittima oppure di un possibile abuso. Solo quando il cliente ritiene necessario approfondire l’accaduto può scegliere volontariamente di condividere con OpenAI le informazioni rilevanti.
L’architettura è pensata soprattutto per scenari nei quali gli agenti AI operano per periodi più lunghi e svolgono attività articolate in più passaggi. In questi casi, il comportamento potenzialmente problematico può emergere non da una singola richiesta, ma dalla sequenza di azioni compiute nel tempo. Private Safety Processing consente quindi di rilevare pattern distribuiti tra sessioni differenti e anche eventuali comportamenti anomali prodotti da sistemi agentici, mantenendo separato il livello di analisi della sicurezza dai contenuti originali del cliente.
OpenAI sta inoltre sviluppando un secondo modello di protezione per i clienti che scelgono di conservare i dati sull’infrastruttura dell’azienda invece che su sistemi controllati direttamente dal cliente. In questo caso i dati potranno essere protetti attraverso chiavi di cifratura gestite dal cliente stesso. OpenAI non conserverebbe una copia di queste chiavi e, di conseguenza, il proprio personale non potrebbe accedere ai prompt e alle risposte memorizzati in forma cifrata.
La tecnologia si affianca alle opzioni già disponibili per mantenere i dati all’interno di infrastrutture controllate direttamente dalle organizzazioni. L’impostazione è destinata soprattutto a settori nei quali vengono trattate informazioni particolarmente sensibili, come servizi finanziari, sanità, ricerca e sicurezza aziendale, dove l’utilizzo dei sistemi AI può coinvolgere documentazione finanziaria, informazioni sanitarie, segreti commerciali e materiali di ricerca che non possono essere conservati o ispezionati liberamente dal fornitore della piattaforma.
Private Safety Processing è attualmente in fase di test con un gruppo iniziale di clienti. Tra le organizzazioni coinvolte nelle prime sperimentazioni figurano Microsoft e Databricks. OpenAI prevede di iniziare il rollout più ampio della tecnologia a settembre 2026 e di pubblicare contestualmente un white paper dedicato al funzionamento del sistema e alle relative caratteristiche di sicurezza.
Questo articolo è stato redatto con il supporto di strumenti di intelligenza artificiale (AI)