OpenAI sta ampliando il proprio sistema di tracciamento dei contenuti generati dall’intelligenza artificiale attraverso un’integrazione tra standard crittografici internazionali e watermark invisibili sviluppati per resistere alle trasformazioni digitali. L’obiettivo è costruire un’infrastruttura più robusta per identificare la provenienza delle immagini AI, in un momento in cui la crescente diffusione dei modelli generativi rende sempre più difficile distinguere contenuti autentici da contenuti sintetici.
La nuova strategia combina due tecnologie differenti ma complementari: le Content Credentials basate sullo standard C2PA e il sistema di watermarking invisibile SynthID sviluppato da Google DeepMind. OpenAI utilizza già dal 2024 i metadati C2PA su modelli come DALL·E 3 e Sora, ma il nuovo approccio introduce un livello aggiuntivo di persistenza e verificabilità destinato a ridurre i limiti strutturali dei soli metadati.
C2PA, acronimo di Coalition for Content Provenance and Authenticity, è uno standard aperto progettato per registrare la cronologia di creazione e modifica dei contenuti digitali direttamente all’interno dei file. Nel caso delle immagini AI, il sistema può memorizzare informazioni relative allo strumento utilizzato, all’origine del contenuto, alle modifiche effettuate e alla catena di elaborazione, utilizzando firme crittografiche per garantire l’integrità dei dati. Questo consente di creare una sorta di “passaporto digitale” del contenuto.
Il problema principale dei metadati, però, è la loro fragilità operativa. Durante upload, download, conversioni di formato, ridimensionamenti o acquisizioni tramite screenshot, le informazioni C2PA possono essere eliminate o danneggiate. È proprio per affrontare questa criticità che OpenAI ha deciso di integrare SynthID.
La tecnologia sviluppata da Google DeepMind funziona in modo differente rispetto ai metadati tradizionali. Invece di archiviare informazioni separatamente all’interno del file, SynthID incorpora segnali invisibili direttamente nei pattern dell’immagine generata. Questi watermark non sono percepibili dall’occhio umano, ma possono essere rilevati algoritmicamente anche dopo modifiche digitali relativamente aggressive. Il sistema è progettato per sopravvivere meglio a screenshot, compressioni, ritagli e trasformazioni dell’immagine rispetto ai normali sistemi basati esclusivamente sui metadati.
Dal punto di vista tecnico, la combinazione tra C2PA e watermark invisibili introduce un modello multilivello di verifica della provenienza. I metadati consentono di conservare informazioni dettagliate e strutturate sull’origine del contenuto, mentre il watermark persistente offre una forma di tracciamento che continua a funzionare anche quando la struttura originale del file viene alterata. OpenAI sostiene che l’utilizzo simultaneo delle due tecnologie produca un sistema di autenticazione significativamente più resiliente rispetto all’adozione di ciascuna soluzione singolarmente.
L’integrazione di SynthID riguarda le immagini generate attraverso ChatGPT, Codex e le API OpenAI. Contestualmente, l’azienda ha rilasciato anche uno strumento pubblico di verifica che permette agli utenti di caricare immagini e controllare la presenza simultanea di credenziali C2PA e watermark SynthID. Il sistema analizza sia i metadati sia i segnali invisibili incorporati nell’immagine per determinare se il contenuto sia stato prodotto utilizzando strumenti OpenAI.
OpenAI ha comunque precisato che nessun sistema di rilevamento può essere considerato completamente affidabile. L’assenza di metadati o watermark non garantisce infatti che un’immagine non sia stata generata dall’intelligenza artificiale, perché i segnali di provenienza possono essere rimossi, corrotti o degradati durante la distribuzione online. Questa precisazione evidenzia uno dei problemi centrali dell’attuale ecosistema AI: la verifica dell’origine dei contenuti è probabilistica e non assoluta.
L’iniziativa si inserisce in un più ampio sforzo industriale volto alla costruzione di standard condivisi per la provenienza dei contenuti digitali. OpenAI ha recentemente aderito formalmente al programma di conformità C2PA e ha dichiarato di voler estendere in futuro il sistema di verifica anche a piattaforme e modelli AI differenti dai propri. L’obiettivo a lungo termine è creare un’infrastruttura interoperabile capace di accompagnare l’intero ecosistema generativo, in un contesto in cui la fiducia nell’autenticità delle immagini digitali sta diventando una questione sempre più critica per media, istituzioni, piattaforme social e sistemi informativi.