Anthropic ha iniziato a introdurre nei testi generati da Claude un sistema di watermark invisibile progettato per rendere più semplice l’identificazione dei contenuti prodotti dall’intelligenza artificiale. Il meccanismo non si basa sull’inserimento di caratteri speciali nascosti o di semplici metadati, ma modifica statisticamente i pattern di scelta delle parole durante la generazione del testo. In questo modo il watermark può continuare a essere rilevabile anche dopo operazioni comuni come copia e incolla, perché la firma è incorporata nella distribuzione linguistica del contenuto stesso e non soltanto in elementi tecnici associati al file o al documento.
La tecnica introduce però un problema legato all’uso parziale dell’intelligenza artificiale. Il watermark può infatti rimanere presente non soltanto quando Claude genera interamente un testo, ma anche quando viene utilizzato per attività più limitate come correzione, traduzione, riscrittura o sintesi. Alcuni utenti hanno contestato proprio questo aspetto, perché un sistema di rilevamento potrebbe classificare allo stesso modo un documento interamente prodotto dall’AI e un testo umano sottoposto soltanto a una revisione automatizzata. Le critiche hanno portato anche alcuni utilizzatori di Claude ad affermare di aver cancellato il proprio abbonamento in seguito all’introduzione della nuova politica di watermarking.
Parallelamente sono comparsi diversi strumenti progettati per eliminare o rendere meno riconoscibile la firma. Negli Stati Uniti, l’interesse di ricerca su Google Trends per l’espressione “AI watermark remover” è aumentato del 60% nell’arco di una settimana. Tra i primi progetti pubblicati figura Watermarks Remover, sviluppato dall’imprenditore tecnologico Guillaume Meyer a Parigi e distribuito come software open source poco dopo l’annuncio di Anthropic. Il sistema rimuove eventuali caratteri nascosti e metadati e successivamente riscrive il testo cercando di mantenerne il significato, modificando però le scelte lessicali in modo da alterare il pattern statistico sul quale si basa il watermark.
Meyer ha dichiarato di aver realizzato la prima versione dello strumento in circa cinque ore. Dopo la pubblicazione, il progetto ha superato le 14.000 stelle su GitHub, anche se lo sviluppatore non garantisce la rimozione del watermark nel 100% dei casi. Un secondo progetto, MarkScrub, è stato realizzato dal software developer Ansh Aneja a Tokyo nello stesso giorno dell’annuncio del sistema di watermarking di Anthropic. Anche questo strumento è stato distribuito come soluzione open source eseguibile localmente e, secondo quanto dichiarato dal suo autore, avrebbe raggiunto circa 8.500 utenti in un solo giorno.
Anche Sabrina Ramonov, attiva nel settore della formazione sull’intelligenza artificiale, ha pubblicato uno strumento accessibile dal browser che dichiara di poter rimuovere tracce AI nascoste non soltanto dal testo, ma anche da PDF, documenti Word, pagine web, immagini e file di dati. La comparsa quasi immediata di questi strumenti mostra una delle difficoltà tecniche dei watermark applicati al linguaggio naturale: a differenza di una firma crittografica inserita in un file, un pattern statistico può essere alterato semplicemente riscrivendo il contenuto con parole differenti.
Il ricercatore Thibault Gloaguen dell’ETH di Zurigo ha evidenziato proprio questo limite, spiegando che una riformulazione completa del testo può essere sufficiente a eliminare un watermark linguistico. La possibilità di aggirare il sistema aumenta inoltre quando il funzionamento del metodo di rilevamento diventa noto, perché è possibile analizzare i pattern utilizzati e sviluppare tecniche specifiche per modificarli. Il problema riguarda quindi il compromesso tra trasparenza del sistema di identificazione e resistenza ai tentativi deliberati di rimozione.
Anthropic ha precisato che il watermark non è progettato per determinare chi sia l’autore di un testo. La funzione prevista è quella di segnalare la presenza di contenuti generati dall’intelligenza artificiale, non di stabilire automaticamente se un documento debba essere considerato “scritto da una persona” oppure “scritto da Claude”. La distinzione è particolarmente importante nei casi di utilizzo ibrido, nei quali un autore umano produce il contenuto e utilizza successivamente il modello soltanto per correggerlo, riorganizzarlo o modificarne lo stile.
L’introduzione del sistema è collegata anche agli obblighi di trasparenza previsti dall’AI Act dell’Unione europea. Le indicazioni europee richiedono che i sistemi utilizzati per identificare contenuti generati dall’intelligenza artificiale siano progettati per resistere non soltanto alle normali modifiche effettuate dagli utenti, ma anche a tentativi deliberati di aggiramento. Tra le minacce da considerare rientrano esplicitamente operazioni come rimozione, rigenerazione, copia e modifica dei contenuti.
La normativa europea non chiarisce però in maniera esplicita se lo sviluppo o la distribuzione da parte di soggetti terzi di strumenti per eliminare i watermark costituisca di per sé un’attività vietata. Dmitry Lushinov dell’Università di Strathclyde ha osservato che le regole impongono obblighi di watermarking ai fornitori di sistemi AI, ma non introducono direttamente un divieto equivalente per chi sviluppa strumenti di rimozione. Una lettura simile è stata fornita da Konrad Kölbl dell’Università di Maastricht, secondo il quale né l’AI Act né i termini di Anthropic sembrano vietare esplicitamente la semplice creazione e condivisione di software destinato alla rimozione delle firme.
La situazione cambia quando la rimozione viene utilizzata per presentare deliberatamente un contenuto generato dall’intelligenza artificiale come se fosse stato scritto da una persona. Le policy di utilizzo di Anthropic vietano infatti di utilizzare gli output dei modelli per impersonare un essere umano o attribuire falsamente a una persona contenuti prodotti dal sistema. Esiste inoltre un ulteriore problema tecnico e normativo: se un watermark viene eliminato facendo riscrivere il testo da un altro modello di intelligenza artificiale, il fornitore di quel secondo sistema potrebbe essere a sua volta soggetto agli obblighi europei di identificazione dei contenuti appena generati.
Anthropic prevede inoltre di mettere a disposizione un’API dedicata al rilevamento dei testi generati dai propri modelli. Il watermark viene applicato ai nuovi modelli lanciati dopo il 2 agosto 2026 e la società intende estenderne progressivamente l’utilizzo anche agli altri modelli. L’arrivo dell’API permetterà a piattaforme e servizi esterni di automatizzare la verifica dei contenuti, ma allo stesso tempo renderà più evidente il funzionamento pratico del rilevamento e potrebbe favorire lo sviluppo di nuovi metodi progettati specificamente per superarlo.
Questo articolo è stato redatto con il supporto di strumenti di intelligenza artificiale (AI)