L’introduzione da parte di Anthropic di una filigrana invisibile nei testi generati dai nuovi modelli Claude ha provocato reazioni negative soprattutto tra gli utenti che utilizzano il chatbot in ambito professionale. Le preoccupazioni riguardano la possibilità che documenti, testi aziendali o codice sui quali Claude interviene anche soltanto come strumento di revisione possano successivamente essere riconosciuti come contenuti elaborati dall’intelligenza artificiale, creando problemi di attribuzione, conformità alle policy interne delle aziende o rispetto di clausole contrattuali. Alcuni abbonati a Claude Max hanno dichiarato pubblicamente di aver cancellato il servizio proprio dopo l’introduzione del sistema di watermarking.
Tra questi figura Arturo Villaroya, professionista attivo nel settore delle politiche pubbliche negli Stati Uniti, che ha comunicato di aver abbandonato Claude Max e di essere passato a Cursor e Grok. La sua principale obiezione riguarda l’utilizzo di Claude per attività come il controllo ortografico o la sistemazione delle citazioni: anche quando il contenuto originale viene scritto interamente dall’utente, l’intervento del modello potrebbe introdurre una quantità sufficiente di testo generato da rendere rilevabile la filigrana. Una preoccupazione simile è stata espressa da Richard Echols, consulente AI in Georgia, che ha cancellato l’abbonamento il 12 agosto spiegando di utilizzare Claude soprattutto per modificare documenti aziendali costruiti a partire da materiale scritto personalmente.
Le reazioni negative hanno coinvolto anche gli sviluppatori software. Il freelance ceco Vladislav Reitmaier e l’ingegnere software montenegrino Stevan Bogosavljevic hanno indicato tra i motivi della cancellazione dell’abbonamento il rischio che codice sviluppato per clienti possa risultare identificabile come prodotto o modificato da un sistema AI. In contesti nei quali contratti, procedure aziendali o requisiti di compliance impongono limiti all’utilizzo dell’intelligenza artificiale, la possibilità di rilevare una filigrana rappresenta infatti un elemento potenzialmente problematico anche quando Claude è stato utilizzato soltanto per correggere, rifattorizzare o perfezionare materiale originariamente prodotto da uno sviluppatore umano.
Il punto più contestato riguarda quindi la difficoltà di distinguere tra contenuto realmente scritto dall’AI e contenuto umano successivamente sottoposto a editing. Anthropic utilizza una variante di SynthID-Text che non aggiunge caratteri invisibili o metadati al testo, ma modifica statisticamente alcune scelte dei token effettuate durante la generazione. Quando il modello dispone di più formulazioni linguistiche equivalenti, il sistema seleziona determinate alternative secondo uno schema riconoscibile mediante una chiave. Più testo viene prodotto direttamente da Claude, maggiore diventa il numero di segnali disponibili per rilevare il watermark.
Anthropic precisa che una semplice correzione ortografica o grammaticale potrebbe lasciare una traccia troppo debole per essere rilevata, perché gran parte del testo rimane quello originale dell’utente. Non esiste tuttavia una separazione assoluta tra proofreading e riscrittura: se Claude modifica porzioni più consistenti del documento, aumenta anche la quantità di token sui quali può essere incorporata la filigrana. Le traduzioni rappresentano un caso ancora più netto, perché praticamente ogni parola del testo finale viene scelta dal modello e il watermark può quindi distribuirsi lungo l’intero output.
Questa caratteristica ha alimentato il timore che un sistema di rilevamento possa finire per classificare nello stesso modo lavori molto diversi tra loro: da un testo interamente scritto da Claude fino a un documento umano sottoposto a una revisione sufficientemente estesa. Anthropic sottolinea che la filigrana non certifica che un testo sia interamente generato dall’AI e non determina né proprietà né autorialità del contenuto, ma indica soltanto statisticamente che Claude potrebbe essere stato coinvolto nella generazione o nell’elaborazione. Il watermark non contiene inoltre informazioni sull’utente, sull’account, sulla conversazione o sull’organizzazione che ha utilizzato il modello.
La distinzione tecnica non ha però eliminato le critiche. L’analista tecnologico Ben Thompson ha contestato proprio l’idea che uno strumento utilizzato per correggere o perfezionare materiale umano possa lasciare un segnale che permetta successivamente di associare il documento all’utilizzo dell’intelligenza artificiale. Per professionisti, consulenti e sviluppatori, il problema non riguarda quindi necessariamente la qualità del sistema di watermarking, ma le conseguenze che una futura verifica potrebbe avere in ambienti nei quali l’utilizzo dell’AI è regolamentato o deve essere dichiarato.
Anthropic ha dichiarato di non aver rilevato un aumento significativo del tasso complessivo di cancellazione degli abbonamenti dopo l’introduzione della filigrana, ridimensionando quindi l’idea di un esodo generalizzato degli utenti. Le cancellazioni rese pubbliche evidenziano tuttavia un problema specifico per una fascia di utilizzatori professionali: chi usa Claude non come autore sostitutivo, ma come editor, revisore, assistente alla programmazione o strumento per migliorare documenti già esistenti può non voler lasciare nel risultato finale un segnale rilevabile dell’intervento dell’AI.
Anthropic prevede inoltre di rendere disponibile gratuitamente un’API attraverso la quale utenti e terze parti potranno verificare la presenza della filigrana. Proprio questa futura possibilità di controllo rende il tema particolarmente sensibile negli ambienti professionali, perché trasforma il watermark da caratteristica tecnica interna del modello a informazione potenzialmente verificabile da clienti, aziende, istituzioni o altri soggetti che ricevono il contenuto. La società sostiene che il sistema sia stato progettato per rispettare gli obblighi di trasparenza previsti dall’AI Act europeo, ma le prime reazioni mostrano come l’applicazione globale della marcatura possa entrare in conflitto con le esigenze degli utenti che vogliono utilizzare l’AI come semplice strumento di supporto senza far classificare il proprio lavoro come contenuto generato artificialmente.
Questo articolo è stato redatto con il supporto di strumenti di intelligenza artificiale (AI)