Anthropic ha iniziato a inserire nei testi generati da Claude watermark invisibili progettati per consentire a sistemi automatici di riconoscere il coinvolgimento dell’intelligenza artificiale nella produzione del contenuto. Il sistema introduce all’interno del testo segnali rilevabili dalle macchine e progettati per sopravvivere alla copia e incolla e ad alcune modifiche successive, creando quindi una traccia persistente dell’intervento del modello. Anthropic collega l’introduzione di questa tecnologia anche ai requisiti di trasparenza previsti dall’AI Act europeo per i contenuti generati dall’intelligenza artificiale. Al momento, tuttavia, non è stato messo a disposizione degli utenti uno strumento pubblico per verificare direttamente la presenza del watermark nei testi di Claude. Google utilizza già un approccio analogo con SynthID per identificare contenuti generati dai modelli Gemini, anche se il processo di verifica non è ancora particolarmente immediato per l’utente comune.
L’introduzione del watermark solleva però un problema legato alla distinzione tra contenuti interamente scritti dall’AI e documenti sui quali l’intelligenza artificiale è intervenuta soltanto in fase di elaborazione. Un testo originariamente scritto da una persona può infatti essere inviato a Claude per riorganizzare alcuni paragrafi, sintetizzare una relazione molto lunga, correggere la forma o migliorare determinate espressioni e conservare comunque una traccia dell’elaborazione effettuata dal modello. In questo caso la presenza del watermark potrebbe segnalare un intervento dell’AI senza chiarire quale parte del contenuto sia stata effettivamente prodotta dal sistema. Da qui nasce la proposta di distinguere concettualmente tra un contenuto “Written by AI”, cioè scritto dall’intelligenza artificiale, e un contenuto “Processed by AI”, nel quale il materiale umano è stato soltanto elaborato, corretto o trasformato attraverso un modello.
La differenza diventa particolarmente importante nei flussi di lavoro professionali, nei quali l’AI viene ormai utilizzata non soltanto per produrre testi completi ma anche per preparare bozze di email, documenti interni, verbali di riunioni, rapporti di ricerca e messaggi destinati alle piattaforme collaborative. Un dipendente potrebbe scrivere autonomamente l’intero contenuto di un rapporto e utilizzare Claude esclusivamente per migliorare alcune frasi, mentre un altro potrebbe delegare al modello la produzione della maggior parte del documento e limitarsi successivamente alla revisione. Entrambi i testi potrebbero contenere segnali riconducibili all’AI, pur derivando da processi di produzione profondamente differenti e con un diverso livello di intervento umano.
Lo stesso problema riguarda i sistemi di rilevamento automatico dei testi prodotti dall’intelligenza artificiale. Pangram sta preparando una funzione in grado di identificare, tra gli altri contenuti, email scritte da modelli AI, ma i test hanno mostrato che il sistema può continuare a classificare come generato dall’intelligenza artificiale anche un testo originariamente prodotto da un modello e successivamente ampiamente modificato da una persona. Un watermark può quindi fornire un’indicazione più deterministica sul fatto che un modello abbia partecipato al processo, ma non è necessariamente in grado di misurare quanto abbia contribuito alla versione finale né quale porzione del contenuto derivi direttamente dall’AI.
Questa distinzione assume un peso diverso a seconda del contesto. In ambito scolastico, affidare a Claude l’intera realizzazione di un compito e utilizzarlo soltanto per verificare grammatica e forma possono essere comportamenti valutati in maniera completamente differente dalle regole dell’istituto. Lo stesso vale per opere letterarie, concorsi e attività nelle quali la produzione umana costituisce esplicitamente una parte fondamentale del risultato. Per email, documenti interni e altre attività operative nelle quali l’utilizzo dell’AI è già integrato nel normale workflow, invece, la semplice presenza di un watermark può avere un significato molto più limitato.
Il sistema di Anthropic porta quindi il problema della trasparenza oltre la semplice domanda se un testo sia stato realizzato oppure no con l’intelligenza artificiale. La presenza di un segnale persistente può documentare il coinvolgimento di Claude, ma non permette da sola di stabilire se il modello abbia scritto l’intero contenuto, elaborato una bozza umana o apportato soltanto modifiche marginali. L’eventuale adozione di tecnologie analoghe da parte di altri grandi fornitori, compresa OpenAI nell’ambito degli obblighi europei sulla trasparenza dei contenuti generati dall’AI, potrebbe rendere ancora più rilevante la necessità di distinguere non soltanto se l’intelligenza artificiale è stata utilizzata, ma soprattutto in quale misura e con quale funzione all’interno del processo di produzione del testo.
Questo articolo è stato redatto con il supporto di strumenti di intelligenza artificiale (AI)