Google ha presentato “SynthID Text”, una nuova tecnologia in grado di rilevare il testo generato da modelli di intelligenza artificiale e di inserire una filigrana invisibile. Questa innovazione è stata annunciata da Google DeepMind e resa disponibile come open source.
Secondo quanto riportato da TechCrunch, SynthID Text è una tecnologia che integra una filigrana invisibile nel testo creato da un modello AI. Questa funzione si basa sulla tecnologia già esistente di “Synth ID”, che applica una filigrana invisibile alle immagini generate dall’intelligenza artificiale. Attualmente, gli utenti possono scaricare SynthID dal “Responsible Generative AI Toolkit” di Google e da Hugging Face.
La tecnologia sfrutta un modello linguistico di grandi dimensioni (LLM) che scompone il testo in token, come lettere, parole e frasi, e poi prevede quale token potrebbe seguire un token specifico. Ogni token riceve un punteggio di probabilità che indica quanto sia probabile che venga scelto come parola successiva nella frase. Più alto è il punteggio, maggiore è la possibilità che il token venga incluso nel testo finale. SynthID combina questo modello di punteggio con una modifica del punteggio di probabilità per identificare se il testo è stato generato da un modello AI.
Questa tecnologia permette di inserire filigrane in modo efficace senza compromettere la qualità, l’accuratezza, la creatività o la velocità del testo.
Tuttavia, SynthID ha alcune limitazioni. Ad esempio, la filigrana può risultare poco efficace con testi brevi o tradotti. Inoltre, applicare la filigrana a risposte basate su fatti può essere difficile senza compromettere la precisione.