Phrasly ha annunciato il 3 novembre 2026 un nuovo sistema gratuito per individuare immagini create o modificate attraverso strumenti di intelligenza artificiale generativa. La piattaforma, già utilizzata da oltre cinque milioni di persone per attività di scrittura e analisi dei testi, estende le proprie funzionalità al riconoscimento delle immagini sintetiche mediante un sistema che combina classificazione visiva, verifica di watermark e controllo delle firme digitali. Il servizio è utilizzabile senza registrazione e consente di analizzare fotografie, illustrazioni e contenuti grafici attraverso il caricamento di un file, il trascinamento nell’interfaccia, l’incollaggio di un’immagine oppure l’inserimento di un collegamento diretto. Sono supportati i formati JPG, PNG, WebP, HEIC, AVIF e GIF, con una dimensione massima di 20 MB per file. Secondo Phrasly, le immagini vengono esaminate in memoria senza essere conservate dal servizio. Il risultato comprende una classificazione relativa alla presenza di contenuto generato con AI, un punteggio di confidenza e una mappa termica che evidenzia le aree dell’immagine maggiormente associate ai segnali di generazione artificiale.
Il sistema è stato sviluppato per affrontare i limiti dei metodi di identificazione che dipendono esclusivamente dalle informazioni incorporate nei file. I watermark invisibili e i metadati di provenienza possono essere rimossi durante operazioni comuni come l’acquisizione di uno screenshot, il salvataggio da una piattaforma social, la conversione del formato o il successivo caricamento dell’immagine su un altro servizio. Alcuni generatori, inoltre, non inseriscono informazioni di provenienza direttamente verificabili. Phrasly utilizza quindi un proprio modello addestrato su milioni di fotografie reali e immagini sintetiche prodotte da diversi sistemi generativi. Il riconoscimento viene effettuato sul contenuto visivo, senza richiedere che il file conservi le informazioni originali sulla generazione. Nei test interni, l’azienda dichiara un’accuratezza superiore al 99% su immagini prodotte con ChatGPT, DALL-E, Gemini, Midjourney, Stable Diffusion, FLUX, Adobe Firefly e altri generatori, anche in assenza di watermark. La percentuale costituisce una misurazione riportata dal produttore e non equivale a una garanzia di correttezza per tutte le immagini, le manipolazioni e i contesti di utilizzo.
Ogni scansione combina tre controlli distinti. Il primo utilizza il modello proprietario di Phrasly per esaminare direttamente l’immagine e individuare caratteristiche statistiche compatibili con la generazione sintetica. Il secondo cerca la presenza di SynthID, il sistema di watermark invisibile sviluppato da Google DeepMind per identificare contenuti generati attraverso strumenti compatibili. Il terzo verifica le firme di provenienza associate alle immagini prodotte da servizi come ChatGPT, Gemini, Adobe Firefly, Copilot e FLUX, confrontando le informazioni disponibili con la lista di fiducia ufficiale dello standard C2PA. I tre risultati vengono presentati separatamente accanto al verdetto complessivo, in modo che l’utente possa distinguere una classificazione probabilistica basata sull’analisi dei pixel da un riscontro fondato sulla presenza di informazioni di provenienza verificabili. Quando il file non conserva alcun dato relativo alla generazione, il sistema si affida al modello visivo e al relativo punteggio di confidenza.
Una funzione specifica riguarda il riconoscimento delle immagini modificate soltanto in alcune porzioni. Le fotografie reali possono essere alterate attraverso la sostituzione dello sfondo, l’aggiunta o rimozione di oggetti, il ritocco dei volti oppure la generazione di elementi inseriti successivamente nella composizione. In questi casi, una classificazione binaria dell’intera immagine non descrive adeguatamente la combinazione di contenuto fotografico autentico e componenti sintetiche. Phrasly utilizza quindi una heatmap che segnala le regioni sulle quali il modello rileva maggiori indizi di manipolazione generativa, permettendo di indirizzare l’analisi visiva verso le aree interessate. La stessa procedura può essere applicata a screenshot e copie ripubblicate, purché i contenuti mantengano caratteristiche visive sufficienti per l’elaborazione del modello.
L’azienda propone il servizio per il controllo delle fotografie utilizzate nelle notizie, la verifica delle immagini dei profili online, la moderazione degli annunci commerciali e la valutazione di materiali presentati come opere originali. Tra le situazioni considerate figurano gli annunci di vendita che mostrano prodotti inesistenti, le immagini associate a profili falsificati, i contenuti presentati come prove fotografiche durante eventi di cronaca e le opere scolastiche generate artificialmente senza dichiararne la provenienza. Phrasly richiama inoltre un esperimento condotto nel 2025 dal Microsoft AI for Good Lab, nel quale oltre 12.500 partecipanti hanno distinto fotografie reali e immagini generate con AI con una percentuale di risposte corrette del 62%. Il nuovo rilevatore introduce quindi un’analisi multilivello che combina elementi visivi, watermark e firme digitali, pur mantenendo una distinzione necessaria tra le evidenze di provenienza verificabili e i risultati probabilistici prodotti dai modelli di classificazione.
Questo articolo è stato redatto con il supporto di strumenti di intelligenza artificiale (AI)