Meta ha rimosso una funzione collegata al nuovo modello generativo Muse Image che consentiva di creare immagini artificiali partendo dai contenuti pubblicati su profili Instagram pubblici. Era sufficiente menzionare un account all’interno di una richiesta rivolta a Meta AI perché il sistema potesse utilizzare come riferimento le fotografie, i Reel e l’immagine del profilo associati a quell’utente.
La funzione trasformava quindi un normale profilo pubblico in una possibile fonte visiva per la generazione di nuovi contenuti. Il sistema non si limitava a modificare una fotografia caricata direttamente dall’utilizzatore, ma poteva recuperare i materiali di un altro account e impiegarli per produrre scene, variazioni e reinterpretazioni generate dall’intelligenza artificiale. L’accessibilità pubblica del contenuto veniva così estesa dalla semplice visualizzazione alla possibilità di riutilizzo generativo.
Il meccanismo era attivo automaticamente per gli account pubblici degli utenti maggiorenni. Chi non desiderava consentire l’impiego dei propri contenuti doveva intervenire manualmente nelle impostazioni di Instagram, all’interno della sezione dedicata alla condivisione e al riutilizzo. Erano previste opzioni separate per limitare l’uso dei post e dei Reel, mentre la trasformazione del profilo in privato impediva al sistema di accedere ai materiali attraverso questa funzione.
La configurazione basata sull’opt-out ha rappresentato l’aspetto più controverso. La pubblicazione di una fotografia su un profilo visibile non implica necessariamente il consenso alla creazione di nuove rappresentazioni sintetiche della persona ritratta. Rendere disponibile un’immagine per la consultazione all’interno di un social network è infatti diverso dal permettere che venga utilizzata come riferimento biometrico, estetico o stilistico da un modello generativo.
Il problema diventava particolarmente evidente nel caso dei volti. L’associazione tra nome utente e archivio fotografico consentiva di chiedere al sistema di collocare una persona riconoscibile in situazioni mai avvenute, modificarne l’aspetto o produrre immagini sufficientemente realistiche da essere scambiate per contenuti autentici. Anche in presenza di limitazioni applicate dal modello, la funzione riduceva sensibilmente la difficoltà tecnica necessaria per creare impersonificazioni e falsificazioni visive.
Gli stessi strumenti potevano essere impiegati per imitare elementi ricorrenti nel lavoro di fotografi, artisti e creatori. Un account pubblico non contiene soltanto immagini di persone, ma può rappresentare un insieme coerente di composizioni, illuminazioni, ambientazioni e scelte estetiche. Utilizzarlo come riferimento permette al modello di riprodurne alcune caratteristiche senza richiedere il caricamento manuale dei singoli materiali.
L’assenza di un’autorizzazione preventiva introduceva inoltre un problema di consapevolezza. Il proprietario dell’account non riceveva necessariamente una notifica quando un altro utente ne richiamava i contenuti per generare un’immagine. Il controllo era quindi affidato soprattutto a un’impostazione preventiva che molte persone potevano non conoscere, nonostante la funzione modificasse in modo sostanziale le possibilità di riutilizzo delle fotografie già pubblicate.
Le restrizioni applicate dopo l’attivazione non risolvevano completamente il problema. La disabilitazione dell’opzione poteva impedire nuove elaborazioni, ma non garantiva automaticamente la rimozione delle immagini già generate da altri utenti. Una volta prodotto e salvato, un contenuto sintetico può infatti essere copiato, ricondiviso o trasferito al di fuori delle piattaforme Meta, rendendo difficile ricostruirne la diffusione.
La questione non riguardava quindi soltanto il trattamento dei dati utilizzati per addestrare i modelli. Muse Image interveniva direttamente nella fase di inferenza, selezionando contenuti pubblici come riferimenti per una nuova generazione richiesta da un utente. È una distinzione importante perché anche un’immagine non impiegata per l’addestramento generale di un modello può essere elaborata successivamente per produrre una rappresentazione sintetica specifica.
Dopo le proteste di utenti, associazioni professionali e organizzazioni impegnate nella tutela delle persone rappresentate digitalmente, Meta ha disattivato la possibilità di generare immagini menzionando account Instagram pubblici. L’azienda ha riconosciuto che la funzione non aveva raggiunto il corretto equilibrio tra utilità creativa e controllo individuale. Muse Image e gli altri strumenti di generazione e modifica sono rimasti disponibili, ma senza l’accesso automatico ai contenuti di profili altrui attraverso la semplice menzione del nome utente.
Il ritiro mostra che la sicurezza di un generatore di immagini non dipende esclusivamente dai contenuti che il modello accetta o rifiuta di produrre. Anche la progettazione delle modalità di accesso ai materiali di riferimento determina il livello di rischio. Un sistema può integrare filtri contro alcune categorie di immagini abusive e continuare comunque a creare un problema strutturale quando considera il consenso implicito, rende il riutilizzo automatico o trasferisce all’utente l’onere di scoprire e disattivare la funzione.
Per gli strumenti che utilizzano fotografie associate a persone identificabili, il consenso esplicito rappresenta una protezione più solida rispetto all’attivazione automatica. Un’architettura basata sull’opt-in richiede che il proprietario dell’account autorizzi volontariamente il riutilizzo, mentre un sistema opt-out rende disponibili i contenuti fino al momento in cui l’interessato interviene. Nel campo dell’intelligenza artificiale generativa, questa differenza determina chi mantiene concretamente il controllo sulla propria immagine digitale.