Nightshade, il nuovo strumento scaricabile gratuitamente sviluppato da ricercatori informatici dell’Università di Chicago, ha ottenuto un notevole successo con ben 250.000 download nei primi cinque giorni dal suo lancio. Questa iniziativa è stata accolta con grande entusiasmo da parte degli artisti desiderosi di proteggere le proprie opere dall’abuso nei processi di addestramento di intelligenza artificiale senza il loro consenso.
Il leader del progetto, il Professore di Informatica Ben Zhao, ha dichiarato: “Nightshade ha raggiunto 250.000 download in soli 5 giorni dal rilascio. Sono stato sorpreso dall’elevato interesse, ma la risposta è stata al di là di ogni nostra aspettativa”.
Questo entusiasmo iniziale rappresenta un incoraggiante inizio per questo strumento gratuito e riflette la forte volontà di molti artisti di preservare la loro creatività dall’utilizzo non autorizzato nell’addestramento di intelligenza artificiale. Mentre il Bureau of Labor Statistics stima che ci siano oltre 2,67 milioni di artisti solo negli Stati Uniti, il Prof. Zhao ha suggerito che gli utenti di Nightshade potrebbero provenire da tutto il mondo, anche se non sono stati condotti studi specifici sulla geolocalizzazione dei download.
Nightshade funziona “avvelenando” i modelli di intelligenza artificiale generativa attraverso l’alterazione delle opere d’arte pubblicate online o “ombreggiandole” a livello di pixel. In questo modo, agli algoritmi di apprendimento automatico sembrerà che tali opere contengano contenuti completamente diversi da quelli originali, ad esempio, una borsa al posto di una mucca. L’addestramento su queste immagini “ombreggiate” può portare l’algoritmo a generare risultati errati quando interrogato dagli utenti.
Nella pagina dedicata al progetto Nightshade, il Prof. Zhao e i suoi colleghi hanno dichiarato di aver sviluppato questo strumento per “aumentare il costo dell’addestramento sui dati senza licenza”, incoraggiando l’acquisizione di licenze per le immagini direttamente dai loro creatori come alternativa valida.
Il successo di Nightshade è stato così travolgente che, poco dopo il suo lancio il 18 gennaio 2023, i server web dell’Università di Chicago sono stati sovraccaricati dalla richiesta di download simultanei. Per far fronte a questa situazione, i creatori hanno dovuto introdurre collegamenti mirror che consentivano di scaricare copie del software da altre posizioni nel cloud.
Nel frattempo, il precedente strumento del team, Glaze, che previene ai modelli di intelligenza artificiale di apprendere lo “stile” distintivo di un artista tramite lievi alterazioni dei pixel, ha registrato ben 2,2 milioni di download dal suo rilascio nell’aprile 2023, come ha affermato il Prof. Zhao.
Il team di ricerca noto come “The Glaze Project”, composto da Zhao e i suoi colleghi, aveva già espresso l’intenzione di combinare le funzionalità di Glaze (difensivo) e Nightshade (offensivo) in un unico strumento. Tuttavia, questo sviluppo richiederà del tempo e test accurati, e il Prof. Zhao stima che sarà pronto almeno tra un mese o più.
Gli artisti sono stati incoraggiati a utilizzare prima Glaze e poi Nightshade per proteggere il proprio stile e interrompere l’addestramento dei modelli di intelligenza artificiale, anche se l’uso di due programmi separati può risultare leggermente più complicato.
Inoltre, c’è la possibilità di una versione open source di Nightshade in futuro. Il Prof. Zhao ha affermato: “Probabilmente prima o poi realizzeremo una versione open source, ma ci vorrà del tempo per pubblicare diverse versioni”.
Va notato che il team di ricerca non ha avuto contatti diretti con i creatori dei modelli di generazione di immagini AI, come OpenAI (DALL-E 3), Midjourney, Stability AI (Stable Diffusion) e altri. Tuttavia, questi strumenti vengono utilizzati in varie applicazioni, compresa la creazione di immagini per articoli e altri contenuti.