Lo scorso mese, l’elenco dei bestseller romantici per giovani adulti di Kindle Unlimited di Amazon è stato invaso da dozzine di libri senza senso generati dall’intelligenza artificiale. Il gigante della tecnologia gestito da Jeff Bezos ha trovato un modo per monetizzare questa situazione.
Una volta che le persone hanno capito il potenziale dei modelli di intelligenza artificiale generativa come GPT, hanno iniziato a riempire i siti web di contenuti generati dall’IA di scarsa qualità al fine di attirare gli inserzionisti. Secondo un rapporto dell’organizzazione di ricerca sui media NewsGuard, questo tipo di contenuto mira a ottenere inserzioni pubblicitarie a pagamento. Le aziende che operano dietro questi modelli hanno discusso apertamente delle misure che stanno prendendo per affrontare il problema, ma non è ancora stato messo in atto un piano concreto.
Il rapporto indica che attualmente più di 140 marchi importanti stanno pagando per la pubblicità che finisce su siti scritti da IA poco affidabili, probabilmente senza saperlo. Inoltre, questi siti web sono progettati in modo tale che un lettore potrebbe presumere che il contenuto sia stato prodotto da scrittori umani, poiché il layout del sito e il tipo di contenuto sono simili a quelli dei siti web di notizie tradizionali. Inoltre, questi siti non rivelano chiaramente che il loro contenuto è generato dall’intelligenza artificiale.
È quindi giunto il momento che le autorità intervengano per sorvegliare non solo i contenuti falsi, ma anche quelli generati da entità non umane.
Secondo un recente rapporto di NewsGuard, il sorprendente 90% degli annunci pubblicitari di marchi noti che appaiono su siti web di notizie generati dall’IA è spinto da Google, nonostante le politiche dell’azienda vietino il posizionamento di annunci su pagine contenenti “contenuti generati automaticamente di spam”. Questa tendenza rappresenta una minaccia non solo per un Internet invaso da spam generato dall’IA, ma mette anche in discussione l’enorme quantità di denaro spesa per la pubblicità.
All’inizio di quest’anno, Google ha dichiarato il proprio impegno per proteggere i risultati di ricerca dallo spam e ha sottolineato che l’utilizzo di contenuti generati dall’IA per manipolare le classifiche di ricerca viola le politiche antispam all’interno di Alphabet.
Durante l’ultima conferenza Google I/O, l’azienda guidata da Sundar Pichai ha annunciato significativi progressi nel riconoscimento e nella contestualizzazione dei contenuti generati dall’IA nelle ricerche. Misure come l’aggiunta di filigrane e l’implementazione dei metadati sono state introdotte per garantire la trasparenza e consentire agli utenti di distinguere tra immagini generate dall’IA e immagini autentiche. Tuttavia, queste misure possono essere applicate solo alle immagini, poiché non esiste ancora un metodo ovvio per identificare il testo generato dall’IA.
L’aumento delle informazioni false è una delle principali preoccupazioni, ma ora la monetizzazione di tali attività è diventata un problema di dimensioni incredibili. Alcuni mesi fa, diverse case editrici sono state vittime di un’immagine falsa di un’esplosione vicino al Pentagono, che ha causato danni collaterali sui mercati azionari statunitensi.
Da quando i modelli di intelligenza artificiale generativa hanno guadagnato popolarità su Internet, sono stati segnalati numerosi casi di informazioni false: ad esempio, l’ex presidente degli Stati Uniti Donald Trump apparentemente arrestato o il CEO di Tesla Elon Musk che tiene per mano la CEO di GM Mary Barra. Inoltre, c’è stato l’episodio in cui Papa Francesco, immortalato con un elegante piumino bianco, cammina tenendo una tazza di caffè in mano. Questi eventi dimostrano quanto sia difficile separare i contenuti generati dall’intelligenza artificiale dai fatti reali.