La crescente popolarità della funzione di generazione di immagini di ChatGPT ha suscitato l’interesse per la sua capacità di creare immagini in stile Ghibli, ma non sono mancate le preoccupazioni riguardo ai suoi potenziali usi impropri. Una delle critiche recenti solleva il rischio che questa tecnologia possa essere sfruttata per compiere frodi, come la creazione di ricevute false.
Secondo quanto riportato da TechCrunch il 31 marzo, è stato scoperto che la funzione di creazione delle immagini di ChatGPT potrebbe essere utilizzata per produrre scontrini falsi. La denuncia è arrivata dal capitalista di rischio Dedi Das, che su Twitter ha condiviso un esempio di una ricevuta generata dall’intelligenza artificiale, che sembrava provenire da una steakhouse di San Francisco. Questo ha aperto la strada a una serie di altri casi simili, in cui le immagini di ricevute venivano create con l’intento di sembrare realistiche, tanto da diventare quasi indistinguibili da quelle autentiche.
In particolare, alcuni utenti hanno perfezionato il processo aggiungendo macchie di cibo, bevande o effetti visivi come i bordi stropicciati, rendendo ancora più verosimili le immagini delle ricevute false. Sebbene alcune di queste contenessero errori evidenti, come discrepanze nei totali o l’uso di virgole al posto dei punti decimali, questi difetti minori potevano essere facilmente corretti utilizzando programmi come Photoshop. Questo ha sollevato seri timori sul fatto che la tecnologia possa essere utilizzata per scopi fraudolenti, come la creazione di documenti falsificati per attività illegali.
In risposta a queste preoccupazioni, OpenAI, la società che sviluppa ChatGPT, ha dichiarato che le immagini generate dalla piattaforma contengono metadati che indicano chiaramente che sono state create da intelligenza artificiale. Inoltre, l’azienda ha assicurato che intraprenderà azioni contro gli utenti che violano le politiche d’uso, inclusi quelli che utilizzano la tecnologia per scopi fraudolenti. Tuttavia, OpenAI ha anche sottolineato che l’intento principale della funzione di generazione delle immagini è quello di offrire agli utenti la massima libertà creativa. L’azienda ha aggiunto che, sebbene le ricevute false possano essere utilizzate per scopi illegali, potrebbero anche trovare applicazioni legittime, come la creazione di pubblicità per prodotti, a condizione che non vengano ingannati i consumatori.