In un rapporto su The Verge, Mia Sato ha scritto delle sue esperienze nel tentativo di creare un’immagine di un uomo dell’Asia orientale con una donna caucasica usando il generatore di Meta su Instagram. Ha riferito che, nonostante abbia provato “decine di volte” usando suggerimenti come “Uomo asiatico e moglie bianca”, il bot ha ripetutamente restituito immagini di due asiatici.
Solo in un caso è riuscito a generare un’immagine accurata, ma anche questa mostrava un uomo notevolmente più anziano con una giovane donna asiatica dalla pelle chiara.
Sato ha definito i risultati “egregi”, aggiungendo che l’intelligenza artificiale generativa, invece di permettere all’immaginazione di prendere il volo, la imprigiona all’interno degli impulsi più ottusi della società. Ha anche notato che modificare i suggerimenti non ha aiutato e che il bot sembrava rafforzare pregiudizi sul tono della pelle e stereotipi culturali, mescolando elementi di diverse culture asiatiche.
Inoltre, Sato ha evidenziato che il bot faticava a rappresentare relazioni platoniche interrazziali e tendeva a mostrare uomini asiatici più anziani con donne asiatiche molto giovani. Ha sottolineato che l’intelligenza artificiale riflette non solo i dati su cui è addestrata, ma anche i pregiudizi dei suoi creatori.
Sato ha poi ricordato che i matrimoni interrazziali sono legali negli Stati Uniti solo da poco più di 50 anni e che attualmente rappresentano il 17% del totale, con circa tre sposini asiatici su dieci che hanno un coniuge di razza o etnia diversa. Ha infine rimarcato che “asiatico” è spesso usato in modo generico per riferirsi agli asiatici orientali, nonostante l’Asia sia un continente enorme e multiculturale.