Questa app per sole ragazze utilizza l’intelligenza artificiale per schermare il genere di un utente: cosa potrebbe andare storto?
Non funziona se sei trans
Una nuova app social chiamata Giggle si propone come piattaforma di networking per sole ragazze. Per iscriversi, gli utenti devono fare un selfie. E mentre ciò potrebbe non sembrare troppo invasivo, l’app utilizza quindi il “software di verifica del genere bio-metrico” per determinare se quella persona è una donna. Se ciò non fosse già abbastanza grave, la tecnologia non funziona se sei trans.
“[G] iggle è per tutte le ragazze”, sottolinea la società sul suo sito Web, prima di aggiungere: “A causa del software di verifica di genere che Giggle utilizza, le trans-ragazze avranno problemi con la verifica.” romanzo distopico.
Giggle, fondato dallo sceneggiatore australiano Sall Grover, presumibilmente guarda la struttura ossea del viso di una persona per determinare il loro genere. Ciò è problematico su numerosi fronti, non ultimo il fatto che la struttura ossea è chiaramente un indicatore scarso dell’identità di genere. Tuttavia, Giggle afferma che la scienza è solida. “È la bio-scienza, non la pseudo-scienza come la frenologia”, dichiara il sito web.
Solo che suona molto come la pseudo-scienza. Su Twitter, le persone hanno chiamato la transfobia intrinseca dell’app. “Aspetteremo il nostro giudizio come pecore”, ha scritto un utente. “Tutto ciò che serve è un selfie: se la risatina ci fa entrare, siamo i benvenuti nella società delle donne, per passare per sempre. Altrimenti, saremo abbandonati in un mucchio di frattaglie ed escrementi. “
Grover ha risposto alle critiche, twittando che aveva consultato le donne trans durante la costruzione dell’app e ha deciso che era meglio ammettere apertamente i limiti del software. “Abbiamo lavorato con ragazze trans che hanno deciso che era meglio essere in anticipo con un difetto, quindi non c’era alcun pregiudizio doloroso”, ha spiegato. Successivamente, ha dichiarato di essere “grata per il feedback” e ha convenuto che alcune delle parole sul sito Web erano “orribili”.
Tuttavia, anche l’informativa sulla privacy dell’app è motivo di preoccupazione. Come ha sottolineato un utente di Twitter, Giggle può raccogliere un sacco di informazioni personali, tra cui immagini, posizione, preferenze e dati di navigazione delle persone. Giggle è quindi in grado di condividere tali informazioni con siti Web e servizi di terze parti, inclusi fornitori di riconoscimento facciale, fornitori di chat room e operatori di marketing. Raccoglie anche informazioni sensibili tra cui le “pratiche sessuali o la vita sessuale” delle persone, i loro precedenti penali e le loro informazioni sanitarie private.
