Google ora dice che il controverso sistema di chiamata vocale di IA si identificherà con le persone
Google sta cercando di superare le trappole etiche e filosofiche della sua nuova piattaforma Duplex
A seguito di diffuse proteste contro i dilemmi etici sollevati dal nuovo sistema Duplex di Google, che consente all’intelligenza artificiale di imitare una voce umana per fissare appuntamenti , Google ha chiarito in una dichiarazione che il sistema sperimentale avrà una “rivelazione incorporata”. Ciò sembra significare che qualunque forma finale che Duplex assume come prodotto di consumo implicherà un qualche tipo di annuncio verbale alla persona dall’altra parte che in realtà sta parlando con un’IA.
“Comprendiamo e apprezziamo la discussione su Google Duplex – come abbiamo detto fin dall’inizio, la trasparenza della tecnologia è importante”, ha detto un portavoce di Google a The Verge in una dichiarazione questa sera. “Stiamo progettando questa funzione con la divulgazione integrata e ci assicureremo che il sistema sia identificato in modo appropriato. Ciò che abbiamo mostrato all’I / O è stata una delle prime demo tecnologiche e non vediamo l’ora di incorporare feedback mentre lo sviluppiamo in un prodotto. ”
Duplex non è ancora un prodotto funzionante e il CEO di Google Sundar Pichai l’ha presentato sul palco martedì alla conferenza degli sviluppatori I / O dell’azienda con solo una telefonata preregistrata. Questa demo mostrava come l’Assistente Google poteva sembrare molto più realistico quando utilizzava la nuova tecnica di generazione audio WaveNet di DeepMind e altri progressi nell’elaborazione del linguaggio naturale, il che aiuta il software a riprodurre in modo più realistico i modelli di parlato umano. Ad esempio, Duplex è così convincente dal punto di vista umano perché Google include segni di graduazione come “uh” e “um” e altre frasi più colloquiali nella biblioteca verbale dell’Assistente.
Tuttavia, un pezzo di software ha intenzionalmente ingannato un essere umano – in questo caso un addetto alla reception di un parrucchiere – ha provocato un allarme di massa tra i critici della tecnologia e coloro che temono che le tecnologie IA siano sviluppate senza un’adeguata supervisione o regolamentazione. Il critico tecnico Zeynep Tufekci ha definito la demo “orribile” e la reazione iniziale positiva del pubblico all’I / O come prova che “la Silicon Valley è eticamente persa, senza timone e non ha imparato niente”.
Originariamente Google aveva detto in un post sul blog scritto dagli ingegneri Yaniv Leviathan e Yossi Matias che “è importante per noi utenti e aziende avere una buona esperienza con questo servizio, e la trasparenza è una parte fondamentale di questo.” Il duo ha aggiunto che “noi vogliamo essere chiari sull’intenzione della chiamata in modo che le aziende comprendano il contesto “e che Google sperimenterà come estrometterlo nei mesi precedenti all’installazione di Test all’interno della piattaforma Assistant prevista per quest’estate.
L’intelligenza artificiale di Google suona come un essere umano al telefono: dovremmo essere preoccupati?
Ma la compagnia non ha dichiarato esplicitamente sul palco dell’I / O che la divulgazione sarebbe stata una caratteristica obbligatoria. Più tardi, dopo il keynote, i rappresentanti di Google hanno dichiarato a The Verge che la società si sentiva in dovere di informare le persone che incontrano Duplex che potrebbero parlare a un pezzo di software e che il team dell’Assistente stava cercando di salvaguardare il prodotto da abusi come la chiamata spam. Ora, sembra che Google stia compiendo ulteriori passi per garantire al pubblico che stia prendendo una posizione di trasparenza dopo la protesta online. Ciò include il fatto che Duplex si renderà “opportunamente identificato” in futuro, a beneficio di tutte le parti coinvolte.