Quando l’AI ha bisogno di un assistente umano
I lavoratori umani stanno addestrando algoritmi dietro le quinte
Per anni, il Turk meccanico di Amazon (mTurk) è stato una sorta di segreto aperto nel mondo della tecnologia, un luogo in cui gli algoritmi nascenti possono assumere manodopera a basso costo. Se hai bisogno di un centinaio di persone per tracciare i confini di un oggetto o compilare un sondaggio, è il posto migliore in cui farlo accadere.
In che modo aziende come Google si occupano dell’etica dell’IA
Ma mentre il progetto stesso è ben noto, è sempre un po ‘imbarazzante quando arriva un’azienda. Nel 2017, Expensify è stato avvistato chiedendo agli impiegati di mTurk di inserire i dati dalle ricevute , portando la società a rilasciare una dichiarazione affermando che il progetto mTurk non aveva nulla a che fare con l’app principale di Expensify. In parte, si trattava di un problema di privacy, ma soprattutto era imbarazzante: Expensify era basato su una semplice tecnologia – la capacità di estrarre i dati da una foto di una ricevuta – e le attività di mTurk facevano sembrare che la tecnologia fosse una finzione . E se fossero stati gli esseri umani a estrarre quei dati per tutto il tempo?
Una svolta tra le attuali schede di Mechanical Turk mostra che queste tattiche sono ancora vive e vegete. Il nome più grande negli elenchi correnti è Pinterest, che attualmente offre ai Turker 40 centesimi un pop per decidere se un determinato post contiene informazioni errate sulla salute. Pinterest ha faticato con la pseudoscienza sulla sua piattaforma , con i posti anti-vaccinazione che diventano un problema sufficiente che tutti i contenuti relativi ai vaccini sono stati banditi sulla piattaforma da dicembre. Ma mentre è facile dire se un post contiene la parola “vaccino”, è molto più difficile dire se sta facendo affermazioni di salute non realistiche o spinge a trattamenti non medici per malattie gravi. Le linee guida allegate al compito istruiscono i moderatori a reprimere affermazioni esagerate come “Uccidi l’infezione sinusale in 20 secondi”, mentre lasciano dichiarazioni come “2 settimane di sfida ventre piatta” perché, come indicato dalle linee guida, “una sfida di esercizio non è un [n] correzione facile o rapida. “
Come proteggere gli esseri umani in una società completamente automatizzata
È difficile dire come Mechanical Turk si adatti al sistema di moderazione generale di Pinterest. La società non ha risposto alle domande, ma è probabile che qualsiasi dato venga prelevato da Mechanical Turk sia mitigato da dati più affidabili da parte degli utenti e da fornitori addestrati, oltre a un algoritmo addestrato per generare le bandiere. Naturalmente, ognuno di questi sistemi ha i suoi punti deboli (non da ultimo le orribili condizioni di lavoro ) e, a volte, ciò di cui hai veramente bisogno per addestrare un algoritmo è solo un enorme volume di dati. In questi casi, mTurk è spesso il posto migliore per ottenerlo. Ma è sempre deludente guardare sotto il cofano di un sistema così complesso, aspettandosi di vedere un algoritmo impeccabilmente addestrato, solo per trovare un gruppo di umani mal pagati che fanno il lavoro sporco.