Chatroulette ritorna con l’aiuto della moderazione dei contenuti guidata dall’IA
Chatroulette è diventata famosa all’inizio degli anni 2010 per aver permesso alle persone di parlare con altre persone casuali. Tuttavia, il sito è diventato famoso anche per la facilità con cui le persone potevano incontrare nudità e altri contenuti “R-rated”. Come riportato da Wired , Chatroulette mira ora a tornare in auge con una migliore moderazione dei contenuti aiutata dall’intelligenza artificiale.
Moderazione dei contenuti basata sull’intelligenza artificiale
Poiché gli algoritmi di intelligenza artificiale e visione artificiale sono diventati più sofisticati e affidabili, le loro applicazioni per il rilevamento di contenuti discutibili sono migliorate. Questo è un vantaggio per qualsiasi azienda che consente agli utenti di caricare o altrimenti creare contenuti. Aziende come Youtube, Facebook e Twitter utilizzano algoritmi di filtraggio dei contenuti basati sull’intelligenza artificiale per gestire materiale discutibile . Chatroulette in particolare era una volta afflitta da nudità e altri atti osceni che allontanavano molti utenti. La pandemia ha causato un rinnovato interesse per Chatroulette, che grazie ai progressi nel riconoscimento delle immagini AI può monitorare più efficacemente i contenuti trasmessi dagli utenti.
Nel 2019, il fondatore di Chatroulette Andrey Ternovskiy ha incorporato l’azienda in Svizzera, con l’obiettivo di collaborare con manager professionisti e specialisti di intelligenza artificiale. L’ esperto di machine learning Andrew Done è stato assunto da Ternovskiy per supervisionare lo sviluppo della tecnologia AI per la nuova Chatroulette. Done è diventato CEO all’inizio di quest’anno, aggiungendo al team più ricercatori e manager di prodotto.
Sotto la nuova guida, Chatroulette ha sfruttato l’aumento del traffico per condurre ricerche sugli utenti e testare vari metodi di moderazione dei contenuti. Il team di Chatroulette ha progettato due nuovi canali di chat. Un canale di chat è chiamato Random Chat, progettato per escludere contenuti discutibili, mentre l’altro canale è chiamato Non moderato. Questa divisione viene fatta per attirare gli utenti interessati a entrare in contatto con altre persone senza doversi preoccupare di contenuti discutibili. Il canale non filtrato verrà infine eliminato a metà del 2021.
Partnership con AI Company Hive
Chatroulette ha collaborato con la società di intelligenza artificiale Hive per sviluppare IA che rilevano la nudità. Hive è anche responsabile della moderazione dei contenuti di Reddit, offrendo loro esperienza nella gestione dei contenuti su un importante social network. Secondo Done, il sistema di monitoraggio dell’IA di Hive è così accurato che l’inclusione di moderatori umani in realtà degrada l’accuratezza della moderazione nel complesso. Hive addestra i modelli di intelligenza artificiale sui dati annotati da una forza lavoro di oltre 2 milioni di lavoratori distribuiti. La forza lavoro distribuita cerca contenuti discutibili come la nudità e la presenza di armi da fuoco, annotando le immagini da utilizzare nell’addestramento dell’IA di Hive. Mentre Chatroulette ha provato a utilizzare il sistema AI Cloud Vision di Google e Amazon Rekognition per assistere nella moderazione dei contenuti, alla fine ha scoperto che l’IA di Hive era la più precisa e affidabile per le sue esigenze.
L’intelligenza artificiale di Hive ha elaborato oltre 600 milioni di fotogrammi di video da Chatroulette. Qualsiasi connessione tra due utenti comporta la creazione di tre frame. Un frame viene creato per entrambi gli utenti all’inizio della connessione e un frame viene generato per l’utente che termina la connessione. Secondo quanto riferito, i contenuti che violano i termini possono essere identificati entro un solo secondo. Un messaggio di avviso viene inviato a un moderatore umano che può escludere o avvisare l’utente.
All’inizio dell’anno, Chatroulette ha avuto circa 4 milioni di visitatori unici al mese, che è il maggior numero di visitatori che l’azienda ha avuto dall’inizio del 2016. Gli sforzi per frenare i contenuti osceni sembrano aver dato i loro frutti, poiché le donne sono ora circa il 34% dei tutti gli utenti, rispetto al solo 11% degli utenti nel 2018.
Mentre le società di social media vanno e vengono, Chatroulette sembra essere salito di nuovo a un posto di rilievo. Tuttavia, Ternovskiy riconosce che l’azienda ha anche altri problemi da risolvere oltre alla semplice moderazione dei contenuti. Secondo Ternovskiy, quasi il 90% dei visitatori per la prima volta non torna mai, poiché trovano le loro interazioni mediocri.
“La vera sfida è costruire qualcosa di degno che attiri le persone più interessate a usarlo su base regolare piuttosto che essere solo una cosa una tantum”, ha spiegato Ternovskiy tramite Wired.
