Con oltre un miliardo di utenti, Instagram, come gli altri social network, ha passato anni a cercare di combattere molestie, incitamento all’odio e disinformazione.
Instagram mercoledì ha iniziato a offrire agli utenti la possibilità di filtrare le richieste di messaggi diretti in arrivo per un linguaggio offensivo, un passo volto a mostrare che il social network di proprietà di Facebook è seriamente intenzionato a ridurre le molestie online.
“Poiché i messaggi diretti sono conversazioni private, non cerchiamo in modo proattivo l’incitamento all’odio o il bullismo come facciamo altrove”, ha detto Instagram in un post sul blog. Ma le richieste di aprire nuove chat private sono “dove le persone di solito ricevono messaggi offensivi”, ha aggiunto.
In esecuzione sul dispositivo dell’utente per preservare la privacy, piuttosto che sui server di Instagram, i nuovi filtri di intelligenza artificiale bloccheranno le richieste di aprire una conversazione di messaggistica diretta che contiene parole, espressioni o emoji offensive. Oltre a una serie di filtri predefiniti, gli utenti potranno aggiungere i propri termini al proprio elenco di blocco personale, proprio come possono già fare per i commenti sui loro post.
Nel 2019, ha impostato avvisi basati sull’intelligenza artificiale per le persone che cercavano di pubblicare messaggi di insulto e recentemente ha affermato che avrebbe utilizzato l’apprendimento automatico per calcolare l’età reale degli utenti.
All’inizio, gli utenti in sette Paesi – Gran Bretagna, Francia, Irlanda, Germania, Australia, Nuova Zelanda e Canada – avranno la possibilità di scegliere, con altri da seguire “nei prossimi mesi”. “Questi sono i paesi in cui personaggi pubblici, in particolare calciatori, sono stati vittime di abusi e linguaggio offensivo nei messaggi diretti”, ha detto all’Afp Clotilde Briend, responsabile delle politiche pubbliche di Instagram in Francia. “La maggior parte degli incitamenti all’odio arriva in queste richieste di messaggi diretti. Daremo a tutti la possibilità di segnalarci questi messaggi o meno”, ha aggiunto.
Facebook sta anche valutando la possibilità di estendere il filtro alle sue altre proprietà di chat, Messenger e WhatsApp.
