Microsoft AI sta aiutando a fornire lo stato di sorveglianza Xinjiang “vergognoso” della Cina?
Quando un hacker etico ha denunciato la violazione dei dati SenseNets, facendo luce sulle tecnologie che includono il riconoscimento facciale utilizzato per monitorare i musulmani dello Xinjiang in tempo reale, è seguito un dibattito online sul fatto che Microsoft abbia “collaborato” con SenseNets e se fosse a conoscenza di l’inclusione della loro tecnologia nel programma di sorveglianza distopica che ha disegnato la condanna internazionale per la sottomissione della popolazione musulmana uigura nella provincia dello Xinjiang.
La violazione da parte della società di riconoscimento facciale di Shenzhen ha esposto un database di oltre 2,5 milioni di record: nomi e indirizzi; Numeri di carta d’identità; date di nascita; fotografie passaporto; dettagli del datore di lavoro; e, in modo allarmante, 6,5 milioni di registrazioni relative alle posizioni GPS passate da tali individui nelle 24 ore precedenti.
Le informazioni condivise online sembrano mostrare l’uso della tecnologia Microsoft (GitHub e Azure) all’interno del programma SenseNets, sebbene Microsoft neghi qualsiasi relazione di partnership o commerciale con SenseNets o la sua società madre. Se le informazioni che sono state condivise pubblicamente sono corrette e vengono utilizzati i servizi cognitivi di Azure, allora questo è stato ottenuto tramite una fonte diversa o addirittura personalmente da uno o più sviluppatori stessi. Se la tecnologia era presente, è probabile che sia stata (o sia ancora) una parte fondamentale del programma.
Microsoft ha una sua relazione complicata con il riconoscimento facciale. Al World Economic Forum di Davos quest’anno, il CEO Satya Nadella ha affermato che “una delle cose che sento oggi è, sul mercato, la competizione; non c’è discriminazione tra l’uso corretto e l’uso sbagliato del riconoscimento facciale. “
E da nessuna parte c’è quella mancanza di discriminazione tra giusto e sbagliato più di un problema che nello Xinjiang.
Victor Gevers, l’hacker responsabile della pubblicazione della violazione e della condivisione delle informazioni relative a Microsoft, ha twittato al momento della violazione di SenseNets che “la compagnia – nota anche come Microsoft – è stata un partner prezioso che ha trasformato più di una volta un occhio alle pratiche (tecniche) / (mal) degli ingegneri di Sense Network. Dalle versioni piratate dei server Windows all’offerta di servizi cognitivi di Azure per Face (riconoscimento). “
Una relazione complicata?
SenseNets ha da qualche tempo elencato apertamente Microsoft come partner sul proprio sito web, e ieri il sito web NSTech di New Statesman ha rivisitato le affermazioni che collegavano Microsoft e SenseNets, inizialmente dicendo che il gigante del software americano ha rifiutato l’opportunità di negare l’esistenza di una presunta partnership con SenseNets, alla luce delle affermazioni fatte sul sito web della ditta di Shenzhen, prima che NS Tech pubblicasse questa storia. “
In seguito questo è stato rivisto per includere un diniego: “Un portavoce di Microsoft ha detto che non è coinvolto in una partnership con la società e che SenseNets ha utilizzato il logo dell’azienda sul proprio sito Web senza il suo permesso.” Abbiamo chiesto che venga rimosso “, ha aggiunto il portavoce.”
Ma, ponendo da una parte la presunta partnership, il dibattito online più mirato riguarda l’uso da parte degli sviluppatori di SenseNets di GitHub di proprietà di Microsoft e il presunto utilizzo di Azure Cognitive Services. E in particolare la rimozione di una chiave API per Azure Cognitive Services dall’archivio GitHub.
Gevers ha spiegato su Twitter che “una prima SenseNets è diventata notizia la chiave API per i servizi cognitivi è improvvisamente scomparsa da GitHub, ma altri materiali sensibili sono stati ancora trapelati dagli sviluppatori attraverso i loro repository personali come credenziali di posta elettronica, database, SSH e Gitlab, dove il trovata la chiave API persa … In questo momento non è chiaro se i servizi Microsoft Azure Cognitive siano ancora in uso.Gli sviluppatori di SenseNets non hanno imparato molto dall’incidente precedente e continuano a spingere nuovo codice e credenziali a GitHub per il loro nuovo ‘Sistema di gestione dei dispositivi volti’. “
Quando ho chiesto a Microsoft circa la presunta partnership SenseNets, l’utilizzo di Azure Cognitive Services da parte di SenseNets o la rimozione dell’API da GitHub, mi hanno confermato che non sono “coinvolti in una partnership con SenseNets”, aggiungendo che “noi” Ho fatto una ricerca di tutte le nostre partnership negli ultimi cinque anni e non abbiamo alcuna prova che Microsoft abbia una partnership con SenseNets. Abbiamo fatto un esame approfondito. SenseNets e la sua società madre non sono clienti dei nostri servizi di Azure inclusi quelli in relazione al riconoscimento facciale, e non abbiamo prove che abbiano acquistato i nostri prodotti o servizi negli ultimi cinque anni “.
Di conseguenza, l’apparente utilizzo di Azure e dei relativi servizi cognitivi dal programma SenseNets rimane inspiegato.
Giusto dal sbagliato
Ho intervistato Victor Gevers questa settimana , in seguito alla notizia di un’ulteriore violazione dei dati in Cina . Vede SenseNets come un punto di svolta per esporre le informazioni raccolte nello stato di sorveglianza della Cina, e questo gli ha dato un dilemma personale. “Non vogliamo essere degli informatori – vogliamo sistemare le cose, non mettere in imbarazzo le persone”, mi ha detto. “Nell’ultimo mese, abbiamo trovato molti database che mostrano l’implementazione della sorveglianza di massa, utilizzando una tecnologia estesa che è progettata esclusivamente per il monitoraggio.”
Per quanto riguarda SenseNets, ha spiegato che “abbiamo segnalato il sistema, lo abbiamo trovato molto notevole, non sapendo esattamente quale fosse l’uso. Ho postato un tweet, dicendo che questo è il sistema che abbiamo trovato, è la sorveglianza di massa, è brutto, Poi, dopo un po ‘, alcuni giornalisti hanno chiesto se avessimo mai controllato le posizioni GPS nel database perché questa potrebbe essere una cosa molto brutta … Ho contattato e ho chiesto,’ puoi aiutarmi con questo ‘. un giornalista ha verificato le informazioni e ha detto che non va bene, questo non può essere coperto, è necessario elencarlo pubblicamente. Ecco come è iniziata la palla. “
Un focus sull’etica
L’etica discutibile intorno allo stato di sorveglianza della Cina, specialmente dove lo Xinjiang è interessato, sta diventando più comprensibile dal momento che più abusi di dati hanno raggiunto i titoli dei giornali. Questa settimana, un portavoce del Dipartimento di Stato americano ha definito Xinjiang una “grande vergogna per l’umanità” e ha affermato che “ci impegniamo a promuovere la responsabilità di coloro che commettono tali violazioni”.
Più in generale, esiste una relazione complicata tra le principali società tecnologiche occidentali e il vasto mercato cinese – tra cui il calo delle vendite di smartphone di quest’anno, il dibattito sull’opportunità o meno di personalizzare i motori di ricerca e la tolleranza del software piratato. C’è ora anche lo sfondo dei negoziati commerciali in corso con gli Stati Uniti e la misura in cui entrerà in gioco l’etica di sorveglianza della Cina, un fattore chiave dei divieti su Hikvision e Huawei.
Ma, per quanto riguarda l’etica, forse questo dovrebbe essere chiaro. “Se troviamo cose che non vanno bene o che hanno un’etica discutibile”, mi ha detto Gevers, “allora stiamo sperimentando per vedere se possiamo condividerle sui social media”. In definitiva, dove lo stato di sorveglianza della Cina è ora in discussione, è probabile che poche compagnie occidentali vogliano che qualche associazione pubblica venga alla luce. E quindi forse questa diventa una buona notizia per i social media per bilanciare tutto il male.
