Cosa possiamo imparare dai regolamenti AI proposti dalla Cina
Alla fine di agosto, l’autorità cinese di vigilanza su Internet, la Cyberspace Administration of China (CAC), ha pubblicato una bozza di linee guida che cercano di regolamentare l’uso di sistemi di raccomandazione algoritmica da parte dei servizi di informazione su Internet. Le linee guida sono finora lo sforzo più completo da qualsiasi paese per regolamentare i sistemi di raccomandazione e possono servire da modello per altre nazioni che considerano una legislazione simile. L’approccio della Cina include alcune best practice globali relative alla regolamentazione dei sistemi algoritmici, come disposizioni che promuovono la trasparenza e i controlli sulla privacy degli utenti. Purtroppo la proposta cerca anche di allargarsiil controllo del governo cinese su come questi sistemi sono progettati e utilizzati per curare i contenuti. Se approvata, la bozza aumenterebbe il controllo del governo cinese sui flussi di informazioni online e sulla parola.
L’introduzione della bozza di regolamento arriva a un punto cruciale per l’ecosistema delle politiche tecnologiche in Cina. Negli ultimi mesi, il governo cinese ha introdotto una serie di repressioni normative sulle società tecnologiche che impedirebbero alle piattaforme di violare la privacy degli utenti, incoraggiando gli utenti a spendere soldi e promuovendo comportamenti di dipendenza, in particolare tra i giovani. Le linee guida sui sistemi di raccomandazione sono l’ultimo componente di questo giro di vite normativo e sembrano prendere di mira le principali società Internet, come ByteDance, Alibaba Group, Tencent e Didi, che si affidano ad algoritmi proprietari per alimentare i propri servizi. Tuttavia, nella sua forma attuale, il regolamento proposto si applica ai servizi di informazione su Internet in modo più ampio. Se superato, potrebbeinfluenzare il modo in cui una serie di aziende gestisce i propri sistemi di raccomandazione, comprese le società di social media, le piattaforme di e-commerce, i siti di notizie e i servizi di condivisione dei viaggi.
La proposta del CAC contiene numerose disposizioni che riflettono principi ampiamente supportati nello spazio della responsabilità algoritmica, molti dei quali sono stati promossi dalla mia organizzazione, l’ Open Technology Institute . Ad esempio, le linee guida richiederebbero alle aziende di fornire agli utenti una maggiore trasparenza sul funzionamento dei loro algoritmi di raccomandazione, comprese le informazioni su quando vengono utilizzati i sistemi di raccomandazione di un’azienda e i “principi, le intenzioni e i meccanismi operativi” fondamentali del sistema. Le aziende avrebbero anche bisogno di auditi loro algoritmi, compresi i modelli, i dati di addestramento e gli output, su base regolare nell’ambito della proposta. In termini di diritti degli utenti, le aziende devono consentire agli utenti di determinare se e come l’azienda utilizza i propri dati per sviluppare e gestire sistemi di raccomandazione. Inoltre, le aziende devono offrire agli utenti la possibilità di disattivare le raccomandazioni algoritmiche o disattivare la ricezione di raccomandazioni basate sul profilo. Inoltre, se un utente cinese ritiene che l’algoritmo di raccomandazione di una piattaforma abbia avuto un profondo impatto sui suoi diritti, può richiedere che una piattaforma fornisca una spiegazione della sua decisione all’utente. L’utente può anche richiedere all’azienda di apportare miglioramenti all’algoritmo. Tuttavia, non è chiaro come queste disposizioni verranno applicate nella pratica.
In un certo senso, il regolamento proposto dalla Cina è simile a un progetto di legge in altre regioni. Ad esempio, l’attuale bozza della legge sui servizi digitali della Commissione europea e la sua proposta di regolamento sull’IA mirano a promuovere la trasparenza e la responsabilità sui sistemi algoritmici, compresi i sistemi di raccomandazione. Alcuni esperti sostengono che il regolamento generale sulla protezione dei dati (GDPR) dell’UE fornisce anche agli utenti il diritto alla spiegazione quando interagiscono con i sistemi algoritmici. I legislatori negli Stati Uniti hanno anche introdotto numerosi progetti di legge che affrontano gli algoritmi della piattaforma attraverso una serie di interventi, tra cui l’ aumento della trasparenza, il divieto dell’uso di algoritmi che violano la legge sui diritti civili erimozione delle tutele di responsabilità se le aziende amplificano algoritmicamente i contenuti dannosi.
Sebbene la proposta del CAC contenga alcune disposizioni positive, include anche componenti che espandono il controllo del governo cinese su come le piattaforme progettano i loro algoritmi, il che è estremamente problematico. La bozza delle linee guida afferma che le aziende che implementano algoritmi di raccomandazione devono rispettare un codice etico aziendale, che richiederebbe alle aziende di rispettare i “valori tradizionali” e utilizzare i loro sistemi di raccomandazione per “coltivare energia positiva”. Negli ultimi mesi, il governo cinese ha avviato una guerra culturale contro la cultura “caotica” dei fan club online del paese, osservandoche il paese aveva bisogno di creare una cultura “sana”, “maschile” e “orientata alle persone”. Il codice etico aziendale a cui le aziende devono conformarsi potrebbe quindi essere utilizzato per influenzare, e forse limitare, quali sistemi di raccomandazione di piattaforme di valori e metriche possono dare priorità e aiutare il governo a rimodellare la cultura online attraverso la lente della censura.
I ricercatori hanno notato che i sistemi di raccomandazione possono essere ottimizzati per promuovere una gamma di valori diversi e generare particolari esperienze online. La bozza di regolamento cinese è il primo sforzo del governo che potrebbe definire e imporre quali valori sono appropriati per l’ottimizzazione del sistema di raccomandazione. Inoltre, le linee guida consentono alle autorità cinesi di ispezionare gli algoritmi della piattaforma e richiedere modifiche.
La proposta del CAC amplierebbe anche il controllo del governo cinese su come le piattaforme curano e amplificano le informazioni online. Le piattaforme che implementano algoritmi in grado di influenzare l’opinione pubblica o mobilitare i cittadini dovrebbero ottenere l’ approvazione prima dell’implementazione dal CAC. Inoltre, quando una piattaforma identifica contenuti illegali e “indesiderabili”, deve rimuoverli immediatamente, interrompere l’amplificazione algoritmica del contenuto e segnalare il contenuto al CAC. Se una piattaforma consiglia agli utenti contenuti illegali o indesiderati, può essere ritenuta responsabile.
Se approvata, la proposta del CAC potrebbe avere gravi conseguenze per la libertà di espressione online in Cina. Negli ultimi dieci anni o giù di lì, il governo cinese ha radicalmente aumentato il proprio controllo sull’ecosistema online nel tentativo di stabilire una propria versione isolata di Internet. Sotto la guida del presidente Xi Jinping, le autorità cinesi si sono espansel’uso del famoso “Great Firewall” per promuovere la sorveglianza e la censura e limitare l’accesso a contenuti e siti Web che ritiene antitetici allo stato e ai suoi valori. La proposta del CAC è quindi parte integrante degli sforzi del governo per affermare un maggiore controllo sulla parola e sul pensiero online nel paese, questa volta attraverso sistemi di raccomandazione. La proposta potrebbe anche avere un impatto radicale sui flussi di informazioni globali. Molte nazioni in tutto il mondo hanno adottato modelli di governance di Internet ispirati alla Cina poiché si orientano verso modelli di governance più autoritari. La proposta del CAC potrebbe ispirare modelli altrettanto preoccupanti e irresponsabili di governance algoritmica in altri paesi.
Il regolamento proposto dal governo cinese per i sistemi di raccomandazione è il più ampio insieme di regole creato finora per governare gli algoritmi di raccomandazione. La bozza contiene alcune disposizioni degne di nota che potrebbero aumentare la trasparenza sui sistemi di raccomandazione algoritmica e promuovere i controlli e la scelta degli utenti. Tuttavia, se la bozza venisse approvata nella sua forma attuale, potrebbe anche avere un’influenza smisurata sul modo in cui l’informazione online viene moderata e curata nel paese, sollevando notevoli preoccupazioni sulla libertà di espressione.
Spandana Singh, Open Technology Institute
