La Cina è preoccupata che una corsa agli armamenti di intelligenza artificiale possa condurre a una guerra accidentale
Le norme cavalier della guerra informatica potrebbero influenzare il modo in cui gli eserciti pensano ai conflitti fisici
Esperti e politici in Cina sono preoccupati che la fretta di integrare l’intelligenza artificiale in armi e equipaggiamenti militari possa portare accidentalmente alla guerra tra nazioni.
Secondo un nuovo rapporto pubblicato dal Centro di ricerca per la sicurezza nazionale (CNAS) di sicurezza nazionale degli Stati Uniti, i funzionari cinesi vedono sempre più una “corsa agli armamenti” dinamica nell’intelligenza artificiale come una minaccia alla pace globale. Mentre i paesi si affannano per raccogliere i benefici dell’intelligenza artificiale in vari settori, compreso quello militare, il timore è che le norme internazionali che modellano il modo in cui i paesi comunicano diventeranno obsolete, portando alla confusione e al potenziale conflitto.
“Lo specifico scenario che mi è stato descritto [da un funzionario anonimo cinese] è un’escalation non intenzionale legata all’uso di un drone”, ha dichiarato a The Verge Gregory C. Allen, un coadiutore aggiunto al CNAS e autore del nuovo rapporto .
Come spiega Allen, l’operazione dei droni sia grandi che piccoli è diventata sempre più automatizzata negli ultimi anni. Negli Stati Uniti, i droni sono in grado di eseguire il pilota automatico di base, svolgendo compiti semplici come volare in cerchio attorno a un bersaglio. Ma la Cina è “più aggressiva nell’introdurre maggiori livelli di autonomia più vicini all’utilizzo letale della forza”, dice. Un esempio è il drone Blowfish A2, che la Cina esporta a livello internazionale e che, dice Allen, è pubblicizzato come capace di “piena autonomia fino agli attacchi mirati”.
Poiché i droni sono controllati da remoto, gli eserciti militari tendono ad essere più disinvolti riguardo al loro utilizzo. Senza il rischio di vittime umane, sono più disposti a abbatterli, ma anche a dispiegarli in spazi aerei contestati. Questo atteggiamento può anche essere visto nella guerra informatica, dove i paesi si intrometteranno in modi che non rischierebbero necessariamente se gli esseri umani fossero coinvolti.
“NON ESISTE UN QUADRO CONCORDATO SU QUALE MESSAGGIO VIENE INVIATO”.
“Il punto che mi è stato fatto è che non è chiaro in che modo entrambe le parti interpretano determinati comportamenti [che coinvolgono attrezzature autonome]”, afferma Allen. “La squadra che invierà un drone autonomo penserà che non è un grosso problema perché non ci sono rischi di incidenti, mentre l’altra parte potrebbe abbatterlo per lo stesso motivo. Ma non esiste un quadro concordato su quale messaggio viene inviato dal comportamento di entrambe le parti “.
I rischi in uno scenario simile diventano maggiori quando si considera l’autonomia avanzata. Se un drone o un robot lancia un colpo di avvertimento alle truppe nemiche, ad esempio, come verrà interpretata quell’azione? Le truppe lo capiranno come una risposta automatica, o penseranno che sia la decisione di un comandante umano? Come avrebbero saputo in entrambi i casi?
In sostanza, sostiene Allen, i paesi di tutto il mondo devono ancora definire “le norme del conflitto armato” per i sistemi autonomi. E più a lungo continua, maggiore è il rischio di “un’escalation non intenzionale”.
“Penso che sia una minaccia reale e legittima”, dice Allen.
Un’importante area di competizione è lo sviluppo di chip IA specializzati, come il TPU di Google (nella foto). Credito: Google
Il resto del rapporto CNAS, intitolato “Capire la strategia della Cina per l’intelligenza artificiale: indizi per il pensiero strategico cinese sull’intelligenza artificiale e la sicurezza nazionale”, nota una serie di altre preoccupazioni e attitudini di alto livello nella strategia cinese guidata dall’IA.
I funzionari cinesi riconoscono, ad esempio, che essa e l’America sono le uniche due superpotenze di intelligenza artificiale . Entrambi i paesi hanno il talento, i finanziamenti e il vivace settore tecnologico necessario per spingere ulteriormente questa tecnologia, sebbene ogni nazione abbia anche i suoi punti di forza e di debolezza. La Cina ha accesso a più dati, per esempio, e ha il potenziale per scavalcare la tecnologia occidentale. (Molti cittadini cinesi sono passati dal non avere un telefono a un telefono cellulare, ad esempio, senza ottenere una linea telefonica fissa, ad esempio). L’America, nel frattempo, ha un ruolo importante nello sviluppo della tecnologia dei chip, una componente essenziale nell’elaborazione di enormi set di dati che alimentano le applicazioni AI.
La relazione CNAS rileva che la Cina è particolarmente desiderosa di chiudere questo importante divario. Aziende cinesi come Baidu, Alibaba e Huawei hanno stabilito nuovi progetti per lo sviluppo di hardware di accelerazione AI; i soldi del governo si stanno riversando in queste iniziative; e l’industria sta cercando altri metodi per ottenere una competenza straniera. Tra questi, la recente proposta di acquisizione del chip designer statunitense Qualcomm da parte della società di Singapore Broadcom, che è stata bloccata dal presidente Trump per motivi di sicurezza nazionale.
Mentre c’è da aspettarsi una certa concorrenza tra la Cina e gli Stati Uniti, Allen sostiene che è necessaria anche la cooperazione, specialmente quando si tratta di queste questioni militari.
Osserva che mentre i funzionari cinesi con cui parlava avevano una buona conoscenza del pensiero americano contemporaneo su questioni come la guerra autonoma, i funzionari americani tendono ad essere meno informati sulle loro controparti cinesi, in parte perché molti documenti politici cinesi non sono mai tradotti in inglese. Senza comprendere adeguatamente le strategie delle diverse nazioni in questi settori, dice Allen, aumentano le probabilità di incomprensioni e conflitti.
“Ci sono sicuramente sacche di vera competenza su questo tema [negli Stati Uniti] ma non c’è la comprensione diffusa che deve esserci”, dice.
