È emerso che la Cina ha creato un chatbot militare utilizzando il modello di intelligenza artificiale (AI) open source “Llama” di Meta. Questa azione viola i termini di utilizzo di Meta, sollevando preoccupazioni da parte del governo degli Stati Uniti e attirando l’attenzione sulle possibili conseguenze future.
Secondo un rapporto di Reuters del 1° novembre, importanti istituti di ricerca legati all’Esercito Popolare di Liberazione (PLA) cinese hanno sviluppato strumenti di AI per scopi militari basati su “Llama”. Sei ricercatori provenienti da tre istituzioni, tra cui l’Accademia Cinese delle Scienze Militari, hanno creato “ChatBIT”, un chatbot ottimizzato per conversazioni e risposte a domande nel contesto militare, come riportato in un documento sull’AI pubblicato a giugno.
“Llama” è un modello di linguaggio di grandi dimensioni (LLM) open source rilasciato da Meta nel febbraio 2022, con versioni aggiornate fino alla 3.2. ChatBIT si basa sulla versione “Llama 13B”. Gli sviluppatori di ChatBIT hanno personalizzato il modello con parametri specifici per il settore militare e lo hanno addestrato su 100.000 registrazioni di conversazioni militari per migliorare le sue risposte in questo ambito. Secondo quanto riferito, le sue prestazioni sarebbero superiori a quelle di alcuni modelli AI simili, come “GPT-4”, ma non sono stati forniti dettagli sul metodo di progettazione né è chiaro se il chatbot venga già utilizzato.
Un altro studio condotto da due ricercatori di una compagnia aerea collegata al PLA ha esaminato l’uso di “Llama 2” nell’addestramento strategico per la guerra elettronica. Questa versione, rilasciata nel luglio dell’anno scorso, ha il 40% di dati in più rispetto al primo modello e può elaborare il doppio dei token.
Queste attività violano i termini di licenza di Meta, che vieta l’uso del modello “Llama” per scopi militari o bellici, per l’industria, applicazioni nucleari, spionaggio e altre attività soggette a controlli sulle esportazioni della difesa degli Stati Uniti.
Sunny Cheng, ricercatore presso la Jamestown Foundation, ha affermato che questo è il primo esempio concreto in cui esperti militari cinesi stanno sistematicamente utilizzando il modello open source di Meta per scopi militari. “Meta proibisce l’uso di Llama per scopi militari, ma le modalità di enforcement di queste restrizioni sono limitate per i modelli open source”, ha aggiunto.
È stato anche evidenziato che l’open source ha il potenziale per essere sfruttato da gruppi terroristici e che l’intelligenza artificiale cinese si basa in gran parte su risorse open source come “Llama”. Con l’emergere di tali casi, ci si chiede quali azioni intraprenderanno Meta e il governo degli Stati Uniti.
Il portavoce del Pentagono, John Supple, ha dichiarato: “Riconosciamo sia i vantaggi che gli svantaggi dei modelli open source e monitoreremo attentamente le capacità della Cina”.
Meta ha affermato di aver “adottato misure per prevenire abusi”, ma i dettagli di queste misure non sono stati divulgati.
Il Ministero della Difesa Nazionale cinese non ha risposto a richieste di commento, né le istituzioni o i ricercatori cinesi coinvolti nello studio hanno fornito dichiarazioni.