Un gruppo di ricerca del KAIST ha sviluppato un sistema di intelligenza artificiale spiegabile per individuare nei commenti alle notizie online schemi compatibili con operazioni di influenza collegate a soggetti stranieri. Il lavoro è stato condotto dai gruppi di Wonjae Lee della Graduate School of Culture Technology, Meeyoung Cha e Alice Oh della School of Computing del KAIST, insieme a Thorsten Holz del Max Planck Institute for Security and Privacy. L’analisi ha riguardato circa 110 milioni di commenti pubblicati su Naver News nell’arco di vent’anni, dal 2006 al 2025, con l’obiettivo di rilevare non soltanto account sospetti, ma anche le caratteristiche linguistiche e comportamentali che hanno portato il sistema a considerarli tali.
La ricerca è partita da 70 account precedentemente identificati dall’Institute for National Security Strategy come collegati ad attori stranieri. A partire da questi profili, il team ha ricostruito reti di utenti connessi agli account iniziali oppure caratterizzati dalla pubblicazione ripetuta di commenti sugli stessi contenuti. All’interno di una popolazione di circa quattro milioni di utenti di Naver News, il sistema ha così individuato 23.998 account che mostravano comportamenti coerenti con possibili attività coordinate di manipolazione dell’opinione pubblica. La classificazione non equivale tuttavia all’accertamento automatico dell’origine straniera di ogni singolo account, ma identifica pattern considerati compatibili con quelli delle operazioni di influenza utilizzate come riferimento nello studio.
Il modello esamina ogni commento attraverso una struttura gerarchica articolata in tre componenti. In primo luogo individua elementi linguistici o contestuali che possono suggerire un collegamento dell’autore con un soggetto straniero; successivamente analizza la presenza di espressioni emotivamente polarizzanti, distinguendo in particolare forme di condanna morale e di elogio incondizionato; infine determina verso quale Paese, gruppo o soggetto è diretta quella componente emotiva. A questa analisi testuale vengono affiancati parametri comportamentali come frequenza dell’attività, durata nel tempo dell’account e correlazioni con l’attività di altri profili sospetti.
La caratteristica centrale dell’approccio è la spiegabilità. Il sistema non restituisce soltanto un’etichetta che indica un account o un commento come sospetto, ma evidenzia le parti del testo utilizzate come elementi a sostegno della classificazione. In questo modo un analista può verificare quali espressioni abbiano portato l’AI a individuare, per esempio, una forma di condanna morale, un riferimento riconducibile all’estero oppure uno specifico bersaglio. Il metodo è stato progettato proprio per superare uno dei limiti dei sistemi basati esclusivamente su blacklist o classificatori automatici, nei quali può risultare difficile ricostruire la ragione concreta di una segnalazione.
L’analisi dei 20 anni di attività ha mostrato che gli account sospetti non tendevano principalmente a elogiare direttamente altri Paesi o a sostenere in maniera sistematica una singola parte politica sudcoreana. Il comportamento più ricorrente consisteva invece nel criticare la Corea del Sud e soggetti della politica nazionale attraverso messaggi capaci di accentuare conflitti e contrapposizioni interne. Tra i dieci bersagli associati ai commenti che avevano ottenuto la maggiore risposta degli utenti, sette erano figure politiche sudcoreane, tra presidenti, candidati alla presidenza e leader di partito, e appartenevano sia all’area progressista sia a quella conservatrice.
La differenza emerge anche analizzando le reazioni del pubblico. I commenti classificati come critiche rivolte alla Corea del Sud hanno registrato un rapporto medio di “like” pari a 0,514, risultando l’unica categoria di intervento nella quale le reazioni positive superavano quelle negative. Questo significa che i messaggi basati sulla condanna della Corea riuscivano mediamente a raccogliere maggiore consenso rispetto a forme più esplicite di promozione di Paesi stranieri. L’aumento delle interazioni poteva inoltre favorire la visibilità dei commenti all’interno della piattaforma, amplificandone ulteriormente la capacità di raggiungere altri utenti.
Anche la distribuzione temporale delle attività ha evidenziato una relazione con i periodi elettorali. Durante le principali elezioni presidenziali, legislative e locali, il numero medio di nuovi account sospetti che iniziavano l’attività raggiungeva 34,19 alla settimana, rispetto ai 22,61 registrati nei periodi non elettorali. La differenza corrisponde a un incremento di circa il 51%. La combinazione tra aumento dell’attività durante le elezioni, attacchi indirizzati a esponenti di schieramenti opposti e maggiore risposta degli utenti ai messaggi di condanna porta quindi a descrivere un comportamento orientato soprattutto ad amplificare sfiducia e polarizzazione, piuttosto che alla promozione stabile di una singola forza politica.
Il sistema è stato pensato soprattutto come strumento di supporto alla moderazione e al monitoraggio delle piattaforme. Durante elezioni, crisi nazionali o altre fasi caratterizzate da elevata conflittualità, potrebbe essere utilizzato per individuare l’arrivo di nuovi account con pattern sospetti e stabilire quali contenuti debbano essere sottoposti prioritariamente alla verifica di analisti umani. I ricercatori escludono invece un utilizzo basato sul blocco indiscriminato e automatico degli account: la funzione dell’AI dovrebbe essere quella di fornire segnali, evidenze testuali e informazioni comportamentali interpretabili, lasciando la decisione finale agli esperti.
La ricerca, intitolata Cross-National Information Attacks: A Two-Decade Analysis of Troll Behavior in Korea, è stata condotta con Jaehong Kim e Hyeonseung Kim come co-primi autori e sarà presentata all’USENIX Security Symposium 2026. Il framework combina quindi analisi su larga scala, classificazione gerarchica del linguaggio, estrazione delle porzioni di testo utilizzate come evidenza e studio longitudinale del comportamento degli account, con l’obiettivo di rendere identificabili e verificabili schemi di manipolazione che, su dataset composti da decine di milioni di interazioni, sarebbero difficili da individuare attraverso la sola revisione manuale.
Questo articolo è stato redatto con il supporto di strumenti di intelligenza artificiale (AI)