Reddit sta potenziando i propri sistemi automatici di sicurezza per individuare spam, account artificiali e comportamenti coordinati prima che riescano a influenzare le conversazioni nelle community. L’intervento non consiste semplicemente nell’analizzare il testo di un post per stabilire se sia stato generato da un modello linguistico, ma nell’esaminare una combinazione di segnali relativi agli account, alle modalità di pubblicazione e alle interazioni tra più profili.
L’obiettivo principale è spostare la moderazione da un modello prevalentemente reattivo, nel quale un contenuto viene rimosso dopo essere stato visualizzato o segnalato, a un sistema preventivo. Reddit cerca quindi di riconoscere le attività sospette durante la creazione dell’account o nelle prime fasi della sua operatività, limitando la possibilità che campagne automatizzate raggiungano un pubblico significativo.
I primi controlli vengono applicati già al momento della registrazione. La piattaforma analizza diversi segnali associati alla nascita e all’utilizzo iniziale del profilo per riconoscere account probabilmente collegati a reti di spam, bot o operazioni organizzate. Reddit non ha reso pubblici tutti i parametri utilizzati, anche per evitare che gli operatori malevoli possano adattare facilmente le proprie tecniche, ma il sistema valuta il comportamento complessivo e non una singola caratteristica isolata.
Questo approccio è necessario perché un account automatizzato moderno può imitare numerosi elementi tipici di un utente reale. I modelli generativi permettono di produrre testi grammaticalmente corretti, variare lo stile dei commenti e rispondere in maniera pertinente al contenuto di una discussione. La sola analisi linguistica non è quindi sufficiente per distinguere una persona da un sistema automatico.
Reddit utilizza anche modelli linguistici di grandi dimensioni per riconoscere schemi coordinati di comportamento che i sistemi precedenti, basati soprattutto su regole rigide e indicatori più semplici, potevano non intercettare. L’analisi riguarda la relazione tra contenuti, account e attività svolte nel tempo, con l’obiettivo di identificare reti che agiscono in modo apparentemente indipendente ma perseguono la stessa finalità.
Un esempio è la creazione artificiale di interesse intorno a un prodotto, un servizio o un argomento. Più account possono pubblicare domande, commenti favorevoli e presunte testimonianze personali per far apparire spontanea una conversazione in realtà organizzata. I testi, considerati singolarmente, possono sembrare plausibili; osservati come parte di uno schema più ampio, possono invece mostrare ripetizioni, tempi coordinati, collegamenti ricorrenti o modalità di interazione anomale.
Lo stesso principio viene applicato alle campagne di marketing occulto, alle recensioni costruite artificialmente e alle operazioni che cercano di alterare la visibilità dei contenuti. Reddit non tenta quindi soltanto di individuare messaggi indesiderati, ma anche di riconoscere la manipolazione dell’attenzione collettiva.
Una parte centrale del sistema riguarda infatti i voti non autentici. Su Reddit, upvote e downvote determinano in misura significativa la posizione di post e commenti, influenzando ciò che gli utenti vedono per primo. Una rete di account coordinati può utilizzare migliaia di voti artificiali per promuovere un contenuto, screditarne un altro o creare una percezione falsata del consenso della community.
I sistemi aggiornati stanno revocando quasi due milioni di voti considerati non autentici ogni giorno. La rimozione di questi segnali serve a impedire che un contenuto ottenga una visibilità iniziale artificiale e venga successivamente amplificato dagli utenti reali soltanto perché appare già popolare.
L’intervento sui voti è particolarmente importante perché la manipolazione può produrre effetti anche senza generare grandi quantità di contenuti. Pochi post sostenuti da numerosi account artificiali possono raggiungere le sezioni più visibili di un subreddit e orientare la discussione, rendendo più difficile distinguere l’interesse organico da quello costruito.
Reddit dichiara inoltre di bloccare ogni giorno circa 23 milioni di visualizzazioni di contenuti spam prima che raggiungano un utente e di individuare approssimativamente 25.000 nuovi post e commenti indesiderati al giorno. Tra gennaio e marzo 2026, l’esposizione degli utenti allo spam sarebbe diminuita di circa il 20 per cento rispetto ai tre mesi precedenti, mentre l’esposizione complessiva agli account spam avrebbe registrato un’ulteriore riduzione compresa tra il 10 e il 15 per cento.
Questi valori non rappresentano soltanto la quantità di contenuti rimossi. Misurare le visualizzazioni evitate consente di valutare quanto materiale problematico sia stato intercettato prima di produrre un impatto effettivo. Un contenuto eliminato dopo aver raggiunto migliaia di persone costituisce infatti un risultato molto diverso da uno bloccato prima della distribuzione.
Quando i sistemi individuano un account automatizzato sospetto, Reddit può richiedere una verifica della presenza umana. Il controllo viene applicato come livello aggiuntivo nei casi in cui i segnali disponibili non siano sufficienti per bloccare immediatamente il profilo, ma indichino comunque un’elevata probabilità di attività artificiale o anomala.
La verifica non significa necessariamente che Reddit voglia eliminare ogni forma di automazione. Sulla piattaforma operano anche bot autorizzati o utili alle community, impiegati per fornire informazioni, applicare regole, riassumere dati o svolgere compiti ripetitivi. Il problema è rappresentato dagli account che nascondono la propria natura automatizzata e vengono utilizzati per ingannare gli utenti, diffondere spam o manipolare le discussioni.
L’analisi deve quindi distinguere tra automazione dichiarata e comportamento inautentico. Un bot riconoscibile, utilizzato con finalità trasparenti e compatibile con le regole di una community, non equivale a una rete di profili progettata per simulare consenso umano. La valutazione riguarda il modo in cui l’account opera e l’effetto che cerca di produrre, non soltanto il fatto che utilizzi software automatici.
La strategia coinvolge anche la moderazione dei contenuti d’odio e delle minacce violente. Reddit ha esteso i propri sistemi automatici a tutti i contenuti testuali in lingua inglese, con l’intenzione di aggiungere progressivamente altre lingue. In questo ambito, il tempo medio tra il rilevamento e l’applicazione di una misura è stato ridotto da alcune ore a meno di cinque secondi.
L’aumento della velocità ha consentito alla piattaforma di incrementare di oltre il 200 per cento gli interventi sui contenuti riconducibili all’odio o alla violenza e di ridurne l’esposizione potenziale di oltre il 40 per cento. Reddit afferma contemporaneamente di aver diminuito di oltre il 40 per cento i falsi positivi, cioè i casi nei quali un contenuto legittimo viene erroneamente classificato come contrario alle regole.
La riduzione dei falsi positivi è un parametro essenziale perché un sistema più aggressivo non è necessariamente un sistema migliore. Un modello che rimuove grandi quantità di contenuti può apparire efficace, ma rischia di limitare discussioni lecite, citazioni, satira o conversazioni nelle quali termini sensibili vengono utilizzati con finalità informative.
La struttura di Reddit rende questa valutazione particolarmente complessa. La piattaforma comprende community dedicate a temi, linguaggi e pubblici molto diversi. Una frase considerata fuori contesto può assumere un significato differente in un gruppo di supporto, in una discussione politica, in una community satirica o in uno spazio dedicato all’analisi di contenuti estremisti.
Per questo motivo, Reddit non utilizza un unico sistema rigido applicato nello stesso modo a ogni subreddit. La moderazione viene organizzata su più livelli, combinando le regole generali della piattaforma, i controlli automatici, il lavoro dei dipendenti addetti alla sicurezza, l’intervento dei moderatori volontari e le valutazioni espresse dagli utenti attraverso voti e segnalazioni.
Gli amministratori della piattaforma applicano le regole valide per tutti gli utenti e intervengono sui comportamenti che possono danneggiare Reddit nel suo complesso. I moderatori delle singole community gestiscono invece norme più specifiche, legate agli argomenti trattati e alla cultura del gruppo.
A supporto dei moderatori sono disponibili strumenti come Reputation Filter, che aiuta a individuare contributori potenzialmente problematici, Crowd Control, utilizzato per limitare l’impatto degli account con un livello di affidabilità ridotto, e Ban Evasion Detection, progettato per riconoscere utenti che tentano di rientrare in una community dopo essere stati esclusi.
L’intelligenza artificiale fornisce quindi segnali e capacità di analisi su una scala che non potrebbe essere gestita esclusivamente da persone. I moderatori mantengono però un ruolo centrale nell’interpretazione del contesto, nella gestione delle regole locali e nella valutazione dei casi in cui un comportamento insolito non corrisponde necessariamente a un abuso.
Il sistema non può essere considerato infallibile. Le reti automatizzate possono modificare frequenza, linguaggio e modalità operative per imitare meglio gli utenti reali, mentre i sistemi di rilevamento devono essere aggiornati senza penalizzare persone che utilizzano la piattaforma in modo poco convenzionale ma legittimo.
Esiste inoltre una differenza tra contenuto generato dall’intelligenza artificiale e contenuto dannoso. Un testo prodotto con un modello linguistico non è automaticamente spam, così come un messaggio scritto da una persona può far parte di una campagna coordinata. Reddit concentra quindi i controlli sull’inautenticità del comportamento, sulla manipolazione e sulla violazione delle regole, anziché tentare di vietare genericamente ogni contenuto creato con l’AI.
La tecnologia generativa viene così utilizzata su entrambi i fronti. Da una parte permette di creare rapidamente account credibili, commenti differenti e campagne difficili da riconoscere attraverso filtri tradizionali. Dall’altra offre strumenti capaci di analizzare relazioni e schemi complessi su milioni di attività, individuando coordinamenti che potrebbero sfuggire a un controllo manuale.
L’efficacia della strategia dipenderà dalla capacità di mantenere questo equilibrio. I sistemi automatici devono intervenire abbastanza rapidamente da impedire allo spam e alle manipolazioni di raggiungere le community, ma anche conservare un livello di precisione sufficiente per non trasformare comportamenti insoliti o opinioni minoritarie in falsi segnali di attività artificiale.
Reddit sta quindi utilizzando l’intelligenza artificiale non come sostituto della moderazione, ma come componente di un’infrastruttura multilivello. L’automazione intercetta grandi quantità di attività sospette, i modelli linguistici cercano schemi coordinati, i controlli di verifica limitano gli account ambigui e le persone intervengono nei casi che richiedono conoscenza del contesto.
Il risultato è un sistema nel quale la difesa delle conversazioni umane passa anche attraverso l’intelligenza artificiale. La stessa tecnologia che rende più facile produrre spam credibile e simulare il consenso viene impiegata per riconoscere le tracce lasciate dalle operazioni organizzate, bloccarne la diffusione e ridurre il loro impatto sulla visibilità e sull’affidabilità delle discussioni.