Una versione non ufficiale e priva dei normali meccanismi di censura di Qwen3.8-Flash-Next è stata resa disponibile appena un giorno dopo la pubblicazione del modello originale di Alibaba. Il progetto, denominato Qwen3.8-Flash-Next-Uncensored, è stato distribuito da OrcaRouter su Hugging Face nei formati GGUF e MLX e utilizza una tecnica di “abliteration” per modificare il comportamento di rifiuto del modello senza aggiungere nuove conoscenze o aumentare direttamente le sue capacità di calcolo. L’obiettivo è rimuovere dal modello le direzioni interne associate al rifiuto di richieste considerate dannose o non etiche, lasciando invece invariati il routing degli esperti, le principali componenti di embedding e le funzionalità visive.
Il modello di partenza utilizza un’architettura Mixture of Experts con 176 miliardi di parametri memorizzati e circa 6 miliardi di parametri attivi per token. La struttura comprende 512 esperti, dei quali ne vengono attivati 10 per ciascun token. La modifica introdotta nella versione Uncensored non interviene direttamente sui singoli esperti, perché il comportamento di rifiuto non risulta concentrato in un esperto specifico. Secondo gli sviluppatori, il segnale che determina il rifiuto emerge invece in particolari direzioni del residual stream, cioè nel flusso di rappresentazioni interne che contribuisce alla costruzione dell’output finale. L’abliteration agisce quindi eliminando proprio queste direzioni, con l’obiettivo di cambiare il comportamento della risposta mantenendo inalterati gli altri componenti dell’architettura.
Nella versione MLX sono stati modificati 149 tensori classificati come residual writer, mentre il router MoE, la tabella di embedding n-gram da circa 51 miliardi di parametri e la vision tower non sono stati alterati. Questa separazione è importante perché consente di intervenire selettivamente sul comportamento di rifiuto senza ricostruire o riaddestrare interamente il modello. La versione risultante mantiene quindi lo stesso meccanismo di instradamento degli esperti e le stesse capacità multimodali del modello originale, ma risponde a una gamma molto più ampia di prompt che la versione standard tenderebbe a bloccare.
I test pubblicati dagli stessi sviluppatori mostrano un cambiamento netto nel comportamento. A seconda della tipologia di prova, Qwen3.8-Flash-Next originale registrava un tasso di rifiuto compreso tra il 64% e il 100% sui prompt dannosi, mentre la versione Uncensored scende a valori tra lo 0% e il 3,3%. Allo stesso tempo, il tasso di rifiuti eccessivi su richieste legittime rimane vicino allo zero. Nei benchmark di capacità generale MMLU-Pro, GSM8K e CMMLU, la differenza rispetto al modello originale viene indicata entro ±2 punti percentuali. Si tratta però di misurazioni pubblicate dagli autori del modello e non ancora confermate attraverso una verifica indipendente.
La versione Uncensored conserva anche il supporto ai contesti lunghi. Il modello gestisce nativamente una finestra fino a 262.144 token e può essere esteso fino a circa 1 milione di token tramite YaRN. Per ridurre il consumo di memoria nei contesti di grandi dimensioni viene utilizzata un’architettura ibrida: 36 dei 48 layer adottano Gated DeltaNet con linear attention, che comprime le informazioni precedenti in uno stato ricorrente di dimensione fissa, mentre soltanto 12 layer utilizzano il tradizionale KV cache. Questa scelta riduce la crescita della memoria associata alla lunghezza del contesto, anche se i pesi del modello continuano a rappresentare la componente principale del consumo complessivo.
La distribuzione in formato GGUF comprende 13 livelli di quantizzazione, da IQ2_XXS fino a Q5_K_M, con file compresi approssimativamente tra 52 e 125 GB. Per utilizzare l’input visivo è necessario anche un file mmproj separato da circa 0,9 GB, perché il modello è multimodale e richiede il relativo proiettore per collegare le rappresentazioni visive al modello linguistico. Il supporto ai contesti da oltre 262.000 token può comunque richiedere quantità rilevanti di memoria, anche se il KV cache incide meno rispetto ai pesi complessivi del modello.
Esiste inoltre una differenza importante tra le versioni GGUF e MLX. La build GGUF non contiene la testa di inferenza MTP, Multi-Token Prediction, da circa 4 miliardi di parametri inclusa nel modello Qwen3.8-Flash-Next originale, perché l’attuale implementazione dell’architettura in llama.cpp non supporta ancora questo componente. La versione MLX conserva invece la testa MTP e può quindi sfruttare lo speculative decoding sui sistemi Apple Silicon. Questo rende la variante MLX più completa dal punto di vista dell’architettura originale, ma comporta anche requisiti hardware molto più elevati.
Su Apple Silicon, la versione MLX sfrutta la memoria unificata del sistema. Il pacchetto a 4 bit occupa circa 163 GB, quello a 6 bit circa 192 GB e quello a 8 bit circa 221 GB. Anche la versione nominalmente a 4 bit mantiene alcune componenti a precisione superiore e viene indicata con una precisione effettiva media di circa 7,85 bit. Per eseguire localmente il modello in questa configurazione sono quindi necessari sistemi Apple Silicon con quantità molto elevate di memoria unificata, ben oltre la dotazione dei normali Mac consumer.
L’accesso ai repository non è completamente libero. Sia la versione GGUF sia quella MLX sono protette su Hugging Face da un sistema di accesso automatico controllato, che richiede agli utenti di effettuare il login e accettare separatamente le condizioni d’uso prima di scaricare i file. OrcaRouter ha mantenuto la licenza Apache 2.0 del modello originale, ma specifica che chi intende distribuire il sistema in un servizio reale deve implementare autonomamente adeguati livelli di sicurezza e filtraggio. Il progetto viene presentato principalmente come strumento per ricerca sulla sicurezza, interpretabilità, red teaming, blue teaming e valutazione della robustezza dei modelli.
La rimozione dei meccanismi di rifiuto non implica infatti che il modello abbia acquisito nuove capacità o nuove conoscenze. La modifica riguarda il comportamento con cui il sistema decide se rispondere o meno a una determinata richiesta. In questo senso, una versione abliterata consente di confrontare direttamente ciò che il modello non è realmente in grado di fare con ciò che invece potrebbe fare ma evita di eseguire a causa delle policy di sicurezza incorporate. Questo tipo di confronto può risultare utile soprattutto nelle valutazioni di sicurezza, perché permette di testare sistemi esterni di difesa senza dipendere dal filtro interno del modello.
Nel red teaming, un modello con rifiuti ridotti può essere utilizzato per verificare la resistenza di infrastrutture e applicazioni contro prompt injection, perdita di dati e uso improprio degli strumenti anche quando il modello sottostante non interviene automaticamente per bloccare l’azione. Nel blue teaming, invece, può servire per simulare scenari nei quali un attaccante disponga realmente di un modello open con poche o nessuna limitazione integrata. La differenza fondamentale resta quindi tra capacità e comportamento: Qwen3.8-Flash-Next-Uncensored non viene presentato come un modello più potente dell’originale, ma come una variante nella quale la componente di rifiuto è stata quasi completamente rimossa cercando di preservare le prestazioni generali.
Questo articolo è stato redatto con il supporto di strumenti di intelligenza artificiale (AI)