È stata resa disponibile una variante di Qwen 3.8 27B progettata per ridurre in modo significativo i meccanismi di rifiuto presenti nel modello originale e per essere eseguita direttamente sui sistemi Apple Silicon. Il modello, denominato Qwen3.8-27B-Uncensored-GGUF, è stato pubblicato dallo sviluppatore Jonathan Coretti e deriva dal modello open source di Alibaba senza ricorrere a un nuovo addestramento completo o all’impiego di grandi dataset aggiuntivi. La modifica è stata ottenuta intervenendo matematicamente sui pesi del modello attraverso una tecnica di “abliteration”, finalizzata a indebolire le rappresentazioni interne associate ai comportamenti di rifiuto e quindi a ridurre l’effetto dei guardrail di sicurezza incorporati nel modello originale.
I test pubblicati dallo sviluppatore mostrano una differenza marcata rispetto alla versione standard. Su un insieme di 100 prompt considerati dannosi, Qwen 3.8 27B originale ha rifiutato di rispondere in 98 casi, mentre la variante modificata ha prodotto soltanto 12 rifiuti. La definizione “Uncensored” non indica quindi l’eliminazione assoluta di qualsiasi comportamento di sicurezza, perché alcune risposte continuano a essere bloccate, ma descrive una riduzione molto consistente della tendenza del modello a rifiutare determinate richieste. L’intervento riguarda direttamente il comportamento appreso nei pesi e non consiste semplicemente nella rimozione di un filtro applicato esternamente all’inferenza.
Un altro elemento rilevante è la distribuzione del modello in formati pensati per l’inferenza locale. Qwen3.8-27B-Uncensored-GGUF viene proposto con diverse quantizzazioni, comprese versioni a 2, 4, 6 e 8 bit, così da ridurre progressivamente la quantità di memoria necessaria rispetto ai pesi a precisione più elevata. Sono disponibili sia varianti adattate all’ambiente MLX di Apple sia file GGUF utilizzabili con applicazioni per l’esecuzione locale di modelli linguistici come LM Studio e Ollama. Questo consente di utilizzare il modello direttamente su un Mac dotato di Apple Silicon sfruttandone la memoria unificata, senza richiedere una GPU NVIDIA compatibile con CUDA e senza trasferire inferenza e dati verso un server cloud.
Il modello di base Qwen 3.8 27B utilizza circa 27 miliardi di parametri e adotta un’architettura dense, nella quale l’intero insieme dei parametri rilevanti viene utilizzato durante l’elaborazione anziché ricorrere a una struttura Mixture-of-Experts. Si tratta inoltre di un modello multimodale, capace di ricevere come input non soltanto testo ma anche immagini e video. La finestra di contesto nativa arriva fino a 262.144 token e sono supportate funzionalità di tool use e modalità dedicate al reasoning. Queste caratteristiche ne consentono l’impiego in attività che vanno oltre la semplice conversazione, comprese programmazione, ricerca, analisi di documenti e workflow agentici di lunga durata nei quali deve essere mantenuta una quantità elevata di informazioni contestuali.
L’esecuzione su Mac non significa tuttavia che il modello possa funzionare efficacemente su qualsiasi configurazione Apple Silicon. Anche la quantizzazione più compatta richiede almeno 16 GB di memoria unificata e la disponibilità effettiva deve tenere conto non soltanto dei pesi del modello, ma anche della memoria utilizzata dal sistema operativo e della KV cache necessaria durante l’elaborazione del contesto. Quest’ultima cresce con la lunghezza della sequenza elaborata e può diventare particolarmente rilevante quando vengono utilizzate finestre di contesto estese. Su un Mac da 16 GB il modello può quindi essere tecnicamente eseguibile, ma con pochissimo margine operativo e con possibili riduzioni significative delle prestazioni. Configurazioni con circa 64 GB di memoria unificata consentono invece di gestire un modello da 27 miliardi di parametri con una disponibilità di memoria molto più adeguata.
La possibilità di eseguire localmente un modello con una propensione al rifiuto molto inferiore può avere applicazioni specifiche anche nella ricerca sulla sicurezza informatica. Un modello di questo tipo può essere utilizzato in ambienti controllati per attività quali analisi delle vulnerabilità e penetration testing senza dipendere dai vincoli imposti dai servizi cloud o dai sistemi di moderazione integrati nelle API commerciali. L’elaborazione locale consente inoltre di mantenere dati, prompt e risultati sulla macchina dell’utente, aspetto rilevante quando vengono analizzate informazioni riservate o infrastrutture interne.
La stessa riduzione delle protezioni introduce però anche un profilo di rischio differente rispetto al modello originale. Un sistema con guardrail più deboli e disponibile per l’esecuzione completamente locale può essere utilizzato senza una supervisione esterna e senza i controlli normalmente applicati dai provider cloud. Ciò aumenta la possibilità che venga impiegato per generare codice malevolo, supportare attività offensive o produrre contenuti che il modello originale avrebbe rifiutato. Qwen3.8-27B-Uncensored-GGUF combina quindi tre caratteristiche tecniche particolarmente rilevanti: un modello multimodale dense da 27 miliardi di parametri, una forte riduzione dei comportamenti di rifiuto ottenuta intervenendo direttamente sui pesi e la possibilità di eseguire l’intero sistema localmente sui Mac Apple Silicon attraverso formati quantizzati GGUF e MLX.
Questo articolo è stato redatto con il supporto di strumenti di intelligenza artificiale (AI)