Immagine AI

Anthropic ha aggiornato i sistemi di sicurezza applicati alle richieste di biologia elaborate da Claude Fable 5, intervenendo sui classificatori utilizzati per individuare i contenuti potenzialmente pericolosi o a duplice uso. Le modifiche hanno ridotto di circa l’85% i cosiddetti “fallback” legati alla biologia nei test condotti sulle diverse superfici del prodotto, cioè i casi nei quali una richiesta indirizzata a Fable 5 viene automaticamente trasferita a un modello meno capace perché il sistema di sicurezza ritiene che possa rientrare in un ambito biologico sottoposto a protezione. La revisione dovrebbe quindi consentire a Fable 5 di rispondere direttamente a una quantità molto maggiore di domande legittime, comprese quelle relative all’interpretazione di risultati di laboratorio, alla comprensione di sintomi, allo studio della biologia e ad alcune attività cliniche svolte da professionisti sanitari.

L’intervento riguarda in particolare il classificatore che determina quali richieste possono essere elaborate direttamente da Fable 5 e quali devono essere deviate verso Claude Opus 5. Anthropic utilizza infatti modelli automatici più piccoli per analizzare le richieste e identificare attività biologiche considerate soggette a salvaguardie; quando il classificatore viene attivato, la richiesta non viene rifiutata necessariamente in senso assoluto, ma viene inoltrata a Opus 5, che dispone di capacità biologiche inferiori rispetto a Fable 5. Questo meccanismo è stato progettato per ridurre la possibilità che le capacità più avanzate del modello vengano utilizzate per fornire assistenza operativa in attività biologiche potenzialmente dannose.

La configurazione iniziale dei sistemi di sicurezza era stata volutamente molto restrittiva. Al momento del lancio di Fable 5, avvenuto il 9 giugno 2026, Anthropic aveva introdotto classificatori dedicati non soltanto alla biologia e alla chimica, ma anche alla cybersecurity e ai tentativi di distillazione delle capacità del modello. L’azienda aveva scelto soglie conservative, accettando la possibilità di intercettare anche richieste innocue pur di rendere disponibile più rapidamente il modello al pubblico; secondo le indicazioni fornite al lancio, l’insieme di queste protezioni avrebbe dovuto attivarsi mediamente in meno del 5% delle sessioni, ma il classificatore biologico era stato deliberatamente impostato su un perimetro particolarmente ampio.

La ragione di questa maggiore cautela deriva dalle capacità raggiunte dai modelli della classe Mythos, alla quale appartiene anche Fable 5. Le valutazioni interne indicano che il modello può superare specialisti umani in alcuni compiti biologici complessi e fornire supporto operativo in altri, offrendo quindi strumenti utili per la ricerca medica e scientifica ma potenzialmente utilizzabili anche da soggetti intenzionati a sviluppare applicazioni pericolose. Anthropic classifica Fable 5 come dotato di capacità “CB-1”, una categoria nella quale un modello può fornire un miglioramento significativo delle capacità di persone con una preparazione tecnica di base nell’esecuzione di processi già noti e rilevanti per lo sviluppo di armi biologiche. Il modello non viene invece considerato chiaramente oltre la soglia “CB-2”, relativa alla possibilità di sostituire le competenze rare e altamente specialistiche necessarie per sviluppare nuovi sistemi di arma biologica; la stessa valutazione di Anthropic riconosce comunque che questo confine è meno netto rispetto a quello osservato con le generazioni precedenti.

Un elemento particolarmente problematico nella progettazione dei classificatori deriva dalla natura dual use di una parte della ricerca biologica, perché procedure perfettamente legittime possono utilizzare tecniche, sostanze o organismi che possono avere anche applicazioni dannose. Lo sviluppo di vaccini vivi, per esempio, può richiedere la coltivazione dello stesso patogeno contro il quale il vaccino deve fornire protezione, mentre alcune terapie possono derivare dallo studio di sostanze tossiche: Anthropic cita il caso del captopril, farmaco utilizzato contro l’ipertensione il cui sviluppo è passato attraverso l’isolamento di componenti tossici del veleno di serpente capaci di provocare una forte riduzione della pressione sanguigna. Un classificatore troppo rigido può quindi interpretare come pericolosa una richiesta scientificamente legittima basandosi sulle tecniche descritte, senza riuscire a separare correttamente lo scopo della ricerca dal suo potenziale impiego illecito.

Nelle ultime settimane Anthropic ha quindi riscritto la “constitution” del classificatore biologico, ossia l’insieme di regole utilizzato dal sistema per stabilire quali contenuti siano consentiti e quali debbano rientrare nelle salvaguardie. Le nuove regole descrivono in maniera più precisa gli utilizzi benigni, sono state sottoposte alla valutazione di esperti interni ed esterni e sono state utilizzate per costruire nuovi dati di addestramento. Il classificatore è stato successivamente riaddestrato e verificato per assicurarsi che continui ad attivarsi davanti a contenuti biologici dannosi o legati alla ricerca dual use, lasciando passare al tempo stesso una quota molto maggiore di richieste considerate sicure.

La modifica agisce soprattutto sulla cosiddetta “safety margin”, la fascia di richieste che il sistema considera con elevata probabilità innocue ma che nella configurazione precedente venivano comunque intercettate per precauzione. Il nuovo classificatore sposta questa soglia, riuscendo a distinguere con maggiore precisione le richieste chiaramente innocue da quelle che possono avere implicazioni dual use. Non viene quindi eliminata la protezione sui contenuti biologici sensibili; viene ridotta principalmente la quantità di richieste legittime che venivano coinvolte dai controlli insieme a quelle realmente problematiche.

La diminuzione dei fallback biologici ha effetti differenti sulle varie modalità di utilizzo di Claude. Anthropic prevede che il numero complessivo di fallback, considerando quindi sia quelli legati alla biologia sia quelli prodotti da altre salvaguardie, diminuisca di circa il 67% su Claude.ai, del 55% su Cowork, del 17% su Claude Code e del 7% sulla Claude Platform. Le differenze dipendono dalla composizione delle richieste effettuate attraverso ciascuna superficie e dalla frequenza con cui i classificatori biologici intervenivano nel traffico precedente.

Le restrizioni rimangono invece operative per la ricerca biologica professionale considerata a duplice uso. Le richieste riguardanti attività come virologia, tossicologia e progettazione molecolare possono ancora determinare il passaggio da Fable 5 a Opus 5; di conseguenza Fable 5 non viene ancora reso pienamente disponibile per ricerca biologica professionale e sviluppo di farmaci quando le attività ricadono nelle categorie protette. Anthropic intende fornire in futuro l’accesso alle capacità biologiche più avanzate attraverso percorsi riservati a ricercatori verificati, anziché rendere meno restrittivo il classificatore pubblico per queste categorie di lavoro.

La revisione non elimina inoltre completamente i falsi positivi. Una parte delle richieste a rischio molto basso continuerà a rientrare nella safety margin e potrà quindi attivare il fallback, mentre la messa a punto dei classificatori proseguirà attraverso nuovi test e successive revisioni. Il sistema aggiornato mantiene quindi l’architettura introdotta con Fable 5, nella quale le capacità più avanzate rimangono disponibili per un numero maggiore di attività ordinarie e specialistiche, mentre le richieste biologiche che possono fornire un supporto operativo significativo in ambiti dual use continuano a essere affidate a un modello con capacità più limitate.

Di Fantasy