Satya Nadella, amministratore delegato di Microsoft, ha criticato le limitazioni applicate da Anthropic a Fable 5, sostenendo che controlli di sicurezza troppo rigidi possano ridurre l’utilità del modello come strumento di produzione. Le osservazioni sono emerse durante una riunione interna con gli ingegneri impegnati nello sviluppo di Copilot. Nadella ha fatto riferimento ai casi nei quali Fable 5 rifiuta di rispondere o modifica il proprio comportamento a causa dei sistemi di sicurezza integrati.
Secondo il dirigente, un software utilizzato come strumento creativo o produttivo non dovrebbe esercitare un controllo editoriale così esteso sul lavoro dell’utente. Nadella ha descritto come poco plausibile la situazione nella quale uno strumento di produzione possa decidere autonomamente quali attività consentire e quali interrompere. La critica riguarda in particolare il meccanismo con cui Anthropic gestisce alcune richieste considerate sensibili. Quando l’utente interroga Fable 5 su determinati argomenti, il servizio può sostituire il modello principale con una versione inferiore dotata di limitazioni più severe. Questa procedura ha generato proteste fin dal lancio del modello. Alcuni utenti hanno segnalato risposte bloccate, prestazioni ridotte e difficoltà nell’utilizzare Fable 5 per attività di ricerca, analisi o produzione che non avevano necessariamente finalità dannose. Anthropic è intervenuta successivamente per ridurre i falsi positivi e ripristinare parte delle funzionalità. Le limitazioni non sono però state eliminate completamente e continuano a rappresentare un elemento centrale nel modo in cui il servizio gestisce le richieste considerate a rischio.
Le dichiarazioni di Nadella assumono particolare rilievo perché Microsoft e Anthropic mantengono una relazione commerciale molto stretta. Microsoft ha investito 5 miliardi di dollari nella società, mentre Anthropic ha concordato una spesa fino a 30 miliardi di dollari per l’utilizzo dell’infrastruttura cloud Azure. La critica non proviene quindi da un concorrente esterno, ma dal responsabile di una delle aziende che finanziano Anthropic e ne ospitano una parte rilevante delle attività computazionali. Il rapporto economico tra le due società non elimina però le differenze strategiche. Anthropic attribuisce grande importanza ai sistemi di sicurezza e ai controlli applicati direttamente a livello del modello, mentre Microsoft deve integrare questi strumenti in prodotti destinati a imprese, sviluppatori e professionisti che richiedono continuità operativa e prevedibilità.
Quando un modello rifiuta una richiesta o viene sostituito da una versione meno potente, il comportamento può diventare difficile da gestire all’interno di un processo aziendale. Un flusso costruito intorno a un determinato livello di prestazioni rischia infatti di produrre risultati differenti in base alla classificazione automatica del contenuto. Il problema non riguarda soltanto la possibilità di ricevere una risposta. Le aziende devono sapere quale modello sta elaborando i dati, quali capacità sono effettivamente disponibili e in quali condizioni il sistema può interrompere o modificare un’attività. Questa prevedibilità diventa essenziale quando l’intelligenza artificiale viene inserita in strumenti di sviluppo software, piattaforme documentali, sistemi di assistenza o processi decisionali. Un rifiuto inatteso può bloccare un flusso, richiedere un intervento umano o produrre un risultato qualitativamente inferiore rispetto a quello previsto.
Le osservazioni su Fable 5 si inseriscono in una posizione più ampia assunta recentemente da Nadella. Il CEO di Microsoft sostiene che le imprese debbano ridurre la propria dipendenza da un numero ristretto di produttori di modelli avanzati. Durante la stessa riunione, Nadella ha affermato che non sarebbe economicamente sostenibile un mercato nel quale soltanto due aziende possiedono il capitale computazionale e la capacità di produrre token, mentre tutte le altre sono costrette ad acquistare o noleggiare questa capacità. Con l’espressione “capitale in token”, il dirigente fa riferimento all’insieme di modelli, infrastrutture di calcolo e risorse necessarie per generare le risposte dei sistemi AI. Le aziende che non possiedono questi strumenti dipendono dai servizi esterni per ogni operazione svolta attraverso l’intelligenza artificiale. Questa dipendenza può produrre costi variabili, vincoli contrattuali e difficoltà nella protezione delle informazioni. I dati aziendali possono essere trasferiti a fornitori esterni e i processi interni possono restare legati a decisioni tecniche o commerciali sulle quali il cliente non ha controllo diretto.
Nadella ritiene quindi che le organizzazioni debbano costruire modelli personalizzati ed economicamente efficienti, mantenendo una parte maggiore della produzione AI sotto il proprio controllo. La proposta non implica necessariamente che ogni impresa debba addestrare da zero un modello di frontiera. Un’organizzazione può utilizzare modelli più piccoli, adattare sistemi open-weight, eseguire inferenze sulla propria infrastruttura o combinare più fornitori all’interno dello stesso ambiente.
L’obiettivo è evitare che l’intero processo produttivo dipenda da una singola API o da una sola azienda. Un modello esterno può continuare a essere utilizzato per le attività più complesse, mentre sistemi interni o alternativi possono gestire i dati sensibili e i compiti più ripetitivi. Questa strategia permette anche di ridurre il rischio derivante dalle modifiche unilaterali applicate dai fornitori. Prezzi, limiti di utilizzo, policy di sicurezza e disponibilità dei modelli possono cambiare nel tempo, influenzando applicazioni che erano state progettate sulla base di condizioni differenti.
Il caso di Fable 5 mostra come le misure di sicurezza possano diventare anche un problema di controllo del prodotto. Anthropic può ritenere necessario impedire determinate risposte, mentre Microsoft e i clienti aziendali possono considerare le stesse restrizioni eccessive rispetto all’attività svolta. La questione non può essere ridotta a una contrapposizione tra sicurezza e libertà di utilizzo. I modelli devono prevenire abusi concreti, ma devono anche evitare di bloccare indiscriminatamente attività legittime. Un sistema troppo permissivo può facilitare impieghi dannosi. Un sistema troppo restrittivo può invece diventare poco affidabile per la ricerca, la programmazione, l’analisi tecnica e altri processi nei quali il contenuto può apparire sensibile pur essendo utilizzato in un contesto autorizzato. Per le aziende, il problema centrale è la possibilità di definire livelli di controllo coerenti con il proprio contesto. Un’organizzazione potrebbe avere bisogno di policy differenti per utenti ordinari, sviluppatori, team di sicurezza o ricercatori autorizzati. I modelli commerciali tendono invece ad applicare regole generali, pensate per proteggere il servizio in un ampio numero di situazioni. Questo approccio semplifica la gestione del rischio per il fornitore, ma può limitare l’adattamento alle esigenze specifiche dei clienti enterprise.
La posizione di Nadella riflette quindi una strategia orientata alla diversificazione. Microsoft continua a collaborare con Anthropic, ma allo stesso tempo cerca di impedire che i propri prodotti e i propri clienti dipendano completamente da una singola società di intelligenza artificiale. Microsoft non ha commentato ufficialmente le dichiarazioni interne, mentre Anthropic non ha diffuso una risposta. Rimane quindi aperto il confronto su quale equilibrio debba essere adottato tra sicurezza, controllo editoriale e utilità dei modelli nei processi produttivi.