Meta sta sviluppando Switchboard, un sistema di instradamento progettato per selezionare automaticamente il modello di intelligenza artificiale più adatto a ogni richiesta. Il progetto nasce all’interno di AAI Labs, l’incubatore aziendale dedicato alla rapida sperimentazione di prodotti, strumenti per sviluppatori e componenti infrastrutturali basati sull’AI, e risponde a un problema sempre più rilevante per le applicazioni generative: utilizzare i modelli più potenti per qualunque operazione produce costi elevati anche quando il compito potrebbe essere completato da un sistema più piccolo ed economico.
Switchboard dovrebbe analizzare la complessità della richiesta prima di avviarne l’elaborazione, assegnandole un punteggio e indirizzandola verso il modello con il miglior equilibrio tra capacità, velocità e costo. Le attività semplici, come modifiche elementari al codice, trasformazioni di testo o richieste che richiedono un ragionamento limitato, potrebbero essere inviate a modelli leggeri, mentre i sistemi più avanzati verrebbero riservati ai problemi complessi. L’obiettivo è evitare che ogni chiamata venga fatturata e processata come se richiedesse le massime prestazioni disponibili.
Il progetto è stato motivato in particolare dai costi sostenuti per gli strumenti di programmazione. Nei flussi di sviluppo assistiti dall’intelligenza artificiale, uno stesso agente può leggere file, individuare componenti, proporre modifiche, eseguire verifiche e correggere gli errori attraverso numerose chiamate consecutive. Affidare ogni passaggio a un modello di punta significa pagare la tariffa più alta anche per operazioni di classificazione, ricerca o modifica che non richiedono capacità avanzate. Un router consente invece di separare le fasi del processo e di utilizzare modelli differenti all’interno della stessa attività.
Questa impostazione modifica il modo in cui vengono costruite le applicazioni AI. La scelta del modello non viene più effettuata una sola volta dallo sviluppatore, ma può diventare una decisione dinamica presa per ogni richiesta o per ogni passaggio dell’agente. Il sistema deve valutare il livello di difficoltà, i requisiti di latenza, il contesto disponibile e il costo previsto, quindi inoltrare il lavoro senza interrompere l’esperienza dell’utente. Per essere efficace, il router dovrà evitare due errori opposti: assegnare un compito complesso a un modello insufficiente, costringendo il sistema a ripetere il lavoro, oppure utilizzare un modello costoso per una richiesta che avrebbe potuto essere risolta con risorse inferiori.
Switchboard si ispira al modello operativo di OpenRouter, servizio che offre un unico punto di accesso a numerosi modelli sviluppati da aziende differenti e comprende una funzione automatica per instradare le richieste. La soluzione di Meta potrebbe inizialmente essere utilizzata per ridurre i costi delle applicazioni e degli strumenti interni, ma tra le possibilità considerate rientra anche una distribuzione esterna. In questo secondo scenario, il gruppo entrerebbe nel mercato delle piattaforme che gestiscono l’accesso a più modelli attraverso un’interfaccia comune.
Non è ancora chiaro quali modelli saranno supportati né se il servizio utilizzerà esclusivamente sistemi sviluppati da Meta. Un router limitato alla famiglia proprietaria potrebbe scegliere tra modelli di dimensioni e specializzazioni differenti, mentre un’infrastruttura aperta anche a fornitori esterni assumerebbe un ruolo più vicino a quello di un intermediario capace di confrontare costi e prestazioni di diversi ecosistemi. La seconda opzione offrirebbe maggiore flessibilità, ma richiederebbe di uniformare API, formati, limiti di contesto, regole di sicurezza e modalità di fatturazione non omogenee.
AAI Labs avrebbe approvato circa 200 progetti, distribuiti tra prodotti per il pubblico, strumenti di sviluppo e infrastrutture interne. L’incubatore, avviato a marzo, punta a trasformare rapidamente le idee proposte dai dipendenti in prototipi verificabili, scegliendo successivamente quali utilizzare nell’azienda e quali convertire in servizi autonomi. Switchboard rappresenta uno degli esempi più significativi perché non aggiunge semplicemente una nuova funzione a un prodotto esistente, ma interviene sul livello che decide come utilizzare l’intera offerta di modelli.
Il progetto si inserisce in una fase di forte crescita della spesa infrastrutturale di Meta. La società prevede per il 2026 investimenti in conto capitale compresi tra 125 e 145 miliardi di dollari, in larga parte collegati a data center, chip e capacità di calcolo destinata all’intelligenza artificiale. Parallelamente, sta aumentando rapidamente la potenza disponibile per l’esecuzione dei modelli, con l’obiettivo di raggiungere sette gigawatt di capacità nel 2026 e raddoppiarla nel 2027. Ridurre il costo di ogni inferenza diventa quindi essenziale per ottenere un utilizzo più efficiente di infrastrutture che richiedono investimenti economici ed energetici senza precedenti.
L’efficienza non dipende soltanto dal prezzo nominale dei singoli modelli. Un sistema più economico può risultare svantaggioso se produce risposte imprecise, richiede più tentativi o costringe un modello superiore a correggerne il lavoro. Switchboard dovrà quindi valutare il costo necessario per completare correttamente l’attività, non soltanto quello della prima chiamata. Per gli agenti di programmazione questo significa considerare anche la probabilità che una modifica superi i test, la quantità di contesto richiesta e il numero di cicli necessari per arrivare al risultato.
Il router potrebbe inoltre utilizzare informazioni specifiche sul tipo di attività. Modelli differenti possono essere più efficaci nella scrittura del codice, nella comprensione di immagini, nell’analisi dei documenti o nella generazione di contenuti. L’instradamento non deve quindi necessariamente seguire una semplice gerarchia dal sistema più piccolo a quello più grande, ma può scegliere tra modelli specializzati in base alla natura del problema. Una simile architettura permette anche di aggiornare i componenti senza riprogettare l’intera applicazione: quando diventa disponibile un modello più efficiente, il router può iniziare ad assegnargli le richieste compatibili.
La possibile apertura del servizio all’esterno mostra inoltre come Meta stia cercando nuove modalità per trasformare gli investimenti in AI in prodotti e ricavi non direttamente collegati alla pubblicità. Dopo aver costruito capacità di calcolo, modelli e chip proprietari per sostenere i propri servizi, l’azienda può utilizzare una parte della stessa infrastruttura per offrire strumenti destinati agli sviluppatori e alle imprese. Switchboard potrebbe diventare il livello attraverso il quale distribuire questa capacità, controllando l’assegnazione dei carichi e offrendo agli utenti un accesso semplificato senza richiedere la selezione manuale di ogni modello.
Il progetto si trova ancora nelle prime fasi e non è stata annunciata una data di disponibilità. Restano da definire l’accuratezza del sistema di classificazione, i modelli accessibili, le modalità di integrazione e l’eventuale struttura commerciale. La sua direzione è però indicativa di un cambiamento più ampio: con l’aumento del numero di modelli disponibili, il vantaggio competitivo non deriva più soltanto dal possedere il sistema più potente, ma dalla capacità di selezionare automaticamente quello sufficiente per ogni compito e di completare il lavoro utilizzando la minore quantità possibile di risorse.