Shopify ha costruito la propria infrastruttura AI evitando di legare strumenti interni, workflow di sviluppo e applicazioni aziendali a un unico fornitore di modelli linguistici. Il punto centrale dello stack è un proxy LLM interno che riceve le richieste provenienti dagli strumenti utilizzati dai dipendenti e le instrada verso i modelli disponibili, separando le applicazioni che usano l’intelligenza artificiale dagli endpoint diretti di OpenAI, Anthropic, Google o altri provider.
Questa architettura consente a Shopify di sostituire un modello, modificarne il routing o adottare un nuovo servizio senza dover aggiornare ogni tool collegato all’AI. Gli sviluppatori possono usare Claude Code, GitHub Copilot, Cursor, OpenAI Codex, strumenti sperimentali basati su Gemini e altri ambienti, mentre il livello infrastrutturale rimane centralizzato. La scelta non è quella di imporre un unico assistente di coding o un solo LLM, ma di standardizzare il punto attraverso cui tutti questi strumenti accedono ai modelli.
Il proxy svolge innanzitutto una funzione di controllo dei costi. Le richieste dei team vengono raccolte in un’unica piattaforma, dove Shopify può misurare il consumo di token per progetto, persona e gruppo di lavoro, rilevare aumenti anomali di spesa e acquistare capacità di inferenza in modo centralizzato. Farhan Thawar, responsabile engineering di Shopify, ha indicato che il sistema può generare avvisi quando un singolo dipendente supera i 250 dollari di token utilizzati in una giornata, non per bloccare automaticamente la sperimentazione, ma per capire se dietro il consumo ci sia un’attività utile, come un refactoring esteso o la costruzione di un nuovo strumento interno.
La stessa infrastruttura permette di mantenere flessibilità nella selezione dei modelli. Se un nuovo LLM offre prestazioni migliori su coding, analisi documentale, ragionamento complesso, generazione di interfacce o recupero di informazioni, Shopify può modificare il collegamento all’interno del gateway senza imporre ai team una migrazione immediata. Questo evita che un’applicazione venga progettata attorno a caratteristiche specifiche di un singolo modello o che un’intera organizzazione debba attendere una scelta definitiva in un mercato nel quale capacità, prezzi, contesti massimi, latenze e funzioni agentiche cambiano rapidamente.
Il proxy è collegato anche a una rete di server MCP, utilizzati per rendere accessibili agli assistenti AI i sistemi aziendali già presenti nell’organizzazione. Shopify collega gli strumenti AI a fonti come wiki interne, piattaforme di product management, data warehouse, Salesforce, Slack, Google Workspace e calendari. L’accesso ai dati non viene gestito come una copia separata dei permessi: il recupero passa attraverso gli stessi flussi di autorizzazione dell’utente, quindi un assistente può recuperare soltanto le informazioni che quella persona sarebbe già autorizzata a vedere nei sistemi originali.
Questo collegamento trasforma il modello da semplice generatore di testo in un’interfaccia capace di interrogare contesti aziendali distribuiti. Un dipendente che prepara una riunione può ottenere in un’unica risposta dati su un merchant, conversazioni Slack rilevanti, documenti, informazioni CRM e appuntamenti collegati. La qualità del risultato dipende quindi non soltanto dal modello usato, ma dal modo in cui lo stack collega fonti, permessi, strumenti e contesto operativo.
Shopify ha affiancato a questa infrastruttura una piattaforma interna chiamata Quick, progettata per ridurre il tempo necessario a creare piccoli strumenti aziendali. Un dipendente può caricare un file JavaScript, TypeScript o HTML, assegnargli un URL e pubblicare rapidamente un’applicazione utilizzabile all’interno dell’azienda. In questo ambiente, l’AI può essere usata per costruire dashboard, strumenti di supporto operativo, interfacce per dati interni e applicazioni mirate a un singolo caso d’uso, senza richiedere un normale ciclo di sviluppo completo o l’intervento immediato del team engineering.
L’obiettivo non è soltanto accelerare la produzione di codice. Shopify misura l’impatto dell’AI osservando la velocità con cui i team sperimentano soluzioni, il numero di approcci che riescono a esplorare e la qualità dei prodotti consegnati, piuttosto che il volume di linee generate o di pull request aperte. La stima interna citata da Thawar è di un miglioramento della produttività attorno al 20%, ma il dato viene associato alla capacità di prototipare più velocemente e verificare più alternative, non a una crescita meccanica dell’output software.
Lo stack mantiene comunque un controllo umano sulle modifiche che entrano nei repository principali. Shopify non consente agli agenti AI di effettuare commit autonomi nel codice di produzione: ogni pull request richiede la revisione di un engineer senior. L’azienda osserva inoltre il tasso di rollback delle modifiche dopo il merge come indicatore della qualità del codice prodotto con il supporto dell’AI. L’assenza di un aumento delle reversioni viene utilizzata per verificare che la maggiore velocità di sviluppo non stia generando un peggioramento misurabile della stabilità.
L’architettura prepara anche il passaggio a workflow agentici più complessi. Shopify sta sperimentando sia l’esecuzione parallela di più agenti su parti differenti di una base di codice, con revisione e integrazione finale da parte dell’ingegnere, sia cicli sequenziali nei quali un modello genera una soluzione, la valuta, la corregge e la sottopone a più iterazioni di critica. In entrambi i casi, il proxy, i server MCP, i controlli di accesso e i meccanismi di osservabilità costituiscono il livello che permette di cambiare modelli e strumenti senza ricostruire il processo operativo.
La scelta di Shopify consiste quindi nel trattare gli LLM come risorse sostituibili dietro un’infrastruttura comune. Modelli, assistenti di coding e provider possono cambiare, ma la gestione dei token, l’accesso ai dati interni, i permessi, il routing, le metriche di utilizzo e le regole di revisione restano elementi permanenti dello stack. In questo modo l’azienda può sperimentare tecnologie diverse senza costruire il proprio ambiente AI attorno alla sopravvivenza di un singolo modello o di una singola piattaforma.