Baseten ha presentato Sandboxes, un servizio di esecuzione destinato agli agenti di intelligenza artificiale che devono conservare file, processi e stato della memoria durante attività articolate, distribuite su più sessioni di lavoro. La piattaforma mette a disposizione ambienti isolati basati su microVM, progettati per eseguire codice, manipolare documenti, installare dipendenze e mantenere il contesto operativo anche quando l’agente viene temporaneamente sospeso. Il servizio è già disponibile e può essere utilizzato gratuitamente fino al 16 novembre 2026, rappresentando il primo componente di un’infrastruttura più ampia che Baseten definisce agent cloud. Le organizzazioni possono creare ambienti separati per singoli utenti, progetti o attività, assegnando a ciascun agente uno spazio di esecuzione dedicato. La configurazione iniziale prevede un limite standard di dieci sandbox contemporanee per organizzazione, modificabile attraverso il supporto tecnico. Tra gli utilizzi previsti rientrano la creazione e l’esecuzione di codice per sviluppare applicazioni e siti web, il download e l’elaborazione di documenti, l’analisi di fonti informative e la conservazione dei risultati di attività di ricerca che richiedono numerosi passaggi.
L’architettura di isolamento assegna a ogni sandbox una microVM dedicata, dotata di un proprio kernel e protetta mediante meccanismi di separazione a livello hardware. Baseten presenta questa configurazione come un livello di isolamento superiore rispetto ai tradizionali approcci basati esclusivamente su container, soprattutto quando gli agenti devono eseguire codice non attendibile o interagire con file e processi che non devono poter compromettere altri ambienti. La separazione delle macchine virtuali è infatti destinata a ridurre la possibilità di movimenti laterali fra sessioni appartenenti a utenti o progetti differenti. Accanto alla protezione dell’ambiente di esecuzione, Sandboxes introduce un meccanismo di persistenza dello stato che permette di interrompere l’attività senza mantenere costantemente impegnate risorse computazionali. Quando una sandbox viene disconnessa, il sistema crea uno snapshot comprendente filesystem, contenuto della memoria e processi attivi. L’istanza può quindi entrare in uno stato di sospensione nel quale il consumo di capacità di calcolo si riduce fino a zero, pur conservando le informazioni necessarie per riprendere il lavoro.
Al momento della riattivazione, l’ambiente viene ricostruito a partire dallo stato precedentemente salvato, consentendo all’agente di continuare l’esecuzione senza ripetere l’installazione delle dipendenze, la preparazione dei file o le operazioni già completate. Questa caratteristica è stata progettata anche per i flussi di lavoro che richiedono l’intervento umano, nei quali un agente può sospendere l’attività in attesa di un’approvazione e riprendere successivamente dal punto raggiunto. Baseten dichiara un tempo di ripristino di circa 25 millisecondi, una capacità di attivazione di migliaia di sandbox nell’arco di pochi secondi e prestazioni fino a cinque volte superiori rispetto ad altri strumenti di sandboxing. Si tratta di misure comunicate dal fornitore, la cui effettiva applicabilità dipende dalle caratteristiche del carico di lavoro e dalle condizioni dell’infrastruttura. La riduzione della latenza riguarda un aspetto particolarmente rilevante per gli agenti che eseguono cicli prolungati di operazioni, nei quali i tempi necessari per avviare gli ambienti, leggere e scrivere file ed effettuare richieste di inferenza si accumulano progressivamente durante l’esecuzione.
Ogni sandbox viene inizializzata a partire da un’immagine software. Gli sviluppatori possono utilizzare immagini predefinite mantenute da Baseten oppure crearne di personalizzate attraverso un Dockerfile o importandole da un registro esterno. Le immagini possono comprendere il sistema operativo, gli ambienti di esecuzione dei linguaggi di programmazione, librerie, pacchetti, strumenti da riga di comando, codice iniziale e dati necessari al funzionamento dell’agente. È inoltre possibile definire impostazioni relative alla memoria e alle porte di rete. Dopo la compilazione, ogni immagine personalizzata riceve una versione identificabile mediante tag e può essere utilizzata come base per nuove istanze. Le modifiche effettuate all’interno di una sandbox non alterano l’immagine originale, mantenendo separata la configurazione iniziale dalle informazioni prodotte durante l’esecuzione. L’interazione con gli ambienti avviene attraverso la Baseten CLI, che permette di creare le istanze, eseguire comandi e accedere a terminali interattivi. Un server API dedicato gestisce inoltre l’esecuzione dei comandi e le operazioni sui file per gli strumenti collegati attraverso Model Context Protocol, consentendo agli agenti di programmazione di utilizzare gli stessi meccanismi operativi messi a disposizione degli sviluppatori.
La conservazione dello stato presenta un limite preciso: l’eliminazione di una sandbox comporta la cancellazione permanente dei dati locali associati all’ambiente, compresi i casi nei quali l’istanza venga rimossa alla scadenza del periodo di conservazione. Per mantenere informazioni e risultati oltre il ciclo di vita della singola sandbox è quindi necessario salvarli in un sistema esterno oppure utilizzare un volume di archiviazione montato e gestito separatamente. Baseten intende affrontare questa esigenza attraverso Agent Drive, un filesystem remoto distribuito progettato per essere condiviso fra sandbox differenti e ottimizzato per un numero elevato di operazioni di scrittura su file di piccole dimensioni, come codice sorgente e documenti Markdown. Il progetto prevede inoltre Agent Proxy, un componente destinato a controllare le connessioni di rete dall’esterno delle sandbox e a inserire credenziali durante operazioni sensibili senza esporle direttamente all’agente. Un esempio riguarda l’autenticazione necessaria per eseguire un pagamento attraverso Stripe, nel quale le credenziali potrebbero essere fornite al momento della chiamata autorizzata anziché archiviate nell’ambiente di esecuzione.
La configurazione futura dell’agent cloud comprende anche gestione delle autorizzazioni, registrazione delle attività, firewall, indirizzi IP statici e controlli di accesso configurabili. Baseten prevede di rendere disponibili Agent Drive e Agent Proxy nei mesi successivi al lancio, mentre Sandboxes costituisce il primo livello operativo già accessibile. Il servizio si affianca alle componenti Dedicated Inference, Model APIs, Training, Loops e Grid presenti nell’offerta della società, estendendo l’infrastruttura oltre l’esecuzione dei modelli verso la gestione degli ambienti nei quali gli agenti compiono concretamente le proprie operazioni. L’impostazione architetturale risponde a una differenza fra le applicazioni cloud tradizionali, generalmente progettate per servire grandi quantità di utenti attraverso un numero relativamente contenuto di servizi, e i sistemi agentici, nei quali possono esistere milioni di piccoli ambienti applicativi dedicati a pochi utenti o a singole attività. Nella configurazione iniziale, Sandboxes offre isolamento dell’esecuzione e ripristino dello stato, mentre il filesystem condiviso e i controlli centralizzati delle credenziali rimangono componenti annunciati ma non ancora generalmente disponibili.
Questo articolo è stato redatto con il supporto di strumenti di intelligenza artificiale (AI)