Perplexity ha lanciato Portable Computer, una versione della propria piattaforma agentica Computer progettata per funzionare direttamente sull’hardware già in possesso degli utenti. Il sistema debutta sui supercomputer desktop Nvidia DGX Spark e sui computer Linux dotati di GPU Nvidia RTX, con l’obiettivo di spostare sul dispositivo locale una parte consistente dei carichi di lavoro normalmente eseguiti nel cloud. Modelli, file dell’utente, infrastruttura agentica e attività possono rimanere sulla macchina, mentre l’elaborazione locale non utilizza i crediti associati ai servizi cloud di Perplexity. Ogni attività viene avviata per impostazione predefinita sul dispositivo e il sistema richiede l’autorizzazione dell’utente prima di trasferire un singolo passaggio a un modello di frontiera remoto.
Portable Computer riproduce localmente le funzioni principali di Perplexity Computer, la piattaforma sviluppata per orchestrare modelli, file, strumenti, accesso al web e connettori durante attività articolate come l’analisi di raccolte documentali, l’elaborazione di dati, la produzione di report e l’invio dei risultati verso applicazioni aziendali. La differenza principale consiste nell’integrazione dell’intero stack all’interno di un unico ambiente: modelli locali, motore di inferenza, sistema agentico, strumenti, connettori applicativi e sandbox di sicurezza vengono distribuiti insieme, evitando all’utente di dover scaricare separatamente i pesi dei modelli, configurare un server di inferenza, collegare gli strumenti e ottimizzare manualmente l’esecuzione.
Durante una dimostrazione su DGX Spark, Portable Computer ha utilizzato un modello Qwen da 27 miliardi di parametri per analizzare una cartella contenente moduli fiscali 1099 e documenti relativi a investimenti. L’agente ha elaborato localmente i file e individuato situazioni nelle quali l’investitore simulato stava sostenendo commissioni non necessarie, utilizzando completamente la GPU senza consumare crediti cloud. Una seconda dimostrazione ha mostrato invece il funzionamento ibrido: un file CSV con dati relativi a un funnel di conversione è stato analizzato localmente e il risultato è stato successivamente inviato a un canale Slack attraverso i connettori di Perplexity. L’esecuzione local-first non implica quindi l’isolamento del dispositivo, ma permette di mantenere localmente i passaggi sensibili e utilizzare servizi esterni soltanto quando necessario.
Il sistema supporta inoltre connessioni con Google Drive, Gmail e GitHub e può effettuare l’escalation verso un modello cloud quando il modello locale non è sufficiente per completare un’attività. Al lancio sono configurabili Qwen 3.8 27B e PPLX 27B, una variante addestrata internamente da Perplexity, mentre Nvidia Nemotron 3.5 Lightning è previsto successivamente. Portable Computer è disponibile per gli abbonati Pro, Max, Enterprise Pro ed Enterprise Max su Linux, mentre il supporto per Windows è previsto a settembre. Il requisito hardware minimo indicato è una GPU Nvidia RTX con almeno 24 GB di VRAM, una classe che comprende indicativamente GeForce RTX 3090 e modelli successivi.
Parallelamente al prodotto, Perplexity ha pubblicato un lavoro di ricerca dedicato alla progettazione degli agenti locali. La tesi è che un agente destinato a funzionare con modelli relativamente compatti non possa limitarsi a utilizzare la stessa infrastruttura progettata per modelli di frontiera nel cloud. Framework generici possono infatti presupporre finestre di contesto molto ampie, numerosi strumenti contemporaneamente disponibili e capacità di pianificazione estese su sequenze operative molto lunghe. Nei test condotti da Perplexity, modelli come Qwen 3.8 27B, pur dichiarando finestre di contesto fino a circa 260.000 token, iniziano a mostrare difficoltà operative oltre i 100.000 token.
Per ridurre questo problema, Portable Computer utilizza un framework volutamente più compatto. Il prompt di sistema è ridotto, il numero di strumenti di base viene limitato e le funzionalità aggiuntive vengono caricate dinamicamente sotto forma di skill soltanto quando servono, invece di restare permanentemente nel contesto. Perplexity ha inoltre trasformato alcuni connettori, tra cui Gmail e GitHub, da server MCP relativamente pesanti in termini di token a strumenti più compatti eseguibili da riga di comando. Il sistema integra hook di auto-verifica per monitorare l’avanzamento dell’attività e applica un sandboxing a livello di sistema operativo sempre attivo. Se la sandbox non è disponibile, l’ambiente agentico viene disabilitato anziché consentire agli strumenti di operare direttamente con i privilegi completi dell’utente.
Perplexity ha valutato questa architettura attraverso Local Knowledge Work Bench, un benchmark interno composto da 53 attività che comprendono ricerca approfondita, analisi finanziaria e produzione di documenti. Utilizzando Qwen 3.8 27B su DGX Spark, Computer ha ottenuto un punteggio dell’82,6%, rispetto al 77,6% della soluzione open source Pi e al 74,0% di Hermes utilizzando lo stesso modello. Con PPLX 27B, sottoposto ad addestramento specifico da Perplexity, il risultato è salito all’85,4%. L’azienda ha dichiarato l’intenzione di rendere pubblico il benchmark.
Le differenze aumentano nelle attività più complesse. Su BrowseComp, dedicato alla ricerca sul web, l’architettura Computer ha raggiunto un’accuratezza del 66,7%, rispetto al 50,2% di Pi e al 43,9% di Hermes. Perplexity riporta inoltre una riduzione del 51% del tempo di esecuzione e del 70% del consumo di token rispetto a Pi. Nei test sulla comprensione multimodale dei documenti, Computer ha ottenuto il 65,1%, contro il 34,6% di Hermes e il 13,9% di Pi. Si tratta comunque di misurazioni effettuate internamente dall’azienda e non di benchmark indipendenti.
La scelta dell’esecuzione locale è strettamente collegata anche all’economia dei sistemi agentici. A differenza di una semplice conversazione con un chatbot, un agente può rimanere operativo per periodi prolungati, leggere numerosi documenti, utilizzare strumenti, verificare i propri risultati e ripetere più volte alcune elaborazioni. Nel cloud, questo comportamento può generare un consumo elevato di token e quindi costi API crescenti. Quando lo stesso processo viene eseguito su hardware già acquistato dall’utente, il costo marginale dell’inferenza non dipende invece dal numero di token elaborati. Perplexity collega questo aspetto alla privacy: i contenuti sensibili possono restare sul dispositivo e soltanto operazioni selezionate vengono trasferite all’esterno.
L’architettura ibrida viene utilizzata anche per trovare un compromesso tra costo e capacità del modello. Su Terminal Bench 2.1, Qwen eseguito interamente in locale ha ottenuto un punteggio del 59,6% con un costo marginale di inferenza praticamente nullo. Utilizzando Claude Opus 5 nel cloud come modello consulente, il punteggio è salito al 73,0%, con un costo stimato di 0,415 dollari per attività. L’utilizzo esclusivo del modello di frontiera ha raggiunto invece l’82,4%, con un costo di circa 0,65 dollari per attività. L’approccio ibrido recupera quindi una parte del divario prestazionale lasciando all’utente la possibilità di decidere quando ricorrere al modello remoto.
Prima di inviare informazioni al consulente cloud, Portable Computer esegue inoltre un classificatore per individuare eventuali informazioni personali identificabili presenti nel contesto in uscita e mostra all’utente ciò che verrebbe trasferito fuori dal dispositivo. Il modello remoto riceve soltanto il contesto testuale necessario a fornire indicazioni e non dispone di accesso diretto ai file, agli strumenti o alle risorse presenti sulla macchina locale.
Sul piano dell’inferenza, Portable Computer utilizza vLLM per ospitare i modelli, ma offre anche una modalità avanzata che consente di collegare endpoint di inferenza configurati dall’utente. Perplexity ha lavorato sull’ottimizzazione congiunta dei modelli Qwen e Nemotron e dell’infrastruttura agentica, distinguendo il proprio approccio da strumenti come Ollama, concentrati principalmente sull’esecuzione locale dei modelli. Portable Computer cerca invece di gestire l’intero livello operativo superiore, comprendendo orchestrazione, tool use, sicurezza, gestione del contesto e passaggio controllato tra inferenza locale e cloud.
La collaborazione con Nvidia comprende anche l’ottimizzazione dell’esecuzione sui sistemi DGX Spark. L’hardware può essere utilizzato in configurazioni multiple: secondo Nvidia, due Spark collegati possono eseguire modelli open-weight di dimensioni molto maggiori, mentre configurazioni con quattro unità possono supportare modelli come GLM 5.2 o Nemotron Ultra. Sono state sperimentate anche configurazioni con otto sistemi collegati, ampliando la quantità di memoria e capacità computazionale disponibile localmente.
Portable Computer estende una collaborazione tra Nvidia e Perplexity già avviata nel 2025 sul fronte dell’intelligenza artificiale sovrana. In quel contesto le due società avevano lavorato su infrastrutture destinate a editori e operatori di telecomunicazioni europei, con l’obiettivo di consentire l’esecuzione di modelli e servizi su infrastrutture controllate localmente. Con Portable Computer lo stesso principio viene applicato alla scala del singolo dispositivo: i dati possono restare sull’hardware dell’utente e il ricorso all’infrastruttura remota diventa selettivo anziché obbligatorio.
Al momento il prodotto presenta comunque limiti hardware e software significativi. Il supporto iniziale è riservato a Linux, in attesa della versione Windows prevista per settembre, mentre il requisito minimo di 24 GB di VRAM esclude gran parte dei normali PC consumer. Non è stato annunciato supporto per Apple Silicon e Perplexity ha dichiarato di essere attualmente concentrata sull’ecosistema Nvidia. Anche le prestazioni dei modelli locali rimangono inferiori a quelle dei modelli di frontiera nei compiti di ragionamento più difficili e l’utilizzo di un modello cloud come consulente riduce, senza eliminare completamente, questa differenza.
Questo articolo è stato redatto con il supporto di strumenti di intelligenza artificiale (AI)