Google ha annunciato il 9 novembre 2026 due nuove configurazioni della propria infrastruttura di accelerazione per l’intelligenza artificiale, denominate TPU 8tx e TPU 8i Max, entrambe appartenenti all’ottava generazione delle Tensor Processing Unit. Le nuove soluzioni sono progettate per esigenze computazionali differenti: TPU 8tx si concentra sull’inferenza riservata e sull’addestramento di dimensioni contenute in ambienti che elaborano informazioni sensibili, mentre TPU 8i Max è destinata a carichi di lavoro caratterizzati da finestre di contesto molto estese e requisiti elevati di memoria. Con queste due configurazioni Google porta a quattro il numero di sistemi TPU introdotti nel corso del 2026, un risultato che l’azienda indica come il primo di questo tipo nella propria storia. La base clienti delle TPU si avvicina nel frattempo a 100 organizzazioni, comprendenti laboratori di ricerca avanzata, società di trading, imprese commerciali e università, attraverso infrastrutture distribuite sia in Google Cloud sia nei data center dei clienti.
TPU 8tx è stata sviluppata principalmente per aziende operanti in settori regolamentati, amministrazioni pubbliche e organizzazioni che utilizzano modelli proprietari o agenti autonomi insieme a dati riservati. Il sistema affronta il problema della protezione delle informazioni durante l’elaborazione attiva, una fase nella quale i dati, pur essendo normalmente cifrati durante l’archiviazione e il trasferimento, devono essere resi disponibili alla memoria di calcolo. La nuova configurazione è progettata per mantenere isolati i dati sensibili e i pesi dei modelli anche durante l’esecuzione delle operazioni. Dal punto di vista hardware utilizza lo stesso silicio della TPU 8t destinata all’addestramento, ma lo associa a sistemi host dotati di processori AMD EPYC di quinta generazione e alla rete Boardfly a bassa latenza, sviluppata da Google per le applicazioni di ragionamento in tempo reale. Secondo i dati comunicati dall’azienda, questa combinazione permette di ottenere una latenza fino a due volte inferiore rispetto a TPU 8t, con una perdita prestazionale complessiva quasi nulla.
La configurazione 8tx permette di eseguire sullo stesso sistema attività di inferenza, personalizzazione e sviluppo dei modelli. Le organizzazioni possono effettuare il fine-tuning su informazioni private, utilizzare procedure di distillazione per trasferire le capacità di modelli più grandi verso architetture compatte e addestrare agenti attraverso apprendimento per rinforzo, mantenendo i dati riservati nello stesso ambiente hardware. L’integrazione di queste operazioni riduce la necessità di trasferire materiali sensibili tra cluster differenti, un requisito particolarmente rilevante per le applicazioni nelle quali riservatezza dei dati, protezione delle proprietà intellettuali e segregazione degli ambienti costituiscono vincoli infrastrutturali.
TPU 8i Max risponde invece alle necessità dei sistemi AI che devono elaborare simultaneamente grandi quantità di informazioni, come interi repository software, sequenze video della durata di diverse ore e operazioni coordinate da decine di agenti. In questi scenari la banda disponibile per l’accesso alla memoria può diventare un limite anche quando la capacità di calcolo risulta adeguata. Google ha quindi progettato un package che integra due chip TPU 8i a bassa latenza, ottenendo, secondo le specifiche dichiarate, il doppio della potenza computazionale, il doppio della memoria SRAM integrata e il doppio della larghezza di banda della memoria HBM rispetto a una singola TPU 8i. Il nuovo package mantiene l’ingombro previsto dall’architettura rack esistente, permettendo di incrementare la capacità di elaborazione per unità di superficie e per watt consumato. La TPU 8i originale, presentata nell’aprile 2026 insieme alla TPU 8t, dispone di 288 GB di memoria ad alta larghezza di banda e 384 MB di SRAM integrata, valori che costituiscono il riferimento per il dimensionamento della nuova versione Max.
Le due novità derivano dalla strategia di progettazione modulare dell’infrastruttura AI Hypercomputer di Google. L’azienda distingue lo sviluppo di un nuovo chip, che richiede un ciclo pluriennale di progettazione e produzione, dalla realizzazione di sistemi specializzati attraverso differenti combinazioni di acceleratori, memoria, packaging, interconnessioni ottiche, sicurezza e componenti host. In questo modello, TPU 8tx modifica l’architettura di rete, i processori di supporto e le caratteristiche di protezione attorno al silicio dedicato all’addestramento, mentre TPU 8i Max interviene direttamente sul package che contiene gli acceleratori destinati all’inferenza. Google sostiene che tale approccio consenta di realizzare supercomputer specializzati nell’arco di alcuni mesi, senza attendere i diversi anni normalmente necessari per una nuova generazione di processori. La progettazione delle TPU continua a coinvolgere Google DeepMind, ma viene influenzata anche dalle richieste di organizzazioni esterne, in particolare per l’esecuzione di modelli con contesti molto ampi e per l’introduzione di sistemi di cifratura specializzati negli ambienti regolamentati.
Questo articolo è stato redatto con il supporto di strumenti di intelligenza artificiale (AI)