L’evoluzione dai tradizionali chatbot agli AI agent sta modificando profondamente anche il profilo energetico dell’intelligenza artificiale. Se un modello conversazionale si limita generalmente a elaborare una richiesta e generare una risposta, un agente autonomo deve pianificare una sequenza di operazioni, richiamare ripetutamente il modello linguistico, utilizzare strumenti esterni come motori di ricerca, interpreti di codice o calcolatori e verificare i risultati ottenuti prima di completare il compito. Tutto questo si traduce in un carico computazionale significativamente superiore.
Una ricerca condotta dal KAIST ha quantificato per la prima volta l’impatto di questa nuova modalità operativa, analizzando gli AI agent come un vero e proprio workload per i data center. Lo studio evidenzia che, rispetto alle classiche applicazioni basate su Large Language Model, gli agenti effettuano numerose invocazioni successive del modello durante la risoluzione di un singolo problema, aumentando sia il tempo di elaborazione sia il consumo energetico complessivo.
I risultati mostrano che il tempo necessario per completare un’attività può crescere fino a oltre 150 volte rispetto a una semplice interazione domanda-risposta. Parallelamente emerge un’importante inefficienza nell’utilizzo delle GPU: durante l’esecuzione degli strumenti esterni, gli acceleratori rimangono inattivi per una parte significativa del tempo, arrivando in alcuni casi a restare in attesa per oltre la metà della durata complessiva dell’elaborazione. Questo significa che l’aumento delle capacità operative degli agenti non corrisponde automaticamente a un utilizzo ottimale delle risorse hardware disponibili.
Dal punto di vista energetico, le differenze risultano ancora più marcate. Considerando un AI agent basato su un modello linguistico da circa 70 miliardi di parametri, ogni richiesta può richiedere mediamente oltre 348 Wh, con un consumo fino a 136,5 volte superiore rispetto a quello associato a una tradizionale interrogazione generativa. Si tratta di valori che, moltiplicati per miliardi di richieste giornaliere, modificano radicalmente le prospettive di scalabilità dell’infrastruttura necessaria per sostenere servizi agentici distribuiti su larga scala.
Le simulazioni effettuate dai ricercatori mostrano infatti che uno scenario caratterizzato da circa 13,7 miliardi di richieste giornaliere elaborate da AI agent potrebbe richiedere una potenza complessiva nell’ordine dei 198,9 GW, un valore enormemente superiore alla capacità dei data center AI oggi in fase di realizzazione e paragonabile a una quota rilevante del consumo elettrico nazionale di grandi economie.
Lo studio suggerisce quindi che la competitività dell’intelligenza artificiale non dipenderà esclusivamente dall’incremento delle prestazioni dei modelli, ma anche dalla capacità di progettare congiuntamente algoritmi, acceleratori hardware, architetture dei data center e infrastrutture energetiche. Questo approccio di co-design mira a ridurre il costo operativo degli AI agent, migliorare l’efficienza delle GPU durante le fasi di elaborazione e rendere sostenibile la diffusione di sistemi sempre più autonomi, destinati a svolgere attività complesse nei settori dello sviluppo software, della ricerca scientifica e dell’automazione dei processi aziendali.