Immagine AI

Meta sta riutilizzando moduli DDR4 recuperati da server di precedente generazione per aumentare la memoria disponibile nei nuovi sistemi dedicati all’AI, riducendo l’esposizione ai prezzi sempre più elevati della DDR5. L’operazione è resa possibile da Vistara, il primo ASIC proprietario di Meta per l’espansione della memoria tramite CXL, progettato per collegare memoria DDR4 a server moderni che utilizzano processori e piattaforme nate per DDR5.

Vistara implementa CXL 2.0 Type-3 su interfaccia PCIe 5.0 e viene integrato nella piattaforma MemServer di Meta. La configurazione descritta abbina un processore AMD EPYC Turin da 158 core a due chip Vistara, collegati tramite PCIe 5.0 x8. Ogni nodo parte da 768 GB di DDR5-6400 e aggiunge 256 GB di DDR4-2400 recuperata, arrivando a 1 TB di memoria complessiva senza dover acquistare ulteriore memoria DDR5 ad alta velocità.

La DDR4 non viene utilizzata come estensione indistinta della RAM principale. Linux la riconosce come nodo NUMA separato e il sistema opera su due livelli di memoria con caratteristiche molto diverse. Le pagine meno utilizzate vengono spostate nell’area DDR4 collegata via CXL, che offre una banda di circa 76 GB/s, mentre i dati più frequentemente richiesti rimangono nella DDR5, capace di raggiungere circa 614 GB/s. L’obiettivo è usare la memoria più lenta come capacità aggiuntiva per cold data, evitando che i workload più sensibili alla latenza vengano penalizzati.

L’ASIC integra tre core RISC-V dedicati a secure boot, inizializzazione del dispositivo, gestione del firmware e monitoraggio operativo. Meta ha inoltre ottimizzato il controller CXL per contenere overhead di protocollo e latenza, indicando un tempo di andata e ritorno vicino ai 50 nanosecondi. Sul piano dell’affidabilità sono presenti meccanismi server-grade come correzione d’errore Reed-Solomon e protezione x4 chip-kill, pensati per mantenere operativo il sistema anche in presenza di guasti a componenti di memoria.

L’attuale implementazione utilizza moduli DDR4 da 32 GB, con una capacità di 128 GB per chip Vistara. Il passaggio a DIMM da 64 GB permetterebbe di portare l’espansione a 256 GB per ASIC. La scelta mostra come CXL possa trasformare memoria proveniente da infrastrutture dismesse in una risorsa ancora utile per data center AI, separando la necessità di grande capacità di memoria dalla necessità di massima banda per tutti i dati.

Di Fantasy