NVIDIA ModelExpress riduce il tempo di avvio dei grandi modelli trasferendo i pesi direttamente tra GPU
NVIDIA ha presentato ModelExpress, un’infrastruttura software progettata per accelerare la distribuzione dei pesi dei grandi modelli linguistici nei cluster di calcolo. Con checkpoint che raggiungono centinaia di gigabyte o superano…