Inferenza LLM: Microsoft lancia il framework BitNet.cpp
Microsoft ha recentemente lanciato BitNet.cpp, un framework innovativo per l’inferenza di modelli linguistici di grandi dimensioni (LLM) a 1 bit. Questo nuovo framework consente l’esecuzione rapida ed efficiente di modelli…