llm-d 1.0 introduce un’infrastruttura Kubernetes per l’inferenza distribuita dei modelli AI in produzione
Il progetto open source llm-d ha annunciato, in occasione della PyTorch Conference North America, il rilascio della versione 1.0 della propria infrastruttura per l’esecuzione distribuita dei modelli linguistici. La piattaforma…