vLLM 官方博客· vLLM Team, Inferact, Red Hat, and NVIDIA·· 1 天前精选AI 评分61
vLLM 支持 NVIDIA Vera Rubin NVL72 平台
vLLM Support for NVIDIA Vera Rubin NVL72: 7.8x Throughput over GB200 NVL72
AI 导读
vLLM 官方宣布支持 NVIDIA Vera Rubin NVL72,提供每日容器构建和对 DeepSeek、Kimi、GLM、MiniMax 等模型的支持。
推荐理由
vLLM 官方宣布支持 NVIDIA Vera Rubin NVL72,给出性能对比和可用性细节,读者可据此判断其在新硬件上的部署潜力。
来源:vLLM 官方博客 · vllm.ai