跳到正文
vLLM 官方博客· vLLM Team, Inferact, Red Hat, and NVIDIA·· 1 天前精选AI 评分61

vLLM 支持 NVIDIA Vera Rubin NVL72 平台

vLLM Support for NVIDIA Vera Rubin NVL72: 7.8x Throughput over GB200 NVL72

AI 导读

vLLM 官方宣布支持 NVIDIA Vera Rubin NVL72,提供每日容器构建和对 DeepSeek、Kimi、GLM、MiniMax 等模型的支持。

推荐理由

vLLM 官方宣布支持 NVIDIA Vera Rubin NVL72,给出性能对比和可用性细节,读者可据此判断其在新硬件上的部署潜力。

来源:vLLM 官方博客 · vllm.ai