vLLM 官方博客· vLLM-Omni team·· 10 小时前精选AI 评分66
vLLM-Omni 支持 H3-Image 模型在 NVIDIA Vera Rubin 上实现 4K 图像生成
H3-Image Day-0 Support: 4K in 0.87s with Vera Rubin
AI 导读
vLLM-Omni 团队将 MiniMax H3-Image 模型部署在 NVIDIA Vera Rubin 上，四 GPU 下 4K 图像生成中位延迟为 0.87 秒，吞吐量达 6,115 张/小时。
推荐理由
vLLM-Omni 为 H3-Image 模型在 NVIDIA Vera Rubin 上实现 0.87 秒 4K 生成，支持多 GPU 部署和多种硬件平台，提供可复用的推理优化方案。
来源：vLLM 官方博客 · vllm.ai