vLLM 支持 NVIDIA Rubin 平台及 MiniMax-M3.1-Flash 模型
先了解这件事
vLLM 团队宣布其开源推理引擎已支持 NVIDIA 最新的 Vera Rubin NVL72 硬件平台,并随后提供了对 MiniMax-M3.1-Flash 模型的 Day-0 支持。 用户可通过 Docker Hub 拉取基于 CUDA 13.4 和 PyTorch 2.15 构建的每日容器镜像(vllm/vllm-openai:cu134-nightly)在 Rubin 硬件上运行 vLLM。官方博客称,该支持已涵盖 DeepSeek、Kimi、GLM、MiniMax 等模型。 在后续更新中,vLLM 团队宣布在 NVIDIA Blackwell、Rubin 以及 AMD MI350 系列 GPU 上为 MiniMax-M3.1-Flash 模型提供 Day-0 支持,并称其在代理任务上表现出色。团队同时说明,该模型支持将在代码审核合并后约一周内通过 nightly PyPI wheel 提供。
AI 根据报道生成 · 1 小时前更新
事件进展
2 个进展
- 10月23日 08:00 · 1 篇报道vLLM 为 MiniMax-M3.1-Flash 提供 Day-0 支持vLLM 官方博客:vLLM 为 MiniMax-M3.1-Flash 提供 Day-0 支持
- 10月9日 08:00 · 1 篇报道vLLM支持NVIDIA Vera Rubin NVL72平台vLLM 官方博客:vLLM 支持 NVIDIA Vera Rubin NVL72 平台
报道时间线
沿着报道,了解事件的不同侧面。
- vLLM 官方博客vLLM 为 MiniMax-M3.1-Flash 提供 Day-0 支持
vLLM 在 NVIDIA Blackwell、Rubin 和 AMD MI350 系列 GPU 上提供对 MiniMax-M3.1-Flash 的 Day-0 支持,该模型在推理效率方面有显著提升。
- NVIDIA Blog欧洲领袖转向 NVIDIA Vera CPU 以构建本地基础设施
欧洲多家科技公司采用 NVIDIA Vera CPU 构建本地基础设施,以支持日益增长的计算需求。Vera 提供高性能、低功耗的 CPU,可加速 AI 智能体处理信息、执行代码和运行工具的效率,同时保持大规模任务处理的响应速度。包括 Nebius、Nscale 和 Verda 在内的 AI 云服务商正基于 Vera 扩展其数据处理和 AI 服务的部署能力。
- NVIDIA 新闻室法国生态系统借助 NVIDIA 实现大规模智能体计算,从地球到轨道
法国企业正在利用 NVIDIA 技术在多个行业部署智能体计算,包括航天、金融服务、公共部门和科研。Bull 将在 2028 年推出基于 NVIDIA Vera Rubin Ultra NVL72 的 AI 服务器,Mistral Large 4 开源模型已在多个领域展示先进性能,NVIDIA Nemotron 开源模型被用于法国多个组织的主权数字工作场所。
- vLLM 官方博客精选vLLM 支持 NVIDIA Vera Rubin NVL72 平台
vLLM 官方宣布支持 NVIDIA Vera Rubin NVL72,提供每日容器构建和对 DeepSeek、Kimi、GLM、MiniMax 等模型的支持。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。