vLLM 支持部署 NVIDIA 开源多模态模型 Nemotron 3.5 Super VL
先了解这件事
vLLM 宣布在其推理引擎上实现了对 NVIDIA 新发布的开源多模态模型 Nemotron 3.5 Super VL 的首日支持。 NVIDIA 发布了总参数量为 120B 的 Nemotron 3.5 Super VL 模型,采用 MoE 架构,支持文本、图像、文档和视频输入,现已可在 Hugging Face、Open Router 等多个平台获取。 vLLM 官方称,用户可从 Hugging Face 下载 BF16 或 NVFP4 量化的模型权重,并参照其入门指南使用 vLLM 部署运行该模型。
AI 根据报道生成 · 10 分钟前更新
事件进展
2 个进展
- 10月15日 23:00 · 6 篇报道NVIDIA 发布 Nemotron 3.5 Super VL 模型NVIDIA 新闻室:NVIDIA 发布 Nemotron 3.5 Super VL 和 Bolt 系列模型
- 10月15日 08:00 · 1 篇报道vLLM 宣布支持 NVIDIA Nemotron 3.5 Super VLvLLM 官方博客:NVIDIA Nemotron 3.5 Super VL 在 vLLM 上实现 Day 0 支持
报道时间线
沿着报道,了解事件的不同侧面。
- The Decoder精选Nvidia 发布 Nemotron 3.5 Super VL 开源多模态模型及本地智能体版本
Nvidia 发布开源多模态模型 Nemotron 3.5 Super VL(120B 参数),专为持续运行的企业级 AI 智能体设计,采用 MoE 架构,仅激活 12B 参数/Token。
- cnBeta精选英伟达发布Nemotron 3.5系列模型 1200亿参数旗舰与轻量级边缘AI同步亮相
英伟达发布Nemotron 3.5系列模型,包括1200亿参数的视觉语言模型Nemotron 3.5 Super VL,以及两款面向边缘设备的轻量级模型,分别需4GB和24GB显存。该系列旨在支持企业级AI智能体与本地低延迟推理,构建从云端到终端的AI生态。
- IT之家精选英伟达发布 1200 亿参数大模型 Nemotron 3.5 Super VL
英伟达发布开放多模态模型 Nemotron 3.5 Super VL,总参数量 1200 亿,激活参数 120 亿,支持文本、图像、文档和视频理解,面向长运行 AI 智能体。
- NVIDIA 新闻室精选NVIDIA 发布 Nemotron 3.5 Super VL 和 Bolt 系列模型
NVIDIA 发布 Nemotron 3.5 Super VL,一个120B参数的开源模型,专为高吞吐量智能体任务设计,性能达前沿水平且参数量仅为同类最大模型的五分之一。
- NVIDIA · 开发者博客精选NVIDIA 发布 Nemotron 3.5 Super VL 多模态模型
NVIDIA 发布 Nemotron 3.5 Super VL,一个开源、可定制的多模态模型,用于支持企业级智能体处理复杂工作流。该模型采用 120B 参数的 MoE 架构,激活 12B 参数用于推理,支持文档阅读、多源信息核查、政策遵循和工具调用等任务。
- ZDNet · AINvidia 发布 Nemotron 3.5 Super VL 开放权重多模态模型
Nvidia 发布 120B 参数的开放权重多模态模型 Nemotron 3.5 Super VL,据称在同类模型中输出速度最快,为竞品的 5 倍,同时支持企业级智能体的高精度后训练。
- vLLM 官方博客NVIDIA Nemotron 3.5 Super VL 在 vLLM 上实现 Day 0 支持
NVIDIA Nemotron 3.5 Super VL 是一个开源的多模态模型,支持文本、图像、文档和视频输入,专为长运行智能体设计。该模型采用 120B 参数的 MoE 架构,12B 激活参数,结合 C-RADIOv4 视觉编码器、混合 Mamba-Transformer 架构、多 token 预测和 NVFP4 量化,提升生成效率。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。