跳到正文
vLLM 官方博客· vLLM Team·· 20 小时前精选AI 评分74

vLLM 官方发布 Muse Spark Open 模型支持与部署方案

Day 0 support for Muse Spark Open on vLLM

AI 导读

vLLM 官方宣布在发布当日支持 Meta 的 Muse Spark Open 模型,该模型为 816B 参数的稀疏 MoE 架构,具备 1M 上下文窗口和原生多模态感知能力,支持图像、视频和音频输入。

推荐理由

vLLM 官方提供了 Muse Spark Open 的完整部署支持和加速方案,包括 DSpark 推理优化与多硬件适配,可直接用于长上下文智能体编码工作流。

来源:vLLM 官方博客 · vllm.ai