IT之家·· 2 小时前精选AI 评分65
华为昇腾 0 Day 支持 Kimi K3.1 Pro 推理部署
华为宣布昇腾 0 Day 支持 Kimi K3.1 Pro 推理部署,2.8 万亿级 MoE 模型能力再进阶
AI 导读
华为昇腾宣布在 Kimi K3.1 Pro 模型发布当日完成推理适配,支持 Atlas 800 A3、Atlas 900 A3 SuperPod 及昇腾 950 超节点系列产品部署。该模型拥有 2.8 万亿参数,原生支持视觉理解与百万 token 上下文,采用混合线性注意力架构,昇腾通过算子与框架协同优化实现稀疏注意力与多模态推理适配,覆盖长上下文推理与服务部署需求。
推荐理由
原文说明了昇腾对 Kimi K3.1 Pro 的 0 Day 推理适配细节,读者可据此了解大模型在国产算力平台上的部署能力进展。
来源:IT之家 · ithome.com