DeepSeek 全面开源内部推理框架 DeepInfer

DeepSeek 宣布将内部推理框架 DeepInfer 全面开源，支持分布式推理、推测解码、SWA Bounded Replay 等能力，兼容英伟达与华为昇腾平台，并同步开源生产级 Token 编解码组件 deepseek-recipe，旨在降低大模型推理成本，实现普惠。