跳到正文
热点事件持续更新

DeepSeek开源DeepInfer推理框架与编解码组件

1 篇报道1 个报道来源1 小时前更新

先了解这件事

AI 综述

DeepSeek宣布全面开源其内部推理框架DeepInfer及生产级Token编解码组件deepseek-recipe,旨在降低大模型推理成本。 DeepInfer支持分布式推理、推测解码、SWA Bounded Replay等功能,并兼容英伟达与华为昇腾平台。

AI 根据报道生成 · 43 分钟前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月20日
  1. IT之家精选
    DeepSeek 全面开源内部推理框架 DeepInfer

    DeepSeek 宣布将内部推理框架 DeepInfer 全面开源,支持分布式推理、推测解码、SWA Bounded Replay 等能力,兼容英伟达与华为昇腾平台,并同步开源生产级 Token 编解码组件 deepseek-recipe,旨在降低大模型推理成本,实现普惠。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。