2. Linux.do
  3. DeepSeek发布DSpark推测解码框架，DeepSeek-V4单用户生成速度提升60%–85%

DeepSeek发布DSpark推测解码框架，DeepSeek-V4单用户生成速度提升60%–85%

HCPTangHY 2026-06-27 13:51 1

DeepSeek-AI与北京大学联合发布了DSpark，一个面向大语言模型推理加速的推测解码框架。该框架已部署于DeepSeek-V4的线上服务系统，与此前的生产基线MTP-1相比，在相同吞吐量水平下将单用户生成速度提升了60%–85%（V4-Flash）和57%–78%（V4-Pro）。团队同步开源了DSpark模型权重及配套训练仓库DeepSpec。






最新回复 (6)
  • HCPTangHY 楼主 06-27 13:52
    1楼



    字烂了

  • NukaColaM 06-27 13:53
    2楼

    D老师还是那个D老师，它更关心的还是打地基。

  • hwang 06-27 13:53
    3楼

    对上了：


    https://linux.do/t/topic/2484213

  • Rabe 06-27 15:18
    4楼

    设计一个 draft model 的意思吧，看上去是对各种模型都可以用的

  • 梨涡近点ಣ 06-27 15:21
    5楼

    本地部署的 是不是还得自己弄下来重新部署这个框架

  • HCPTangHY 楼主 06-27 15:21
    6楼


    有集成好的

* 帖子来源Linux.do
附近帖子
返回
飞读
随机推荐