2. V2EX
  3. deepseek v4.1 Flash 发布了

deepseek v4.1 Flash 发布了

Insolitude 2026-09-10 17:01 1

485b 510GB 文件，感觉量化了也很难在 2 台 dgx spark 上运行。


好事是每 token 的 kv 缓存只有原来的 1/5 ，稍微量化下，留个 15g kv ，4 台 spark 跑起来应该很舒服

最新回复 (3)
  • baigy 09-10 18:39
    1楼
    太快了
  • beginor 09-10 19:35
    2楼
    看样子 4 张 H20 还跑不动 FP8 了😂
  • 2211717447 09-10 22:42
    3楼
    官方发布的已经是 FP4 的版本了，在量化就只能 2bit ，1bit 。也缩不了多少了。
* 帖子来源V2EX
附近帖子
返回
飞读
随机推荐