有支持 6000 Ada 使用 deepseek v4 flash 推理 的框架吗

frankyzf 2026-06-19 10:51 1

显存是够的(多卡),但架构有限制( SM_89 )

最新回复 (6)
  • wwhc 06-19 12:09
    1
    等 llama.cpp 合并 Deepseek v4 的补丁到主线吧
  • ETiV 06-19 12:16
    2
    https://github.com/antirez/ds4
    试过这个没
  • BaiLinfeng 06-19 13:08
    3
    还是那句话 Deepseek 被神话了,我感觉也就那样
  • gpt5 06-19 14:19
    4
    公司有几张这卡,显存是可以,但架不住慢啊。
  • lifechan 06-20 14:54
    5
    @gpt5 有就可以了……能讓我蹭蹭嗎
  • WizardLeo 06-21 02:26
    6
    @BaiLinfeng
    历史地位这一块,deepseek-r1 让开源模型全面进入推理时代,v4 让开源模型全面进入 1m 上下文时代。
    商业能力这一块,我感觉和小米在小家电的地位差不多。作为市场最低门槛线而存在的模型,比它差还贵就没多少存在意义了。
    无论如何都是开源 llm 历史上非常浓墨重彩的一款模型。
* 帖子来源V2EX
返回