2. Linux.do
  3. 租两张h200，能不能跑deepseek v4 flash？

租两张h200，能不能跑deepseek v4 flash？

blackbeard 2026-10-24 03:26 1

两张的显存加起来是200多g，但是deepseek v4 flash有500多g。

两张能跑吗？接受速度变慢的情况下。

还是说只能租四张来跑？谢谢佬们

最新回复 (5)
  • llmtest 10-24 03:28
    1楼

    你们多少个人用并发量算过吗？ 其实现在一般的部署方案就是dgx

  • c.skeleton 10-24 03:34
    2楼

    还要考虑 kv cache 和并发，能跑起来聊天和能给 Agent 用是天壤之别

  • Light 10-24 03:37
    3楼

    两张B300可以并且是推荐配置。两张H200跑不起来常规推理引擎，只能跑那种给个人玩的不支持高并发的玩具引擎。

  • George 10-24 03:39
    4楼

    话说 H200 两张啥价格呀 ^-^

  • 比卡丘 10-24 03:56
    5楼

    跑Q4量化估计没问题吧，我记得dsv4f才160g的文件啊，


    很多双dgx都在跑。

* 帖子来源Linux.do
附近帖子
返回
飞读
随机推荐