2. Linux.do
  3. 英伟达m20 192显存建议部署啥模型？ qwen3.8 27B？ 还有更好的选择吗？

英伟达m20 192显存建议部署啥模型？ qwen3.8 27B？ 还有更好的选择吗？

denovochen 2026-10-23 09:16 1

给客户现场部署模型，3.5 122b太拉了，根本不读skill，十分弱智，人讨论后先换3.8 27B， 我想知道还有更好的选择么

最新回复 (11)
  • zl9902870971 10-23 09:28
    1楼

    qwen3.8 27确实是最好的选择了

  • n3shelter365 10-23 09:32
    2楼
  • 宫野志保 10-23 09:33
    3楼

    strata部署qwen 3.8 flash next更好吧，激进点DeepSeek v4.1 也可以

  • jason.lu 10-23 09:38
    4楼

    你确定是192gb显存，估计可以试试deepseek，用不了没事，可以试qwen3.8-flash-next，那个肯定行

  • 幻风Richi 10-23 09:41
    5楼

    建议用Qwen3.8-Flash-Next，虽然IQ和qwen3.8 27B差不多，但Qwen3.8-Flash-Next是moe，速度更快

  • denovochen 楼主 10-23 09:41
    6楼

    佬不好意思是4张L20的卡，也能搞把？刚给我打电话听错了。 问gpt说可以，实际体验 得问问 佬们

  • denovochen 楼主 10-23 09:41
    7楼

    佬不好意思是4张L20的卡，也能搞把？

  • n3shelter365 10-23 09:43
    8楼

    绰绰有余了 速度应该会很好

    这个模型很多人用strata 16显存 64g内存跑都不错

  • 栗子 10-23 09:44
    9楼

    为什么选择ds v4.1 f就是激进了？我看好多部署都是用qwen或者minimax的，好像用dsv4.1的好像并不多。

  • n3shelter365 10-23 09:58
    10楼

    因为ds4.1flash很大，就算192g显存也未必跑得起来或者很勉强

  • yisqiu 10-25 08:16
    11楼

    我这边预算有限准备本地部署一张或两张L20卡能跑吗？主要是知识库问答（用户量也不是很多），准备用Qwen3.8-Flash-Next或者qwen3.8 27B

* 帖子来源Linux.do
附近帖子
返回
飞读
随机推荐