2. Linux.do
  3. 求佬们解惑 Qwen3.6 27b本地部署效果怎么样

求佬们解惑 Qwen3.6 27b本地部署效果怎么样

无奇 2026-08-04 09:18 1

4090显卡之前一直部署的Qwen3 14b.tops还不错,但是tool calling和指令服从效果不如意

最近在一些地方看这种参数小的模型数qwen3.6 27b最好

佬们给点提示,效果如何.目前主要用ollama



那qwen3.6 14b怎么样,特别是指令服从这块

最新回复 (8)
  • M1saka 08-04 09:20
    1楼

    本地模型里很强的存在了，但是估计会慢不少，比起你之前跑的14b

  • HeriX 08-04 09:20
    2楼

    3.6 27b肯定要比3 14b强很多很多

    但是代价是tps下降很多

    其实可以等qwen3.8 27b开放权重再试试?

  • blaumeer 08-04 09:33
    3楼

    有官方消息会出3.8 27b吗？

  • HeriX 08-04 09:34
    4楼

    阿里据说是要开源qwen3.8 max和 27B 两个模型

  • 十万大山的山大王 08-04 09:35
    5楼

    DavidAU/Qwen3.6-27B-Fable-Fusion-711-Uncensored-Heretic-NM-DAU-NEO-MAX-MTP-GGUF

    用这个，我用过的最最最牛逼的 Qwen3.6-27B 微调模型，没有之一。David 的魔改微调黑科技。

  • kaiyin 08-04 09:44
    6楼

    Qwen3.6-27B公司实际部署在用，真实体验感觉挺强挺好用，并且目标检测方面更是强的不行（相比较小参数本地模型）（仅供参考）

  • eason 08-04 09:47
    7楼

    部署了 qwen3.6:35b-a3b 一直在做翻译，大材小用了

  • miduo 08-04 09:48
    8楼

    我5060的显卡，不知道部署这个模型怎么样

* 帖子来源Linux.do
附近帖子
返回
飞读
随机推荐