2. Linux.do
  3. 用5090部署qwen 3.8 27b是这个速度？

用5090部署qwen 3.8 27b是这个速度？

🛡️Rice R. Rug 💛🍋⭐️💫 2026-08-17 13:37 1



刚刷到的一个帖子

不同的设备的输出速度对比

最新回复 (8)
  • xquan 08-17 13:38
    1楼

    我试了4090大概是64.5 tok/sn

  • 🛡️Rice R. Rug 💛🍋⭐️💫 楼主 08-17 13:49
    2楼

    大模型的能力，体感上，有很强吗？

  • jxxxxi 08-17 14:45
    3楼

    我的4090使用llamacpp不加载mmproj速度79.78 t/s

  • xquan 08-17 16:14
    4楼

    还可以，有准确的prompt下效果挺不错的

  • 皮卡克利波 08-17 16:27
    5楼

    4090这一类上下文能达到多少 有128k么

  • xquan 08-17 16:35
    6楼

    我的是可以跑满完整256K



  • 皮卡克利波 08-17 16:35
    7楼

    我了个去,你是两张…肯定可以跑256啊 ^-^

  • wushi 08-17 21:38
    8楼

    佬友，你这套配置说个价格，让我死心 ^-^

* 帖子来源Linux.do
附近帖子
返回
飞读
随机推荐