2. Linux.do
  3. 部署了个 qwen3.8-27b-fp8 佬们帮忙看看这个速度能干活吗

部署了个 qwen3.8-27b-fp8 佬们帮忙看看这个速度能干活吗

路飞s 2026-08-20 15:18 1

最新回复 (12)
  • TXDXIP 08-20 15:19
    1楼

    9t/s还是别干活了吧，这问一个问题不得等到天荒地老

  • Robin 08-20 15:20
    2楼

    感觉有点太慢了，你用着会不会有卡顿的感觉

  • mantest 08-20 15:21
    3楼

    自部署的可以挂着也不是不行。总比没有的好

  • hx5683 08-20 15:24
    4楼

    什么显卡了，怎么这么慢，我老古董3090使用q6 量化的都能达到30T/s。

  • River 08-20 15:25
    5楼

    也太秀了，跟人说话速度快不了多少，这还干啥活……

  • ZetaM 08-20 15:26
    6楼

    9tps有点太低了 一个问题光输出都要几分钟

  • 路飞s 楼主 08-20 15:31
    7楼

  • 张华 08-20 15:32
    8楼

    太慢了 正常感觉20+可接受 50左右凑乎

  • 路飞s 楼主 08-20 15:33
    9楼

    实测 根本干不了活 ^-^

  • 路飞s 楼主 08-20 15:35
    10楼

    智商也一般

  • wlhet 08-20 15:44
    11楼

    佬是用的哪个平台的算力集群部署的？

  • Tokinx 08-20 16:02
    12楼

    9t/s？你想摸鱼可以光明正大一点。。。

* 帖子来源Linux.do
附近帖子
返回
飞读
随机推荐