Qwen3.8的模型真的好牛逼啊。挂5090上非常流畅

还没部署，改天试试，你5090多少tps

说说有多特别

显卡又要涨价了！

能替换dp flash了？

我是那种人，请告诉我那种版本有多特别

token/s 有多少？

5090D单卡部署有60tps，很快的很优秀。

一个人使用够吗？

上下文多少，我觉的少了的话不能干活。肯定不是搓代码，生成一些小脚本啥的。

cpu跑的话多少分gb5可以😄

@sudoerx #9 cpu太慢了，如果上下文到1m的话，我那个38g显存就不够用了。

好像本体占用20g左右。

你不会拿去生成那种吧 ^-^

上下文能有多少？ token/s呢？

qwen3.8下好了， 请问5090去哪里领

有多特别？？5060能玩嘛

@dtfour09 #10 哦对还有缓存的作用 那还是不幻想cpu跑了

跑的什么量化？我现在跑的27b q5 q8kv。

那天试试

我也跑了一个本地的，我发现xhigh动不动就超级长的大思考，经常也会过度思考，但是最后出的结果确实是比medium好的

还有官方推荐 temperature 1.0，top_p 0.95，我看Reddit上有人推荐用 temperature 0.6，能有效防止发散，我今天试了下，好像确实有效果

这模型是真nb的，我觉得能本地替代 deepseek flash 的，最主要是没审查，期待社区的各种优化微调版本出来 ^-^

@johndiamond #14 5060需要双卡。 建议2080ti 22g x 2 最便宜的还能用官方驱动的方案。 不然你在加一个5060ti 16g，也是很慢的 或者 上下文很短。

@dtfour09 #19 那还是不太适合普通大众

@cfers #11 发布于2026/8/24 14:04:35

你不会拿去生成那种吧 ^-^

那种啥？ ^-^

只有 16g 显存的我眼泪流下来

@yedhi #22 16g 可以配合内存跑，大概10来多ts。

@johndiamond #20 可以配合内存，虽然慢不少。

@dtfour09 #19 5060ti+4060ti，双16g的，32g跑了25g的Qwen3.8-Q5量化模型，只有30token每秒，还是mtp加速的，不玩了

@jahguleth #21 9kg

这个模型在这个卡下面速度快吗

羡慕了 我只租了5090云主机部署玩了一会儿 感觉确实很好 这玩意继续开源优化下去 以后本地模型真能爽玩了 个人玩家本地部署最大问题现在就是上下文和速度这两点了

@dtfour09 #10 发布于2026/8/24 14:03:51

@sudoerx #9 cpu太慢了，如果上下文到1m的话，我那个38g显存就不够用了。

好像本体占用20g左右。

@cfers #26 发布于2026/8/24 14:39:53

@jahguleth #21 9kg

^-^ ^-^ 这个好啊，什么显卡能跑?

3090可以跑么？

@江郎才尽 #28 有什么推荐的地方租🙂

都买不起显卡，现在内存 硬盘太贵了

@阿古耶 #30 可以啊。

@pan260 #25 因为没有nvlink。 我说5070ti + 2080ti，有nvlink应该会更快，

@sudoerx #31 https://vast.ai/ 用过这个平台。像淘宝上也有租的