2. NodeSeek
  3. 128g内存跑qwen27b很费劲

128g内存跑qwen27b很费劲

kevin77 2026-08-29 15:44 1

4bit量化版也只有10token/s，太辣了。看来gpu还是必须的~~~~

最新回复 (10)
  • xuefengjia1 08-29 15:46
    1楼

    你在拿cpu跑？ ^-^

  • zjchongxie 08-29 15:47
    2楼

    基本上DDR5就这个水平，32G和128G，跑出的效果差不多，只有上DDR6的显存才行

  • kevin77 楼主 08-29 15:47
    3楼

    @xuefengjia1 #1 发布于8/29/2026, 3:46:37 PM

    你在拿cpu跑？ ^-^


    是啊，48核cpu，占用飞起

  • 江郎才尽 08-29 15:47
    4楼

    都是好多人硬折腾的 能玩和能用还是区别很大

  • kevin77 楼主 08-29 15:48
    5楼

    @江郎才尽 #4 发布于8/29/2026, 3:47:40 PM

    都是好多人硬折腾的 能玩和能用还是区别很大


    苹果统一内存可以

  • xuefengjia1 08-29 15:48
    6楼

    @kevin77 #3 啥u

  • kevin77 楼主 08-29 15:48
    7楼

    @xuefengjia1 #6 发布于8/29/2026, 3:48:05 PM

    @kevin77 #3 啥u


    amd辣鸡u

  • kkk 08-29 16:10
    8楼

    不管你用什么跑，和内存没关系，主要看你的内存带宽。第二个就是算力了，结果你这两个一个都没。

  • cybort 08-29 17:15
    9楼

    不要用cpu跑模型

  • xiaogang-119 08-29 17:18
    10楼

    我用1070跑到千问9b

* 帖子来源NodeSeek
附近帖子
返回
飞读
随机推荐