M5 max 48GB内存 有什么好的本地模型跑

黑泽明 2026-07-04 02:08 1

大佬们本地跑什么小玩意,求解

最新回复 (12)
  • 鸡用不炒 07-04 02:09
    1

    本地跑模型还不如扣定 plan。

  • bskhk 07-04 02:09
    2

    7b小模型,也可以试试14b的

  • wereiyou 07-04 02:10
    3

    羡慕,估计不少我想跑的speech-to-text model可以跑

  • cnblackhole 07-04 02:15
    4

    gptoss20b

    好像是叫这个名字,用起来还不错。

  • czt 07-04 02:20
    5

    我看这头像不错

  • xmb233 07-04 03:35
    6

    qwen3.6 27b吧 ^-^

  • wss 07-04 03:35
    7

    不知道

  • gbeta 07-04 10:44
    8

    qwen3.6 35b a3b yyds 48g用这个爽起飞

  • 梵天-lkxlzx 07-04 10:59
    9

    @gbeta #8 发布于2026/7/4 10:44:30

    qwen3.6 35b a3b yyds 48g用这个爽起飞


    我用U285H跑过只有17T/S,是不是太慢了

  • gbeta 07-04 11:28
    10

    @梵天-lkxlzx #9 我是48g 的m3max能跑60-90

  • 梵天-lkxlzx 07-04 14:52
    11

    @gbeta #10 发布于2026/7/4 11:28:00

    @梵天-lkxlzx #9 我是48g 的m3max能跑60-90

    我64G,还是CPU太弱了。


  • yuanqaz 07-04 14:54
    12

    @gbeta #8 佬大概多少t/s

* 帖子来源NodeSeek
返回