M5 max 48GB内存 有什么好的本地模型跑

黑泽明 2026-07-04 02:08 1

大佬们本地跑什么小玩意,求解

最新回复 (12)
  • 鸡用不炒 07-04 02:09
    1楼

    本地跑模型还不如扣定 plan。

  • bskhk 07-04 02:09
    2楼

    7b小模型,也可以试试14b的

  • wereiyou 07-04 02:10
    3楼

    羡慕,估计不少我想跑的speech-to-text model可以跑

  • cnblackhole 07-04 02:15
    4楼

    gptoss20b

    好像是叫这个名字,用起来还不错。

  • czt 07-04 02:20
    5楼

    我看这头像不错

  • xmb233 07-04 03:35
    6楼

    qwen3.6 27b吧 ^-^

  • wss 07-04 03:35
    7楼

    不知道

  • gbeta 07-04 10:44
    8楼

    qwen3.6 35b a3b yyds 48g用这个爽起飞

  • 梵天-lkxlzx 07-04 10:59
    9楼

    @gbeta #8 发布于2026/7/4 10:44:30

    qwen3.6 35b a3b yyds 48g用这个爽起飞


    我用U285H跑过只有17T/S,是不是太慢了

  • gbeta 07-04 11:28
    10楼

    @梵天-lkxlzx #9 我是48g 的m3max能跑60-90

  • 梵天-lkxlzx 07-04 14:52
    11楼

    @gbeta #10 发布于2026/7/4 11:28:00

    @梵天-lkxlzx #9 我是48g 的m3max能跑60-90

    我64G,还是CPU太弱了。


  • yuanqaz 07-04 14:54
    12楼

    @gbeta #8 佬大概多少t/s

* 帖子来源NodeSeek
返回