请教一下macbook pro m5 64g 适合跑什么本地大模型

MAX 2026-07-02 23:17 1

主要需求是整理下知识库, 跑跑agent玩玩日常, 做做ocr之类的.


目前测试qwen3.6-35b-a3b 大概90 token/s qwen2.5-72b-instruct 6 token/s


还有什么模型能跑, 比较好用的吗

最新回复 (2)
  • 十万大山的山大王 07-02 23:24
    1

    试试,gemma-4-26b-a4b,macbook 的统一内存适合跑这种 moe 模型。

  • Com.mp Registry 07-03 00:53
    2


    我的 M5 Max 128G 适合跑什么模型?

* 帖子来源Linux.do
返回