64g 的 mac 真的有能跑能用的 ai 本地大模型么

followadc 2026-09-01 09:08 1

64g 的 mac 真的有能跑能用的 ai 本地大模型么,Qwen3.8-27B-8bit 都费劲

最新回复 (16)

Wxh16144 09-01 09:14

1楼

我的 m4 pro mac mini 同内存，反正是跑不了.. 折腾一圈还是 ds 香
rockddd 09-01 09:16

2楼

看用来做什么，编码不行.但是可以跑解禁大模型，例如猎奇了一下如何制作 C4...
foryou2023 09-01 09:24

3楼

不能干活，聊天可以。
x86 09-01 09:28

4楼

🙅‍♂️不利于涨价卖设备的帖子不要发🐶
NG6 09-01 09:32

5楼

我也挺好奇的，真的有人专门买几十 GB 的 Mac 跑本地大模型么，这个级别的内存能跑动的 AI 智力都挺底下的吧，远不如便宜的厂商直供 API
miniliuke 09-01 09:33

6楼

@x86 关键 16g 、24g 、32g 的也大幅涨价，搞不懂，低智模型(不能主力写代码的)的 API 比矿泉水还便宜，真的有那么多人需要吗？
BretTaylor 09-01 09:37

7楼

主要本地搭建一些无审查的模型。
idcidc 09-01 09:39

8楼

只是你刚好有而且要求不高可以玩玩特地去买没必要还不如用 api 一台机器的钱能用好几年的 api 呢
Cruzz 09-01 09:42

9楼

可以猎奇。问点在线模型不能问的。前两天在 x 上看不有个姑娘做个赛博调教工具么。
Sezxy 09-01 09:43

10楼

也就跑跑 8B 的小模型用来梵音
Sezxy 09-01 09:43

11楼

梵音 =》翻译
keyu1103 09-01 09:49

12楼

64g 挺尴尬的能用的模型跑不起来，小模型又没必要
qweruiop 09-01 10:51

13楼

只能聊天，不能干活，那个 context length 太小了，感觉吹能干活的都是收了广子的。。。
Hilong 09-01 11:23

14楼

干不了活。但是一些分类的事情还是能跑。我本地跑了个 2B 的小模型，用来给我的账单做分类打标。速度很快
dushixiang 09-01 11:35

15楼

跑不动，我的建议是等
kuhung 09-01 11:36

16楼

性价比一般，只能跑垂直模型。不如直接用官方 API ，本地模型一般只适合大企业出于安全和微调考虑，或者极客玩玩罢了。