2. Linux.do
  3. mac mini m4 16G 又没有可以本地部署的LLM模型呢？

mac mini m4 16G 又没有可以本地部署的LLM模型呢？

刚刚好 2026-09-27 22:50 1

试过了comfyUI，出图速度感人，还想尝试一下LLM，不知道Qwin3.8 Q2 10G能不能跑起来

最新回复 (6)
  • YUNXU 09-27 22:50
    1楼

    这个16G有很大难度呀，哥。。。

  • Blackwood416 09-27 22:52
    2楼

    统一内存的16G跑27B的量化有点难度，权重加载完系统都没内存跑了，大概10B级别就是极限了

  • nuhou 09-27 22:52
    3楼

    能跑起来的，你也用不了，不用尝试了

  • blacksein 09-27 22:59
    4楼

    0.几B 2B左右可以考虑一下 可能4B左右就很极限了 再大点就算了 主要他这统一内存系统本身还是要吃不少的

  • lihua 09-27 22:59
    5楼

    只能跑很小的，完全没有折腾的价值

  • amini 09-27 23:18
    6楼

    ollama run llama3.1:8b

* 帖子来源Linux.do
附近帖子
返回
飞读
随机推荐