2. Linux.do
  3. 有没有必要搞一台macmini?

有没有必要搞一台macmini?

MAX 2026-05-08 18:58 1

目前在做一个项目, 里面会用到一些本地大模型来跑asr和ocr. 将来还会有一些脱敏的工作需要跑本地模型.


在服务器上跑,太慢了, 即便是甲骨云的4c24g也跑不太动.


目前是在自己的电脑上跑, 3060的显卡. 但是觉得一来不方便, 二来感觉还是有点性能不够.


是不是有必要上一台macmini? 家里已经有个nas了, 性能一般, 跑本地模型指望不上, 但macmini就不需要买太大硬盘里.


目前的初步想法是MACMINI 买24g 或以上, 目前的macmini都是M4的, 要不要等下M5?


各位佬有什么建议么?

最新回复 (19)
  • Zeus Jie 05-08 19:21
    1楼

    你说的是丐版吗？丐版的性能跟你的 3060 大差不差

  • seven07 05-08 19:26
    2楼

    建议买macmini的话，就买豪华版的，未来永远缺算力

  • rookie 05-08 19:59
    3楼

    mac好像没有多少算力因为显卡其实一般，主要是统一内存架构和高带宽配合大内存所以推理和token输出速度快一点

  • yolovino 05-08 20:09
    4楼

    還是有必要的 統一內存+功耗低+噪聲低+省電

  • Sv7en 05-08 20:14
    5楼

    说实话如果你不是用来出ipa包那就没必要 你要是想拿来跑模型 能跑的 没啥用处 有点作用的模型都跑不了

  • MAX 楼主 05-08 20:16
    6楼

    丐版肯定没意思, 24g最少吧. 不知道有没有必要再往上走

  • hwang 05-08 20:16
    7楼

    不急的话，就等M5 呗，虽然到时候是比较难抢的，但是m5 在跑模型方面会提升很多

  • MAX 楼主 05-08 20:16
    8楼

    mac 是内存通用. 这个很强.

  • x 05-08 20:20
    9楼

    如果是强需求的话那就买吧，用得上就值

  • rookie 05-08 20:58
    10楼

    统一内存架构，带宽非常高，token输出非常快

  • Zeus Jie 05-08 22:30
    11楼

    你可能理解错了 丐的是 U

    macmini 全是丐版

    不丐要上 Mac Stdio M3 Ultra/ M4 Max

  • MAX 楼主 05-08 23:42
    12楼

    M4 Max



    那个上不起. 毕竟是个人消遣/实验性质, 不是生产力

  • my-momo 05-09 00:13
    13楼

    感觉看你是否刚需吧，实在需要处理敏感数据肯定mini部署会划算一些，个人消遣可以等一波国补

  • Mr.T 05-09 12:19
    14楼

    只能部署参数不大的模型 做简单任务是够了 mac算力是不如独显的

  • Humpy 05-09 12:51
    15楼

    你要是想要性能 不建议你买 Mac Mini，不如直接去租显卡。Mac Mini 对我来说，就是一个对图形界面友好的的 Linux 系统。

  • MAX 楼主 05-09 21:09
    16楼

    这么悲观么? 24G的macmini跑些大模型做下本地文件的整理梳理, ocr/ asr 应该没问题吧.

    租显卡的话那就是另一套系统工程了, 成本其实也不低

  • MAX 楼主 05-09 21:20
    17楼



    貌似的确是这样.

    但如果租显卡的话, 手头的3060得卖掉? 16g的内存也得升级.

  • 我是佬 05-15 21:02
    18楼

    内存架构，带宽非常高，token输出非常快



    说下我的体验，刚到货的 macmini 2024 M4 10C 10CGPU 32G ，ollama部署了qwen3.6:27b，吐字每秒10来个，天文地理，古代历史还是知道挺多的，白天感觉受不了，晚上当黑工应该能干点活，先用用看，如果只是用作大模型感觉把钱用来上deepseekv4-flash 应该能用很长时间吧。

  • rookie 05-16 19:20
    19楼

    只有32g内存吗？Mac不用太看cpu性能吧，gpu更是聊胜于无，要我看会不会芯片退而求其次选m3把内存再推高一点会不会有奇效呢？

* 帖子来源Linux.do
附近帖子
返回
飞读
随机推荐