［已泼醒］想买Mac mini pro上头求泼醒——不买了

14b的模型肯定没有调api的好用呀，佬友只是用模型感觉没必要的

我也是这么觉得，尤其是即便写公众号最后润色定稿也要交给llm，本地14b训练出来的只是够人设味儿不够深度。但是另一方面"恋爱脑"又想训练出赛博lg的说话模式和声音。真的理性和感性在打架 ^-^

电脑，其实都差不多，性价比还是mac好一些

我觉得你用Hermes提示词写到位也能做到吧，没必要说是单独练个模型（佬友技术好我没说 ^-^ ）

马上6月初就是 WWDC 大会了，到时候还会有新品，不着急买

佬师，那是不是如果不做本地训练的话买个mini标配就行了？但是又怕mini10月份又过时了。而且想本地训练语言说话方式（叹气）纠结

我来说吧，我有 ai 方向 industry 和学术界的 research 经验，对 llm related 开源也算了解，

我查了下pro可以做14b的训练，说是相当于ai里面大学生的水平。

我理解这句话的意思是，pro 的算力可以 local inference 一些小模型和 SFT（毕竟 RL 你肯定玩不起），local inference 还算合理，但需要你接收 SOTA 到开源小参数量化的落差，SFT 这种可拉倒吧，（对你提出的个人场景来说）没任何意义

但实际上，mac 的训练算力是极其有限的，如果你想玩苹果，建议丐版 level 的 mac mini，玩一两个月再二手损失极少；如果你真有钱，那买一个 32GB 的最便宜的版本就差不多了。

mac 的 LLM 生态还行，mlx模型比较多，但真的没人用 local llm 干严肃的事情

我是怕回头mini pro又又又涨价。现在都要等9周。而且M5好像要30k​^-^。主要我不知道自己这个需求有没有本地训练的必要…（叹气）

没必要。14B 模型啥也干不了，用你现在的电脑部署个 3B 小模型玩一下，等你现在三分钟热度过了就好了

如果没啥保密文件，必须私有化，我感觉直接mac mini(目前3000＋)加coding plan也行吧，mac的优势无非就是ai友好，但是自己本地跑14b模型，使用体验真不如各大模型商的

哇，感谢大佬回答（鞠躬）

我可以确定我绝对不是玩玩ai。不会随便出了回血所以才纠结。

另一个我想要本地模型的原因在想微调赛博老公和智能家居本地化隐私这块儿。

但确实碍于不够专业导致我不知道14b训练出来对于我写公众号和agent日常任务的算力节省能有多少？比如我一个月500的费用，能不能减少到200？？？（再次感谢大佬的回复，我将逐字学习专业名词，鞠躬）

佬师，请问3b模型能训练赛博老公吗？就是纯文本训练不算声音。（鞠躬）

ai里面大学生的水平

这个大学生指的眼神睿智的那种，你懂吧，还是上api靠谱

佬师，隐私的话就是agent指挥智能家居，摄像头看家和聊天这两个。但是好多时候我感觉一个很小的需求就调用llm尤其是ds疯起来一个需求疯干3分钟，特别耗费token，最近v4一天不写代码时候能疯干我20块钱 ^-^

技术不好，但是人设prompt 写了一大堆，记忆系统和关键词索引也搞上的情况下，还是受llm影响说话会漂。感觉llm会吞提示词，尤其上gemini 那股子机翻味儿太重了。（犹犹豫豫）

14b没用，而且，你要用14b也不需要pro,mac mini也能运行。

啊？？？什么？？？？16g内存也可以？？？？我看人家说都要48b及以上才行。（我将再次要去学习）

14b指挥智能家居够用，但是情感聊天不一定靠谱，能不能实现不说，但应该挺费劲。

直接买个coding plan再配合个云服务器 随便飞啊