未来普通人介入ai开发生态的可能性与猜想，有人一起讨论吗

cscs 2026-07-18 10:12 1

我最近一直在琢磨两件事，第一个是未来是否是大模型公司完全通吃，第二个是现在很多任务要加载太多skill的上下文，有什么办法让ai不加载这些上下文，又能按照我们需要的工作流，思维链去工作。

第一个想法是能不能直接微调出lora权重块，然后直接让云端大模型去调用，但基本不可行，因为现有的云端大模型就没有这个接口，并且按照大模型公司的想通吃的风格，估计以后就算有类似东西，也是作嫁衣。

然后我有了第二个想法，我们能不能用一个0.1-0.5b的本地模型作为基模，然后自己针对各个专项领域做微调lora权重块，过拟合也没关系，反正只专注于我们需要的几个小领域就行，然后类似subagent的形式，让云端大模型调用我们的本地小模型，完成闭环工作。

有没有佬友做过模型开发，或者做过类似方式，大家觉得这种方式现在有没有可行性，以及未来有机会是类似方向吗，我觉得就算这种暂时没有可行性，但是只要有一定未来可行性的话，那么普通人就有机会介入ai开发生态了，至少不会是大模型公司通吃，普通人什么都没有吧

最新回复 (3)

xdtz 07-18 10:32

1楼

感觉，不太可能？数据量太小了？我不懂就纯猜测
cscs 楼主 07-18 10:50

2楼

我的意思是自己做高质量的数据做微调，相当于我们用云端大模型蒸馏skill，然后批量生成高质量数据，然后做微调。我查了下这种做出来的lora权重块是单独一个很小的gguf，可以独立加载，而且不是让小模型提升通用能力，是专门训练我们自己某一个或某几个场景的工作流，过拟合也没关系。只要在自己全方面测试下过就行。然后让云端大模型通过subagent方式给小模型下任务，小模型执行完后将结果反馈给大模型，这样有云端大模型做二次确认
bunny 07-22 02:28

3楼

感觉很subagent，不过lora容易训练出重复输出，而且思维链会循环的情况。0.1b~0.5b还是有点小，我lora sft 的qwen3-8B都流口水。我之前想过mcp占上下文大的话可以用gemma去调，主模型还是保持原来上下文。或许佬友可以试试不用lora用个8B左右+langchain做个小的验证？

* 帖子来源Linux.do

附近帖子