[开源] 让人人用上 Claude Fable 5,基于多模型 MoA 编排

VforVendetta 2026-07-18 22:38 1

Claude 的额度实在扛不住高频使用。
所以自己折腾了一个东西,把多个模型「组队」起来——不指望一个诸葛亮包打天下,而是让几位军师各出一招、再有个判官做交叉审稿,合起来希望能力逼近 Fable 5


为什么觉得这事儿值得做


OpenRouter 前阵子在 DRACO 深度研究基准上做了个实验:Gemini 3 Flash + Kimi K2.6 + DeepSeek V4 Pro 三个模型 Fusion 起来,得分 **64.7%**,和 Claude Fable 5 单跑的 65.3% 只差 0.6 个百分点,而单任务成本大约只有一半。详见 OpenRouter Fusion。


结论很直接:单个模型不是终点,多个模型合体很多时候比单模型更强。


但 OpenRouter 的 Fusion 是云端服务。我更想要的是:



  • 模型可以换、供应商可以换、路由策略可以改

  • 跑在免费 / 便宜的边缘推理上

  • 最好支持多种各种 api 格式


于是就有了这个项目。


做了什么


基于 Mixture-of-Agents 论文,在 Cloudflare Worker 上实现了多层 MoA 编排:


请求
├─ Layer 0: AnySearch 联网检索(可选,结果注入 <CONTEXT>)
├─ Layer 1: N 个 proposer 并行(不同模型提供多样化视角)
├─ Layer 2: judge 冲突分析(产出共识 / 冲突 / 遗漏 / 无证据清单)
└─ Layer 3: aggregator 综合最终答案(非简单拼接,是带裁决的二次审稿)

关键点:aggregator 不是把几个答案拼一起,而是基于 judge 的分析做二次审稿——保留共识、修正冲突、补上遗漏、删掉无证据的自信表述。


对外暴露两套协议:



  • /v1/messages:Anthropic Messages API 兼容(非流式 + SSE 流式)

  • /mcp:MCP Streamable HTTP ,工具 moa_reason


灵活支持各种调用


模型组合


Cloudflare Workers AI 现在有 12 个前沿模型可选,我预置了三套组合:


























预设 组合 说明
A (最强) kimi-k2.7-code / glm-5.2 / nemotron-3-120b-a12b / kimi-k2.6 3 前沿 proposer + kimi-k2.6 aggregator
B (均衡) kimi-k2.7-code / glm-5.2 / nemotron-3-120b-a12b / gpt-oss-120b proposer 全前沿,aggregator 省
C kimi-k2.6 / qwen3-30b-a3b / glm-5.2 / gpt-oss-120b 对标 DeepSeek+Kimi+Qwen Fusion

格式是 proposer1/proposer2/.../aggregator,最后一个做综合。URL 里直接拼模型组合就能切,不用改配置。


还可以使用在线的 moa 模型组合配置器
pasted-image-1784383411523.webp


评测结果


基础基准( GSM8K / ARC / C-Eval ) 70 题,整体准确率 **98.6%**。


DRACO 深度研究基准( 100 个复杂任务,4 维度 rubric ,LLM-as-judge 评分)对标 Fable 5 的 65.3%,达标阈值 ≥ 60%。写这帖的时候评测还在跑,已完成 26/100 ,当前 overall 均值 43.5%,单题最高 70%。完整结果跑完会更新到 README 。


一点想法


做这个最大的感受是:「前沿模型能力」不一定只能靠买更贵的模型获得。 它也可以被拆成一套本地可控的协作流程——谁出推理、谁出代码、谁出事实、谁做裁决。Fable 5 的能力不是黑盒,是几种能力的组合,组合可以被工程化复现。


项目 MIT ,模型组合、搜索 provider 、judge 策略都可以换。如果你有更强的模型组合建议或者评测结果,PR 直接提。


GitHub: cpcc/moa

最新回复 (6)
  • shakaraka 07-18 22:53
    1
    https://omo.dev

    Oh My OpenAgent 已经实现了类似编排
  • VforVendetta 楼主 07-18 23:38
    2
    @shakaraka 两者编排的对象不一样:
    omo 跑在本地
    moa 跑在云端

    omo 编排任务:计划→委派给专家 agent→验证→写代码
    moa 编排推理:proposer→judge→aggregator 把多个便宜模型输出合成一个答案
  • getadoggie 07-19 07:43
    3
    什么意思,这是多 agent 讨论的框架吗?能否用于某个论点的审查和优化?能否本地部署?
  • ota 07-19 23:38
    4
    正巧也在尝试 openrouter 的 fusion 。不知道有什么好的经验
    我也在做多 agent 编排,想弄一个优化。
    自己的思路大概是:
    MiniMax M3 + Kimi K2.7-code - 便宜模型做 bug 测试,代码修正
    GPT-5.5 + Opus 4.8 - 这些“高知”作为指挥台,监督作用,检测上面干活部门的输出,进行评价,统筹。保证品质。
  • VforVendetta 楼主 07-20 07:53
    5
    @getadoggie 多 agent 给出自身的回答,分析答案间的冲突、遗漏、论证,然后聚合。
    可以的。
    使用 cf worker 部署。
  • VforVendetta 楼主 07-20 09:03
    6
    @ota GPT-5.5 ,Opus 感觉选一个做指挥就行了,双指挥台,意见不合时不知道听谁的。
* 帖子来源V2EX
返回