[开源] 让人人用上 Claude Fable 5，基于多模型 MoA 编排
VforVendetta:
Claude 的额度实在扛不住高频使用。
所以自己折腾了一个东西，把多个模型「组队」起来——不指望一个诸葛亮包打天下，而是让几位军师各出一招、再有个判官做交叉审稿，合起来希望能力逼近 Fable 5
## 为什么觉得这事儿值得做
OpenRouter 前阵子在 DRACO 深度研究基准上做了个实验：**Gemini 3 Flash + Kimi K2.6 + DeepSeek V4 Pro** 三个模型 Fusion 起来，得分 **64.7%**，和 Claude Fable 5 单跑的 **65.3%** 只差 0.6 个百分点，而单任务成本大约只有一半。详见 [OpenRouter Fusion](https://openrouter.ai/blog/announcements/fusion-beats-frontier/)。
结论很直接：**单个模型不是终点，多个模型合体很多时候比单模型更强。**
但 OpenRouter 的 Fusion 是云端服务。我更想要的是：
- 模型可以换、供应商可以换、路由策略可以改
- 跑在免费 / 便宜的边缘推理上
- 最好支持多种各种 api 格式
于是就有了这个项目。
## 做了什么
基于 [Mixture-of-Agents 论文](https://arxiv.org/abs/2406.04692)，在 Cloudflare Worker 上实现了多层 MoA 编排：
```
请求
├─ Layer 0: AnySearch 联网检索（可选，结果注入 <CONTEXT>）
├─ Layer 1: N 个 proposer 并行（不同模型提供多样化视角）
├─ Layer 2: judge 冲突分析（产出共识 / 冲突 / 遗漏 / 无证据清单）
└─ Layer 3: aggregator 综合最终答案（非简单拼接，是带裁决的二次审稿）
```
关键点：aggregator 不是把几个答案拼一起，而是基于 judge 的分析做**二次审稿**——保留共识、修正冲突、补上遗漏、删掉无证据的自信表述。
对外暴露两套协议：
- `/v1/messages`：Anthropic Messages API 兼容（非流式 + SSE 流式）
- `/mcp`：MCP Streamable HTTP ，工具 `moa_reason`
灵活支持各种调用
## 模型组合
Cloudflare Workers AI 现在有 12 个前沿模型可选，我预置了三套组合：
| 预设 | 组合 | 说明 |
| ---- | ---- | ---- |
| **A （最强）** | `kimi-k2.7-code / glm-5.2 / nemotron-3-120b-a12b / kimi-k2.6` | 3 前沿 proposer + kimi-k2.6 aggregator |
| **B （均衡）** | `kimi-k2.7-code / glm-5.2 / nemotron-3-120b-a12b / gpt-oss-120b` | proposer 全前沿，aggregator 省 |
| **C** | `kimi-k2.6 / qwen3-30b-a3b / glm-5.2 / gpt-oss-120b` | 对标 DeepSeek+Kimi+Qwen Fusion |
格式是 `proposer1/proposer2/.../aggregator`，最后一个做综合。URL 里直接拼模型组合就能切，不用改配置。
还可以使用在线的 moa 模型组合配置器
## 评测结果
**基础基准（ GSM8K / ARC / C-Eval ）** 70 题，整体准确率 **98.6%**。
**DRACO 深度研究基准**（ 100 个复杂任务，4 维度 rubric ，LLM-as-judge 评分）对标 Fable 5 的 65.3%，达标阈值 ≥ 60%。写这帖的时候评测还在跑，已完成 26/100 ，当前 overall 均值 43.5%，单题最高 70%。完整结果跑完会更新到 README 。
## 一点想法
做这个最大的感受是：**「前沿模型能力」不一定只能靠买更贵的模型获得。** 它也可以被拆成一套本地可控的协作流程——谁出推理、谁出代码、谁出事实、谁做裁决。Fable 5 的能力不是黑盒，是几种能力的组合，组合可以被工程化复现。
项目 MIT ，模型组合、搜索 provider 、judge 策略都可以换。如果你有更强的模型组合建议或者评测结果，PR 直接提。
GitHub: [cpcc/moa](https://github.com/cpcc/moa)
---
原文链接：[点击查看](https://www.v2ex.com/t/1228271)
Claude 的额度实在扛不住高频使用。
所以自己折腾了一个东西，把多个模型「组队」起来——不指望一个诸葛亮包打天下，而是让几位军师各出一招、再有个判官做交叉审稿，合起来希望能力逼近 Fable 5
## 为什么觉得这事儿值得做
OpenRouter 前阵子在 DRACO 深度研究基准上做了个实验：**Gemini 3 Flash + Kimi K2.6 + DeepSeek V4 Pro** 三个模型 Fusion 起来，得分 **64.7%**，和 Claude Fable 5 单跑的 **65.3%** 只差 0.6 个百分点，而单任务成本大约只有一半。详见 [OpenRouter Fusion](https://openrouter.ai/blog/announcements/fusion-beats-frontier/)。
结论很直接：**单个模型不是终点，多个模型合体很多时候比单模型更强。**
但 OpenRouter 的 Fusion 是云端服务。我更想要的是：
- 模型可以换、供应商可以换、路由策略可以改
- 跑在免费 / 便宜的边缘推理上
- 最好支持多种各种 api 格式
于是就有了这个项目。
## 做了什么
基于 [Mixture-of-Agents 论文](https://arxiv.org/abs/2406.04692)，在 Cloudflare Worker 上实现了多层 MoA 编排：
```
请求
├─ Layer 0: AnySearch 联网检索（可选，结果注入 <CONTEXT>）
├─ Layer 1: N 个 proposer 并行（不同模型提供多样化视角）
├─ Layer 2: judge 冲突分析（产出共识 / 冲突 / 遗漏 / 无证据清单）
└─ Layer 3: aggregator 综合最终答案（非简单拼接，是带裁决的二次审稿）
```
关键点：aggregator 不是把几个答案拼一起，而是基于 judge 的分析做**二次审稿**——保留共识、修正冲突、补上遗漏、删掉无证据的自信表述。
对外暴露两套协议：
- `/v1/messages`：Anthropic Messages API 兼容（非流式 + SSE 流式）
- `/mcp`：MCP Streamable HTTP ，工具 `moa_reason`
灵活支持各种调用
## 模型组合
Cloudflare Workers AI 现在有 12 个前沿模型可选，我预置了三套组合：
| 预设 | 组合 | 说明 |
| ---- | ---- | ---- |
| **A （最强）** | `kimi-k2.7-code / glm-5.2 / nemotron-3-120b-a12b / kimi-k2.6` | 3 前沿 proposer + kimi-k2.6 aggregator |
| **B （均衡）** | `kimi-k2.7-code / glm-5.2 / nemotron-3-120b-a12b / gpt-oss-120b` | proposer 全前沿，aggregator 省 |
| **C** | `kimi-k2.6 / qwen3-30b-a3b / glm-5.2 / gpt-oss-120b` | 对标 DeepSeek+Kimi+Qwen Fusion |
格式是 `proposer1/proposer2/.../aggregator`，最后一个做综合。URL 里直接拼模型组合就能切，不用改配置。
还可以使用在线的 moa 模型组合配置器
## 评测结果
**基础基准（ GSM8K / ARC / C-Eval ）** 70 题，整体准确率 **98.6%**。
**DRACO 深度研究基准**（ 100 个复杂任务，4 维度 rubric ，LLM-as-judge 评分）对标 Fable 5 的 65.3%，达标阈值 ≥ 60%。写这帖的时候评测还在跑，已完成 26/100 ，当前 overall 均值 43.5%，单题最高 70%。完整结果跑完会更新到 README 。
## 一点想法
做这个最大的感受是：**「前沿模型能力」不一定只能靠买更贵的模型获得。** 它也可以被拆成一套本地可控的协作流程——谁出推理、谁出代码、谁出事实、谁做裁决。Fable 5 的能力不是黑盒，是几种能力的组合，组合可以被工程化复现。
项目 MIT ，模型组合、搜索 provider 、judge 策略都可以换。如果你有更强的模型组合建议或者评测结果，PR 直接提。
GitHub: [cpcc/moa](https://github.com/cpcc/moa)
---
原文链接：[点击查看](https://www.v2ex.com/t/1228271)
· 0 个赞
· 0 个赞