实测 GPT-5.6 Sol 的 High/Max:修 bug 未必值得上 Max,重写/迁移可能值得

发布于

先声明:我是 [Tura](https://github.com/Tura-AI/tura) 的维护者。这不是独立评测;完整方法、图表和公开产物在文末链接。想请大家重点挑一挑下面这个“按任务形态路由”的结论有没有遗漏。

我把 DeepSWE v1.1 的记录和一次 eza ( Rust → Python 、52 项检查)的行为兼容重写放在一起看。结论不是“Max 总是更强”,而是 Max 多买到了搜索、回滚、再试和 agent 回合;这些回合有没有价值,取决于任务剩下多少不确定性。

| 任务形态 | High | Max | 通过率变化 | 成本 |
|---------------------------|---------|---------|------------------|--------|
| 范围明确的修复( DeepSWE ,7 个) | 64.3% | 57.1% | **-7.1 个百分点** | 2.53x |
| 功能实现( DeepSWE ,95 个) | 70.2% | 74.6% | **+4.4 个百分点** | 2.43x |
| 仓库重写( eza ,3 个 harness ) | 78.8–89.4% | 92.3–94.2% | **+4.8–13.5 个百分点** | 2.27–3.27x |

113 个 DeepSWE 任务的总体平均是:High 69.4%、每任务 $3.47 ; Max 72.7%、每任务 $8.39 。也就是 **+3.3 个百分点,成本 2.42 倍**,输出 token 2.11 倍、输入 2.91 倍、时间 1.90 倍、步骤 1.66 倍。

所以我现在倾向的操作规则是:

1. 已经有 failing test 、定位范围较小的 bug ,先用 High ; High 失败且定位仍不确定再升级。
2. 常规功能实现也是 High 起步,除非一次失败的代价足以覆盖约 2.4 倍成本。
3. 大范围重写或迁移,Max 往往更有意义,因为兼容性、构建、测试和架构路径都还要探索。
4. Greenfield 目前只有“可能更适合 Max”的判断,没有配对的 High/Max 数据,别把它写成已证实结论。

需要强调两个边界:DeepSWE 的 7 个修复任务不足以证明“Max 会让修 bug 变差”; eza 的 High 是每个 harness 两次的均值,而 Max 是一次选定运行。数字适合做路由假设,不适合做万能默认值。

完整分析( 19 张表和原始图表): [完整分析链接](https://turaai.net/blog.html#is-gpt-5-6-sol-max-worth-it)
复现数据: [复现数据链接](https://github.com/Tura-AI/benchmark/tree/main/blog_data/eza-replication-gpt56-max-20260717)

如果大家有更合适的任务分桶、成本/通过率指标,或者认为这里的 DeepSWE 划分不够机械化,欢迎直接指出。更希望讨论“什么时候应该升级 effort”,而不是只比较某个模式的单点分数。

---

原文链接:[点击查看](https://www.v2ex.com/t/1228412)

评论(8)

大佬有个问题请教下,如果遇到超长任务,比如步骤必须是 a 到 b 到 c 这种递进依赖的,串行跑实在太慢了。如果像 c 需要依赖 b 的结果这种场景,有什么好办法能并行处理吗?

· 0 个赞

回复

强依赖上下文的线性流程是没法直接优化的。最优解肯定是把所有能并发的步骤全部并发,只把必须串行的大步骤组串起来。其实最简单的办法就是多开几个线程同时跑,单任务受限于阿姆达尔定律,优化空间本来就有限。

· 0 个赞

回复

建议先把文档和 mock 数据、mock 接口定下来。后续如果有需求变动,也从文档层面去改,然后再同步辐射到上下游。其实就跟平时团队里前后端并行的做法一样。

· 0 个赞

刚好在搞个 greenfield 新项目,最大的感受就是 Max( ultra 模式)根本推不动!任务规划了 10 个阶段,跑了整整 3 天才磨到第四阶段。而且得靠 tibo 频繁重置,因为 20x 的额度连一天都撑不住。最后发现用 high + xhigh + medium 组合搭配,推进速度反而快得多。

· 0 个赞

回复

大佬,请问下 high、xhigh 和 medium 是怎么组合分配的?能出一篇教程分享下经验吗?

· 0 个赞

回复

深有同感,Max 写出来的代码确实没问题,但缺点就是太慢了,而且 token 消耗量实在太夸张。5.5 几个小时能干完的活,它得跑一天。我也换回 high+medium 了,xhigh 还是觉得慢。感觉如果不是特别核心的代码,真没必要拉满去跑。

· 0 个赞

感觉额度还是不太经用,我现在小任务基本只用 Sol 的 medium,遇到复杂点儿的才上 high,加速模式都不敢随便开。要是活儿多的时候不重置额度,根本不够用。

· 0 个赞

我觉得项目里只要有完善的 SOP(让 agent 少走弯路),再写好 `AGENTS.md` 和配置好 codegraph 这类工具, Terra 的 High 或者 Sol Low 模式就完全足够了。不需要改代码的需求,Luna High 也够用。我手头跑的项目代码量有 400 多万行,亲测这样完全 hold 得住。

· 0 个赞