一项实验将一个未公开的 NP-hard 优化问题分别交给了 Fable 5 和 GPT-5.6 Sol 两个 AI 模型进行测试,并对比了使用和不使用 /goal 指令(一种旨在让模型更努力工作的模式)时的表现。结果显示,Fable 5 的原始智能表现极为出色,始终优于 GPT-5.6 Sol。而 /goal 指令并非一个简单的“加油”开关,它虽然在多数单次测试中能找到更好的解决方案,但偶尔也会导致严重的性能下降,从而使得模型的平均表现变差。
问题的背景:一个 NP-hard 挑战
这项测试的核心是一个被称为 KIRO 的光纤网络设计问题。这是一个经典的运筹学难题,要求在满足一系列结构性约束的前提下,为城市设计成本最低(即总光缆长度最短)的网络布局。
- 任务复杂度:这是一个 NP-hard 问题,意味着其解空间极其巨大。以巴黎为例,仅考虑将 532 个终端分配给 11 个集线器,就有 11^532 种可能性。
- 人类基准:问题的提出者多年前曾花费一周时间编写 C++ 程序来解决此问题,这为评估 AI 的表现提供了一个有效的人类参照。
实验设置与结果
实验主要对比了 Fable 5 和 GPT-5.6 Sol 在普通模式和 /goal 模式下的表现。目标是比较哪种方式能获得更低的总光缆长度(分数越低越好)。
核心发现
- Fable 5 表现卓越:在所有测试中,Fable 5 都展现了惊人的原始智能和一致性。它不仅获得了全场最佳成绩(31,934),而且其普通模式下的三次测试结果波动极小,仅在 319 分的范围内。
- /goal 指令是双刃剑:在六次旗舰模型的对比测试中,
/goal模式赢了四次。然而,从平均分来看,它却让两个模型的表现都变差了。- Fable 5:
/goal模式的平均分比普通模式差 759 分。 - GPT-5.6 Sol:
/goal模式的平均分比普通模式差 868 分。
- Fable 5:
- 稳定性对比:Fable 5 的表现远比 GPT-5.6 Sol 稳定。Fable 5 在普通模式下的分数范围仅为 319,而 Sol 则高达 1,958。这表明 Fable 5 的方案质量更加可靠。
实验最值得关注的结果并非
/goal指令是好是坏,而是一个旨在持久化任务的功能,可以在赢得大多数单次试验的同时,让观察到的平均性能变得更糟。
/goal 指令深度解析
同一个指令名称背后,是两种完全不同的实现机制。
Claude 的 /goal:外部评估器
Claude 的 /goal 指令通过一个独立的、小型的评估模型(默认为 Haiku)来工作。主模型完成一轮对话后,评估模型会判断目标是否达成。
- 优点:独立评估,相对客观。
- 缺点:评估器只能看到对话记录,无法访问文件或判断“再花十小时迭代是否值得”。
Codex 的 /goal:内化状态与工具
Codex 将目标作为线程的持久化状态进行管理,并为主模型提供 create_goal, get_goal 等工具。
- 优点:主模型可以访问文件和工具,对任务有更全面的了解。
- 缺点:这相当于让模型自己评价自己的工作,可能会陷入局部最优。
为什么 /goal 指令可能不是一个好的默认选项
对于常规的编码任务,进展是显而易见的。但对于优化问题,情况则完全不同。
在一个困难的优化问题上,循环的质量(即执行过程本身)远没有循环所持续做的事情的质量重要。
一旦模型选择了一个求解策略,额外的时间既可能放大一个好决策的优势,也可能加剧一个坏决策的恶果。/goal 指令的作用就是给予更多时间。当模型走在正确的路径上时,它能带来好处;而当模型陷入一个低效的策略时,它只会让情况变得更糟。实验中偶尔出现的巨大性能退步正是由此导致。
实验的局限性
- 这只是针对一个特定 NP-hard 问题的测试,不代表通用的编码能力。
- 只有 Fable 5 和 Sol 进行了三组成对的干净测试,其他模型的比较条件可能存在差异。
- 测试环境的配置(如 CPU 数量)可能对 Fable 5 的并行处理策略更有利。