推理强度对得分和成本的影响有多大?

Vals AI Blog 2026-11-05T09:39:34.140230

大多数前沿模型都允许你在提问时选择它“思考”的强度,但强度越高,单次运行的成本也越高。默认情况下,我们通常把模型调到最高档。本文测量推理强度变化时,性能和成本各自如何变化。在最低档下,七个模型中有四个保住了至少 80% 的 Vals Index 得分,而成本只有一半甚至更低。例如 Claude Opus 5.5,用 16% 的成本保住了 80% 的得分。

我们选取了七家 AI 实验室各自的旗舰模型,在 Vals Index 的八个基准上测试。每个模型跑三档设置:最低推理档、中间档,以及我们排行榜所用的设置(通常是最高档)。下文把最后一档称为“排行榜设置”。下图展示三个设置在 Vals Index 上的表现,先画四个模型,图例中再补充其余模型。同一张图也出现在 Vals Index 页面及其各个基准页面上。

关键结论

降低推理强度,成本降得远比得分多

虚线标出排行榜设置。柱子在 100% 处,表示得分或成本与该设置相同。

在最低档下,七个模型中有四个保住了至少 80% 的 Vals Index 得分,成本只有一半甚至更低。Claude Opus 5.5 用 16% 的成本保住了 80% 的得分,Grok 4.7 用 16% 的成本保住了 86%。Gemini 4 Argon 用 84% 的成本保住了 99% 的得分。在中间档,Gemini 4 Argon 的得分略高于排行榜设置,成本为 78%,比它自己的最低档还便宜。

56 个案例中有 22 个:更低设置得分相同、成本更低

在 56 组「模型 + 基准测试」组合里,有 22 组用更便宜的设置就拿到了与榜单设置相同的分数。我们测试过的更便宜设置中,没有一个显著高于榜单设置,有 33 个显著更低。单看 Vals Index 整体,没有任何模型能在最低设置下达到其榜单分数。

在 Vals Index 上,7 个模型里没有一个能用最低设置、以更低成本拿到与榜单设置相同的分数。综合所有设置和所有基准测试,更低设置以更低成本拿到相同分数的案例共 22 个,没有一个与榜单设置有显著差异。

为每个任务挑最高分设置,也只能多拿 6.0 分

事后回看,这些模型比它们的榜单设置中位数高出 6.0 分,成本中位数为后者的 64%。真实系统必须在看到结果之前就做选择,所以实际收益会更小。

有些任务需要更多推理,有些则不然,因此一个能为每个任务单独挑设置的系统,有可能超过任何单一设置。为了找出这类系统最多能提升多少,我们回看结果,为每个任务挑出得分最高且成本最低的设置。

这张图根据每个任务的结果,挑出它的最高分设置。如果在看到这些结果之前就做选择,得分会更低。分数轴从 40 开始。

更多推理对某些基准测试的帮助远大于其他

从最低设置到最高设置,分数提升因基准测试而异。Legal Research 的中位数提升为 19.2 分。EMB、HLAB 和 Finance Agent 2.1 各自提升都不到 6 分。

分数变化:最高努力减最低努力

方法论

我们测试了 DeepSeek V4.1 Flash、Grok 4.7、Muse Spark 1.3、GPT-6 Astra、Claude Opus 5.5、GLM 5.3 和 Gemini 4 Argon,每个模型分别跑最低推理档位、中间档位和排行榜档位。排行榜档位对 DeepSeek、Astra、Opus 和 GLM 是 max,对 Grok 和 Muse 是 xhigh。Gemini 的排行榜运行没有设置努力等级,所以我们用了它的 high 档。测试覆盖构成 Vals Index 的八个基准:Finance Agent 2.1、EMB 1.1、Terminal-Bench 4、Vibe Code Bench、Code Migration 1.1、Legal Research、HLAB 1.1 和 Tax Agent Bench。

每个档位都跑同一个固定任务子集,约为各基准全部任务的一半。我们挑选子集时,确保其模型排名与完整基准一致。对大多数模型,排行榜档位的分数直接取排行榜上已有的运行结果,再在该子集上重新计分。没有现成运行结果的情况(包括 Gemini 的全部运行),我们重新跑了排行榜档位。

Vals Index 是衡量 AI 潜在经济影响的单一指标,考察智能体模型在金融、编程、法律和税务任务上的表现,按各行业占美国 GDP 的比重加权。只有八个基准都有分数的模型才会进入指数。Tax Agent Bench 按全通过计分,与其主表一致。每次测试成本按标价计算。Vals Index 成本是八个基准成本的简单平均,Code Migration 的成本由 token 估算。每次比较都用配对自助检验(paired bootstrap test),对两种档位重采样相同任务,判断分数差异是否真的存在。我们在一组内先跑完所有比较,再检查哪个档位得分更高,然后用 Benjamini–Hochberg 方法对组内 p 值做校正。校正后 p 值低于 0.05 视为显著。要选出每个任务的最高分档位,我们取该任务上得分最高的档位中最便宜的那个,再对八个基准做简单平均比较。

局限性

查看原文