Cloudflare Auto Router 公测:自动选模型真能省钱吗?
Cloudflare 通过 AI Gateway 推出 Auto Router 公测,把模型名写成
cloudflare/auto,系统就会按每个请求的内容自动挑选模型。官方基准称可靠性提升约 10 个百分点、成本降到约三分之一,但从业者提醒:分类只看最近几轮对话,长会话里的关键约束可能被忽略。
路由怎么工作:先筛模型池,再打分
整个流程分两步。第一步是构建候选模型池,把无法处理当前请求格式的模型过滤掉,同时应用凭证、计费配置、访问控制和支出上限。
第二步才是真正的“选模型”。一个多头分类模型(同一个模型同时输出多组判断)运行在 Cloudflare 边缘 GPU 上,依托 Workers AI 工作。它会为请求分配 14 类任务的概率,并从四个维度打 1~5 分:复杂性、歧义性、风险程度,以及对先前上下文的依赖程度。最后,评分矩阵把这些结果与基准测试数据结合,公开公式是:
效用 = 预期质量 − 自适应成本惩罚

分类只参考最近几轮对话,文本上限为 8KiB。模型评分则依据各候选模型在不同任务上的能力,以及处理难题时的预期收益;任务越难,价格在评分中的权重越低。
对做 AI 编程和“氛围编程”的团队来说,这种自动路由很有吸引力——调用费按请求算,能省则省。但代码任务往往一步错、步步错,路由省下的那点调用费,可能抵不上一次返工。
基准测试:可靠性高约 10 个百分点,成本约三分之一
Cloudflare 公布的测试包含 97 个任务,每个模型采样三次,并做了 1 万次 Bootstrap 重采样(一种反复抽样、用来估计结果稳定性的统计方法)。
结论是:可靠性提高约 10 个百分点,成本约为原来的三分之一。团队可以自行决定站在哪一边——而大多数路由产品甚至不提供这种选择。

质疑一:风险评分只看最近几轮
分类机制本身引来了最尖锐的质疑。从事智能体工程的 CTO Jacques B 在 Cloudflare 的 LinkedIn 帖子下点出了真正该看的指标:
如果还需要有人额外花一个小时修正结果,那么更便宜的模型其实并没有省下多少成本。
曾参与银行和医疗平台开发的技术负责人 Igor Pyrin 则指出,风险评分只依据一个偏重最近几轮的精简上下文:
在一次较长的智能体会话中,用户可能很早就说过“这是客户退款”,之后只说一句“继续执行”。我会让应用自己维护一个跨轮次的风险标签,用它判断请求是否可以使用
cloudflare/auto。一条简短的最终指令,不应该悄悄降低底层操作的风险等级。真正提交操作的那一轮,往往恰好是整段对话里看起来成本最低的一轮。
可审计,但不能存成配置
文档补充了两点。其一,响应会带上 cf-aig-routed-model 和 cf-aig-routing-reason,后者可能返回 cost_optimal_within_pool 或 pinned_by_turn 等值,因此事后可以审计模型选择。
其二,可以通过 cf-aig-allowed-models 和 cf-aig-allowed-providers 请求头,对单个请求限制模型池;但目前无法把这种限制保存成路由配置文件。这正是 Adam Natad 在发布讨论中提出的需求。
复现基准前,先确认模型池
还有一项值得确认:当前默认模型池列出的是 Claude Opus 5、Sonnet 5 和 Fable 5,以及 GPT-5.6 Luna、Sol、Terra 和 Grok 4.5。而基准表格中作为两项基线的 Opus 5.5 和 GPT-6 Sol,却位于“必须通过上述请求头才能使用”的可选模型列表里。
Cloudflare 表示模型池“可能会随时间变化”,所以这可能只是配置漂移,而非刻意设计。但打算复现该基准的团队,仍应确认自己的网关实际选中了哪些模型。
会话与缓存:容易被忽略的成本
如果没有会话 ID,同一段对话里的请求可能被分给不同模型,也就无法复用提示词缓存。出于同样的原因,Cloudflare 会施加一项随上下文长度增长的“模型切换惩罚”:新模型可能需要重新生成推理 Token,而这类 Token 按输出价格计费。
争议:计量单位是请求还是任务
在 Reddit 上,评论者 reachjalil 直接否定了前提,认为自动路由“最终会让你花更多的钱,却得到更低的智能”,如果结果真的重要,直接用能力更强的模型反而更便宜。
评论者 yangqi 回应说,计量单位应该是任务,而不是请求。reachjalil 随后的回复则指出了一个 Cloudflare 自己也承认的问题:分类本身也更适合交给大模型完成;而且路由权重会过时,“尤其是在模型不断变化的情况下”。文章称,路由权重来自基准测试结果,因此新模型必须手动加入评分矩阵。
限制与路线图
Auto Router 在公测期间免费,之后的价格尚未公布。目前不支持 WebSocket,只支持 Chat Completions 和 Responses API。
路线图中还包括 cloudflare/auto-best:它使用相同的分类器和模型池,但不考虑成本取舍,直接选择预期质量最高的模型。
关键要点
- Auto Router 分两步工作:先按格式、权限、预算等条件筛出候选模型池,再用边缘侧分类模型给请求打分,结合基准数据选出模型。
- 官方基准显示可靠性提升约 10 个百分点、成本约三分之一,但测试所用的基线模型并不在默认池中,复现前需确认实际选中的模型。
- 分类只看最近几轮(上限 8KiB),长会话中早期的关键约束可能被“看起来最便宜”的最后一轮指令覆盖。
- 便宜模型出错后的人工修复成本、会话切换导致的缓存失效与推理 Token 重算,都是账面价格之外的开销。