Cloudflare 开源 Clef:给 AI 智能体一个专门做选择的决策模型

InfoQ 中文 2026-10-21T21:47:00+08:00

Cloudflare 在“生日周”活动中开源了决策模型 Clef,提供 90 亿和 270 亿参数两个版本。它不生成文本,而是在预设选项之间输出带概率的选择结果。模型已通过 Workers AI 提供,权重可在 Hugging Face 下载,同时配套一项微调服务。

不写文本,只做判断

大模型通常以自由文本作答,AI 智能体拿到结果后还得再解析一遍才能执行。Clef 走的是另一条路:输入是当前状态,以及一组带类型的问题(用 Schema 描述),模型跑一遍就给出每个问题下所有候选选项的概率,不需要逐字生成,也不需要额外的输出解析。

270 亿参数的 Clef 是多模态模型,可处理文本、JSON、图像或视频。

它输出的是带概率的类型化结果,智能体据此决定下一步动作:分派客服工单、升级工单,或者把判断交回人工。Cloudflare 的 API 与 Typesafe AI 的 Jev System One 模型兼容。

两个版本:一个求准,一个求快

除 270 亿参数的主模型外,Cloudflare 还发布了 Clef-Flash——90 亿参数的多模态版本,面向对延迟敏感的决策场景。在 Cloudflare 自己的基准测试中,Clef-Flash 的中位延迟为 38.8 毫秒,270 亿参数的 Clef 为 209.3 毫秒。

Cloudflare 产品组经理 Michelle Chen、首席机器学习工程师 Alex Reneau 和高级工程经理 Kevin Flansburg 在公告中说明了边缘部署的意义:

由于模型托管在 Cloudflare 的基础设施上,我们可以利用边缘 GPU 实现较低的网络延迟和更快的决策。这意味着你可以把 Clef 放在智能体决策的核心路径中,并将其与 Workers AI 上的某个 LLM 结合起来执行后续操作。

与 Jev 的两点差异

三位作者还列出了 Clef 区别于既有决策模型的地方:

首先,它有一个视觉编码器,因此能够接收图像并对视觉内容进行分类。这与 Jev 不同,后者目前只做文本分类。其次,我们的模型拥有 64k 的上下文窗口(而 Jev 为 32k),这使用户能够塞入更多输入状态供模型做分类判断。

换句话说,Clef 能吃进更长的上下文,也能直接看图片——对需要同时判断工单截图、日志片段和用户描述的场景,这减少了前置的数据转换工作。

对搭建智能体的开发者来说,这类专用模型的思路值得留意:把“判断”这类高频、格式固定的动作拆成独立的小模型调用,而不是每次都塞进大模型的提示词里让它顺便决定,正在成为智能体工作流里常见的做法。

社区的质疑:新范式还是易得成果?

在 Hacker News 的热门讨论帖中,社区围绕决策模型的定位、延迟、开源权重,以及这是否算一个全新品类展开了争论。Jacek Złydach 的评论颇为直接:

这不是什么“新范式”,而是一个多年来摆在那里的易得成果;Typesafe 是第一个愿意停下来摘取它的人,并把它大肆营销了一番。

基准测试结果也引发质疑。用户 SebastianSosa 警告说:

公开基准很容易做手脚。如果我是 Typesafe,我同样会发布公开基准,以此转移专业人员的注意力,让大家一味去拟合基准,而不是去做真正有用的东西。

在 Reddit 上,用户 bugra_sa 把关注点放在模型的“自知之明”上:

相比原始准确率分数,我更关心 Clef 是否知道何时该放弃判断。用那些误报代价比漏报高得多的案例对它进行测试,然后对数据进行足够大的改动,观察它的置信度何时崩溃。如果它在这种情况下仍保持高置信度,那基准测试数字就没有太大意义。

这些意见指向同一个问题:决策模型的价值不只在准确率,更在于概率输出是否可信——而这一点很难通过公开榜单体现。

微调服务与获取方式

Cloudflare 计划针对客服工单分级、机器人识别等场景对 Clef 进行微调,利用自身的历史标注数据提升准确率与速度。同时还推出了一项微调服务,客户可以用自有数据适配 Clef;初期由 Cloudflare 工程师提供支持,自助服务平台计划后续上线,具体日期尚未公布。

模型本身已通过 Workers AI 提供,可下载的权重发布在 Hugging Face 上,Cloudflare 邀请开发者上手试验并反馈。

查看原文