OpenAI 开放 Jev 竞品,决策模型竞争升温

Image Credits: OpenAI / OpenAI
太平洋时间 2026 年 10 月 22 日 12:00
OpenAI 首次向用户全面开放 Decisions API 模型,正式进军快速、低成本智能模型市场。这个市场最近让 TypeSafe 一举成为估值 76 亿美元的公司——这家初创企业由一位曾在前沿实验室工作的研究员创立。
TypeSafe 的 Jev 模型开辟了一类新的深度学习模型:它们本质上是一流的分类器。给定一组选项,这类模型能快速做出选择,并给出对自身决策的置信度评分。软件开发者很快发现,这种“决策模型”或者说“系统一模型”(System One 模型,指快速直觉型判断)可以在多种工作流中替代大语言模型(LLM),运行速度更快,成本也大幅降低。
OpenAI API 产品负责人 Nikunj Handa 告诉 TechCrunch,他的同事看到 Jev 后说:“哇,我们好像有一百万个用例可以用它。”Handa 的团队随即冲刺,推出了自己的版本:他们没有专门构建一个经过校准的决策模型,而是拿 ChatGPT Luna 重新配置,加快推理速度并降低成本。
“Decisions API 最大的突破在于速度,把响应时间从 1 到 3 秒缩短到 100、120、180 毫秒,”Handa 说。“未来我们可能会做专门的训练,让模型在这些方面表现更好。但现在,就是普通的 Luna 把活干了。”
Decisions API 在 9 月 29 日的公司开发者日活动上发布,本周四向所有客户开放。OpenAI 在公开版本中新增了语音和视觉模态,并通过按地域部署推理资源,努力降低全球各地的延迟。
在 Box、Datadog、Ramp 和 Speak 等客户的初步试用中,工程师用这套 API 替换了 OpenAI 的大语言模型(LLM),换来了更高的吞吐量。Speak 的 CTO Andrew Hsu 说,Speak 做的是 AI 语言家教,Decisions API 帮公司把动作之间的间隔从 1.4 秒缩短到了 0.13 秒。OpenAI 自己也用这个产品提升了 Dots 语音助手的响应速度。
不过,什么样的决策模型才算好,目前除了「适合你的就是好的」之外,还没有明确标准——智能、成本、校准和速度之间怎么取舍,似乎因工作负载而异。TypeSafe CEO Diogo Almeida 不信任基准测试,建议大家在自己的实际工作里试用模型;但就连 TypeSafe 上周发布最新 Jev 模型时也公布了自己的排名,新模型支持图像和 smart-if 语句等新功能。
Handa 还看到速度进一步提升能打开新的用例:「能不能做到 60 毫秒左右?那样你就可以想象,比如视频的每一帧都调用一次 API。」