TypeSafe AI 发布 Jev:不写文本,只返回“带类型的概率决策”
由前 OpenAI 研究员创办的 TypeSafe AI 推出了 Jev 模型,它不生成文字,而是针对调用方提出的问题直接返回带类型的概率化答案,让程序据置信度决定执行还是升级处理。发布两天内 Vercel、Netlify、LangChain 相继接入,开发者实测提速约 7 倍、省成本约 30 倍,但也有人提醒:不产生非法类型不等于不犯错。
一个只做判断、不写字的模型
旧金山 AI 实验室 TypeSafe AI 发布了 Jev,这是其所谓 “System One Models” 系列的首款产品。与常见的大语言模型不同,Jev 不生成文本,而是返回带类型的概率化决策,软件可以直接据此采取行动。
调用方式很直接:发送一段状态信息(字符串或结构化数据),再加上一组带类型定义的问题。Jev 会在一次并行处理中全部评估完,返回三类答案——Choice(单选)、Score(评分)、Noul(布尔概率),并附带概率分布和置信度。于是调用方可以在置信度高于阈值时直接执行操作,低于阈值时交给人工或上层逻辑处理。
成本与规格方面:输入每百万 Token 0.042 美元,输出免费,上下文窗口 32000 Token,官方给出的端到端延迟为 70 毫秒至 500 毫秒。训练方法名为“校准决策强化学习”(Reinforcement Learning for Calibrated Decisions),重点在于让输出的概率尽可能贴近真实情况。

生态接入速度快得出人意料
Vercel 在 Jev 发布第二天就把它接入了 AI Gateway,并称 24 小时内已覆盖近 13% 的付费团队,是 GPT-5.6 系列模型的两倍。Netlify 随后跟进;LangChain 发布了 TypeSafeClassifier 集成,支持模型路由,并提供一个 AutoMode 中间件,可在工具调用真正执行前先做筛查。几天内还出现了五个独立的 Elixir 客户端。
实测:更快、更便宜,但准确率因场景而异
Vercel 工程师 Pranit Sharma 发现,安全分类器的运行速度比它替换掉的 LLM 快 5 到 18 倍。Bryo AI 的 CTO Nikhil Mudholkar 则指出,Gemini 在邮件分类上的准确率略高,但成本高出 10 到 20 倍;他选择 Jev 的理由是它是唯一能返回真实概率的模型。
Earendil 的 CTO Armin Ronacher 在接受 TechCrunch 采访时表示,这种设计“在一定程度上把幻觉问题交给了用户”——因为 50% 的概率到底值不值得动手,需要调用方自己判断。他还认为模型路由是另一个非常合适的应用场景。
OpenChamber 对 12759 条发布相关推文做了分析,结果显示:用户报告的速度提升中位数为 7 倍(远低于官方宣称的 193.6 倍),成本节省中位数 30 倍,延迟中位数 76 毫秒、上四分位数 270 毫秒。
社区评价也呈两极:Reddit 上有开发者称该模型在 200 到 300 毫秒延迟下处理智能体任务的表现“绝对疯狂”;Hacker News 上一位早期体验用户称其“非常巧妙”,同时提醒它在分布外(out of distribution)场景下的表现会与 LLM 不同。
争议点:“不会幻觉”说得太满
Hacker News 上有开发者指出,Jev 虽然不会输出无效的类型,但仍然可能输出完全错误的合法值:
首先,祝贺团队发布了真正有趣且新颖的东西。不过更准确的标题或许是“Jev:用通用生成能力换取快速的类型化推理”。速度对比也容易误导——能写图灵完备代码的生成式模型,理论上可以完成计算机能做的一切;而 Jev 只能产出结构化输出。这对分类、路由、评分很有用,但它和今天用于代码与自动化的生成模型不是一类东西。另外,“不会产生幻觉”的说法似乎不准确:它确实不会输出非法类型,但仍可能给出完全错误的合法值——给大语言模型加上合适的约束机制,同样可以强制它输出结构化内容。
准备替换 LLM 分类器?先看这几点
打算用 Jev 取代现有分类器的团队,建议从 jev-1.13 版本的“已知不稳定特性”(jaggedness)页面看起。该页面记录了模型在计数、算术、日期比较上的不可靠之处,以及在处理长度大、噪声多的状态信息时准确率下降的问题,并建议把数学计算留在代码里完成。
版本管理上,应固定使用诸如 jev-1.13.0 这样的具体版本号,而不是会自动更新的 jev-latest、jev-preview 别名。做基准测试时,可以用 System One adapter 让现有模型针对同一份 Schema 运行,方便对照。快速入门指南则覆盖了 API 密钥、SDK 和 Playground 的使用。
TypeSafe AI 位于旧金山,由 Diogo Almeida、Erik Gafni 和 Sasha Sheng 共同创立。Almeida 是 RLHF(基于人类反馈的强化学习)的联合发明人之一,也参与了 ChatGPT 背后的研究工作。
关键要点
- Jev 只返回带类型的概率决策(Choice/Score/Noul),适合分类、路由、评分这类“给个判断”的任务,不适合生成代码或文本。
- 优势在于速度快、单价低、能给出真实概率;代价是概率阈值如何取舍由调用方承担,且分布外表现与 LLM 不同。
- 已知短板集中在计数、算术、日期比较和高噪声长输入,数学计算应留在代码里,版本要固定到具体的
jev-x.y.z。 - 生态接入迅速(Vercel、Netlify、LangChain、Elixir 客户端),但社区实测的提升幅度(约 7 倍)明显低于宣传口径。