COGS vs R&D:为什么百万token仅售3/15美元的Kimi K3并不免费

Dev.to ML 2026-07-21T23:18:00.422233

标题:COGS vs R&D:为什么 Kimi K3 每百万 token 收 3 美元 / 15 美元,并不是免费

原文:

2026 年 7 月 18 日,X 上关于 Kimi K3(Moonshot AI 的开源模型,接近当前顶尖水平)的讨论,再次把 AI 行业里一个长期存在的混淆点摆到了台面上:很多人以为一个“开放”的模型就等于免费。Ben Thompson 在他的 Stratechery 简报中借这场辩论,提出了一个更深刻的观点:边际成本——这个被软件行业驱逐了二十年的概念——随着 AI 回归了,并且彻底改变了商业结构。Thompson 提出的区分很简单:下载一个模型的权重不花一文钱,但跑起来要花钱。这个推理成本(inference cost),而不是授权价格,才是决定当需求扩大时每个 AI 供应商能剩下多少利润的关键。一句话总结:Kimi K3(Moonshot AI 的开源模型)收费是输入每百万 token 3 美元,输出每百万 15 美元。
- Sol(分析中用作对比的模型)收费是输入每百万 5 美元,输出每百万 30 美元。
- Ben Thompson 于 2026 年 7 月 20 日在 Stratechery 发表了《Who's Afraid of Chinese Models?》。
- 核心论点:研发(I+D)是固定成本,但 COGS(推理成本)与收入直接成正比。
- Nvidia CEO 黄仁勋将 AI 数据中心描述为“token 工厂”。
- 推理 token(思维链)的出现,打破了模型之间单纯按 token 单价直接对比的格局。
- 推理效率取决于 MoE 架构、KV cache、batching 和 prefix caching,而不只是公布的定价。

发生了什么
上周末,X 用户将 Kimi K3 与 Sol 这样的闭源模型做对比,主张一个接近顶尖水平的开源模型让付费使用专有模型变得毫无意义。Thompson 在 7 月 20 日发表的《Who's Afraid of Chinese Models?》一文中,用一个这些讨论中很少出现的财务区分来回应:研发(I+D)和销售成本(COGS,Cost of Goods Sold)之间的区别。研发是固定支出。

COGS vs R&D:为什么 Kimi K3 每百万 token 3/15 美元并非免费

如果一家公司投入 100 万美元训练一个模型,无论这个模型带来 10 万美元还是 1 亿美元收入,那 100 万都已经花掉了——投资本身不会变。真正随收入变化的是 COGS(销货成本)。而在 AI 领域,COGS 是实实在在的,这一点传统软件已经很久没有体会过了:无论是 Kimi 还是其他模型,每生成一个 token 都要消耗计算成本。所以,把「开放权重」理解为「免费」,是根本性的误读。

据 Thompson 引用的数据,Kimi K3 对输入 token 收费每百万 3 美元,输出 token 每百万 15 美元。这比 Sol 的 5 美元输入、30 美元输出要便宜,但离免费还差得远。在某个数据中心里,总有人在为这笔计算账单买单。

背景与历史

Thompson 的职业生涯就是围绕一个问题展开的:为什么互联网软件的表现和传统行业不一样?他最著名的分析框架——聚合理论(Theory of Aggregation),起于一个简单的观察:当一个产品的分发和复制成本趋近于零时,权力会集中在掌控需求的一方,而不是掌控供给的一方。Google 不需要拥有任何网站就能主导搜索;Netflix 不需要电影院。

生成式 AI 重新引入了一个该模型原本认为已经消失的变量:边际成本。模型每生成一个回答,都要消耗实实在在的计算资源(以 token 计量),这笔计算对模型提供商和用户来说都不免费。这是二十年来,互联网的一项核心技术第一次再次呈现出类似工厂的成本结构:产量越大,花费越多。

这种成本结构的逆转,在 AI 内部也有自己的演变时间线。第一阶段是 ChatGPT 时代,直接向终端用户交付 token:每次响应的成本相对可预测。第二阶段是推理时代,打破了这种可预测性:一个模型在写出可见回答之前,可能需要数千个思维链(chain-of-thought)token,而这些 token 也是要收费的。

COGS vs 研发投入:为什么 Kimi K3 每百万 token 定价 3/15 美元并不便宜

进入第三阶段——智能体(Agent),又增加了一层开销:智能体在完成任务前可以调用工具、迭代和重试,而每一步中间过程同样消耗 token。每一个输出 token 都实实在在地消耗了 GPU 计算资源,可不是能随便“免费复制”的东西。

技术细节与性能

查看原文