Anthropic 正在开发一套能证明 AI 模型身份的系统
Anthropic 正在开发一套开源系统，用来验证某段输出到底出自哪个 AI 模型。这一消息来自该公司周二发布的博客文章。这套系统名为 FlashProve，目标就是实现研究人员所说的“可证明推理”（provable inference），也就是用密码学证明——本质上是一种数学上的保证——来确认某段输出确实来自某个特定模型。它的用途是让用户可以确认：自己拿到的回答，真的来自他们以爲在用的那个模型。
这套机制类似加密邮件签名：收件人可以确认邮件确实来自声称的发件人。FlashProve 同样能抵御冒充行为，即使冒充者就是构建并运营该模型的实验室本身，也无法蒙混过关。研究人员特别指出，这套系统可以用来防止 AI 公司偷偷换成一个更便宜的模型来压缩成本，或者换成一个更贵的模型来抬高性能成绩。
FlashProve 还能用来核实第三方的说法，比如某项任务确实是由某个先进模型完成的。研究人员写道：“开发者可能会声称自己的软件库已经由某个前沿网络安全模型扫描过漏洞，或者某家公司可能会声称自己的商业计划已经得到了某个合适模型的批准。那么用户要怎么验证这些说法呢？”
要让这套系统运转起来，AI 实验室需要为发布的每个模型公开一份“指纹”，之后这份指纹可以和具体输出匹配，并通过密码学手段验证。关键在于，指纹不会泄露模型的权重——也就是决定模型行为方式的内部数值，而这些正是 Anthropic、OpenAI 等闭源厂商严格保密的资产。这意味着实验室可以在不交出最宝贵资产的前提下公开指纹，让这套系统也能适用于商业模型。此外，该系统在设计上追求轻量，验证过程可以直接在本地设备上完成。
Anthropic 在公布的同时，还发布了这套系统各部分的详细技术规范和可运行代码，已在 GitHub 上以开源许可证公开。相关研究仍在进行中，Anthropic 目前没有在自己或其他实验室部署该系统的计划。
研究人员在公告中表示：「这篇研究文章旨在分享阶段性进展，而不是一份已完成的研究计划。我们公开这些内容，就是希望其他人能查看我们的工作，拿去改进。」