Anthropic 正在开发一套能证明 AI 模型身份的系统

Anthropic 正在开发一套开源系统，用来验证某段输出到底出自哪个 AI 模型。这一消息来自该公司周二发布的博客文章。这套系统名为 FlashProve，目标就是实现研究人员所说的“可证明推理”（provable inference），也就是用密码学证明——本质上是一种数学上的保证——来确认某段输出确实来自某个特定模型。它的用途是让用户可以确认：自己拿到的回答，真的来自他们以爲在用的那个模型。 这套机制类似加密邮件签名：收件人可以确认邮件确实来自声称的发件人。FlashProve 同样能抵御冒充行为，即使冒充者就是构建并运营该模型的实验室本身，也无法蒙混过关。研究人员特别指出，这套系统可以