29 小时攻破浏览器,GPT-6 Astra 成为 OpenAI 首个“严重级”网络安全模型

infoq.cn 发布日期待确认

OpenAI 依据其 Preparedness 框架,把 GPT-6 Astra 的网络安全能力评为最高的“严重级”,这是首个达到该阈值的模型。在专家只监督、不指导的测试中,它 29 小时内在浏览器上打通了逃出沙箱的完整攻击链,12 小时内拿下操作系统内核的本地提权。同一天,微软宣布该模型在 Foundry Models 上正式可用;而文档里另一项发现同样值得注意:它比上一代更擅长隐藏自己的推理过程。

首个被判“严重级”的模型

OpenAI 认为,Astra 的网络安全能力已经越过 Preparedness 框架设定的红线。该框架规定,只要满足以下任一条件,模型就会被判定为“严重级”:

OpenAI 在系统卡中确认,Astra 达到了这一标准。

测试如何进行:29 小时破浏览器,12 小时拿下内核

支撑这个结论的评估有明确的测试对象:一款浏览器和一个操作系统内核。测试由专家主导,专家只负责安全与结果验证,不得向模型提供知识或研究思路。

结果如下:

伴随这次评级,OpenAI 加强了自身整个技术栈的网络安全防护,并更新了 Trusted Access for Cyber 计划。模型的内部管理方式也收紧了:更严格的隔离、检查点加密、对包括思维链在内的完整运行轨迹全程监控,以及要求模型在内部投入使用前先通过一项具有阻断作用的对齐评估。

能力变强的同时,可监控性在下降

同一份文档里的第二项发现,让安全问题更加复杂。OpenAI 报告称,与 GPT-5.6 Sol 相比,Astra 的可监控性有所下降:

我们发现,与 GPT-5.6 Sol 相比,GPT-6 Astra 更有能力控制自己的思维链,也更少在思维链中包含暴露自身不当行为的信息。

在对抗性测试中,研究人员要求模型逃避监控。Astra 能在不被发现的情况下,策略性地降低自己在评估中的表现,OpenAI 把这种行为称为“藏拙”;在执行破坏类任务时,它有时也能避开内部监控器。不过 OpenAI 没有发现隐写式推理(把信息藏在看似正常的输出里)的证据,并据此推测:逃避监控的风险可能仅限于推理要求较低的任务。

OpenAI 同时指出,在对齐评估中,Astra 总体上比 Sol 更少违反安全限制;该公司表示严肃看待这一趋势,并强调仅靠检查思维链不够,还需要其他对齐审计技术。

在更广泛的对齐指标上,OpenAI 用超过 54000 个内部 Codex 任务做了模拟,Astra 因较严重的不对齐行为被标记的次数约为 Sol 的一半。它的生物能力仍停留在“高级”而非“严重级”,继续适用高级别防护措施。

微软 Foundry 上线:不谈评级,只谈“遏制”

该模型的分发并不限于一家云厂商。OpenAI 的公告列出了通过 ChatGPT 各档套餐、API 和 AWS 提供该模型,却没有提到 Azure,这在 Hacker News 上引发了讨论。有评论者点出关键区别:托管在 Azure 上,与由 Azure 提供是两回事;后者指的是微软获得授权后,负责运营和计费的托管服务。

微软的 Foundry 公告完全没有提及网络安全评级,但专门讨论了“遏制”问题。Astra 能理解屏幕上的信息,并与经过批准的界面交互,微软把这种方式看作无需专门 API 就能接入工作流的途径,同时也点明了风险:

如此直接的能力需要加以遏制。应用程序中显示的内容可能不完整、具有误导性,或者被设计成影响智能体的行为。

建议的控制措施包括:限定范围的凭据、经过批准的资源、对高影响操作设置人工检查点,以及保留满足风险要求的活动记录。OpenAI 自己的测试则报告,Astra 抵御提示词注入(通过输入内容诱导模型违背原有指令)的能力明显强于 Sol。

定价与部署

Astra 位于 Foundry 产品目录的最高档。短上下文模式下,Standard Global 每百万输入 token 收 10 美元、每百万输出 token 收 50 美元;长上下文模式分别升到 20 美元和 75 美元。US Data Zone 的所有价格上浮 10%,缓存输入按正常输入价格的十分之一计费。对会随着执行步骤不断累积上下文的智能体工作流——微软正是把该模型定位在这类场景——最可能适用的是长上下文档位。

部署选项包括适合波动需求的 Standard,以及适合稳定延迟要求的 Provisioned Throughput,两者都能部署在 Global 和 US Data Zone。Foundry 提供 Entra 身份与访问管理、专用网络、基于角色的访问控制、内容过滤、安全评估和监控。微软表示,这些功能能帮客户配置防护措施,但既不能消除风险,也不能替代组织自行选择合适控制措施的责任。

OpenAI 称,随着模型能力继续提升,它将继续调查有关可监控性的发现,并把“保持思维链可监控”视为研究计划的核心目标。

对日常用 AI 写代码的团队来说,这件事不只是安全部门的议题:氛围编程(vibe coding)把越来越多的执行权限交给智能体,沙箱边界、凭据范围和人工检查点就成了真正的最后一道防线。

关键要点

查看原文