Anthropic 如何保障其 AI 原生软件开发生命周期安全
在 Anthropic，代码量和部署速度都呈指数级增长。软件工程师每季度交付的代码量，平均是 2021 到 2025 年期间的 8 倍。我们的代码审查、监控和其他安全流程也需要跟上这个加速的步伐，否则就会成为瓶颈（这就是 阿姆达尔定律）。
我们的软件开发流程也发生了巨大变化。Claude 从编码助手演变为主要的代码创作者和审查者。如今，合并到我们代码库中的代码约有 80% 是由 Claude 编写 的。超过一半的代码是通过我们内部的 Claude Tag 版本合并的，而人类工程师则专注于指导、设定意图并负责最终审批。
这意味着安全团队必须防守一个快速扩张的攻击面，并加固一个以非确定性、不断进化的 AI 代理为核心的生命周期。本文介绍我们用来保障软件开发生命周期（SDLC）安全的策略。
（本文旨在与我们最近发布的 AI 代理零信任 框架结合阅读；文中所有的安全设计思路均来自该框架的实现。）
我们防御的威胁非常具体：被攻陷或被提示注入的代理引入恶意变更；代理将供应链和依赖项投毒当作可信输入；以及那些更常见的应用漏洞种类——现在它们出现的频率更高了。后面介绍的每项控制措施都至少对应其中一种威胁。
为了实现这些目标，同时又不显著拖慢开发速度，我们采取了几个总体策略，包括：
- 将安全左移，并与代码开发阶段完全整合；
- 使用硬性的访问和身份边界来限制影响范围；
- 在生产前后结合自动化确定性审查与智能体审查；
- 在最高杠杆点引入人工干预。
本文将介绍我们在 SDLC（软件开发生命周期）的特定阶段实施的安全流程，以及背后的核心原则。这些原则更具持久性——因为随着模型能力演进，安全团队必须不断重新审视、甚至重塑其流程。
计划阶段
我们最早的安全自动化之一，是一个基于 Claude Opus 的简单「项目安全审查（PSR）」Web 应用。它读取项目设计文档，对照 MITRE ATT&CK 框架 分析潜在漏洞，并建议缓解措施。
后来我们将该系统连接到了内部知识索引，使其能获取整个公司的政策、过往决策和相关系统的更深度上下文，从而大幅提升了能力。
这样一来，我们不仅能更好地理解潜在风险，还能捕获到 PSR 中遗漏的信息。单这一项实现，就节省了 AppSec 团队大部分时间。当我们确信 Claude 评估风险足够准确后，就允许团队在 Claude 判定项目风险足够低时自行批准自己的项目。
这里可以看到 AI 原生 SDLC 的关键适应性调整之一。PSR 原本的设计是在漫长且昂贵的编码之前捕捉安全问题。在这个阶段发现问题，可以省去数月的返工。