AI智能体的多轮攻击：如何识别慢速越狱

目录 分享本文 ## 摘要：什么是多轮攻击，如何发现它们 多轮攻击不是靠单条消息攻破AI智能体，而是通过整段对话逐步突破。攻击者先提出无害的请求，建立上下文，然后一步步升级，直到智能体做出它本会直接拒绝的事情——比如发起退款、泄露账户数据，或调用不该调用的工具。 大多数防护栏只逐条检查消息，所以这类攻击往往能溜过去。要抓住它们，需要用完整对话对智能体做红队测试，对整段对话而非单条回复打分，并追踪它在第几轮被攻破。BotGauge对AI智能体运行多轮攻击，并把每次失败转化为一项检查，在后续每个版本中持续运行。 ## 什么是多轮攻击，为什么对智能体很重要？ AI红队测试就像针对AI的渗透测试：你像