提示注入与 LLM 安全（OWASP LLM Top 10）

⚡ 太长不看 ：LLM 就像一个“困惑的代理人”——它只是读了段文字，就可能被这段文字反过来利用。防御手段包括：划定信任边界、加输出护栏、按最小权限原则限制工具白名单；同时要警惕直接注入和间接注入，以及“代理权限过大”的问题。 ## 目录 - 一个泄露了错误客户数据的客服机器人 - 核心原则：模型是个“困惑的代理人” - 全景图：围绕模型的信任边界 - 如何加固一个 LLM 功能 - 最先中招的 OWASP LLM Top 10 风险 - 代码：输出护栏 + 最小权限工具白名单 - 直接注入 vs 间接注入 - 让你浪费几小时（甚至导致数据泄露）的常见错误 - 要点总结 - 下一步 ##