护栏能让 AI 编程智能体做得更好吗？270 次运行给出的答案

来自博客 作者：Rakesh Menon 2026 年 10 月 15 日 6 分钟阅读 每个用编程智能体的团队，最后都会吵同一件事。有人搭好了一套脚手架：一份指令文件、一道提交前的关卡、一个钩子（hook）——测试没跑过就不许说“完成”。另一个人则发现，智能体照样能把测试跑过。 然后某个早上，这道关卡连着六次拦下了智能体，于是有人忍不住问：这些护栏到底值不值，还是纯粹走个过场？这问题最后通常靠信念解决，因为护栏的成本是等出来的，收益则是那些从未发生的问题。 为了写书，我做了一次实验。 > 在 270 次无人值守的编程智能体运行中，覆盖三个模型、七个任务，所有改动最终都被接受，护栏也没有提高一