质量是防护框架的属性，不是模型的属性
某个晚上，我们的代理集群至少产生了 9 条错误或接近错误的结论，都在发布之前被防护框架（harness）拦了下来；还有一条已经跑到了线上服务器，是靠第二层防御才没有造成实际影响。这里如实说一下这个防护框架的做法：在权威数据源处设置探针，把验证器和生成器分开，用钩子直接阻断有问题的操作，用类型化状态取代自然语言描述——正是这些手段，让一个个容易犯错的代理组合起来后整体上变得可信，而信任的边界，恰好就划在证据终止的地方。
某个晚上，我们的代理集群至少产生了 9 条错误或接近错误的结论，都在发布之前被防护框架（harness）拦了下来；还有一条已经跑到了线上服务器，是靠第二层防御才没有造成实际影响。这里如实说一下这个防护框架的做法：在权威数据源处设置探针，把验证器和生成器分开，用钩子直接阻断有问题的操作，用类型化状态取代自然语言描述——正是这些手段，让一个个容易犯错的代理组合起来后整体上变得可信，而信任的边界，恰好就划在证据终止的地方。