你的 AI 不会因为你告诉它什么就学会,只有这条经验挡住了下一次犯错,它才真正学会

Dev.to ML 2026-10-27T15:55:17.636247

10 月 19 日,我给封面定了一条规则并把它置顶:真实人脸,按好莱坞主视觉海报(key art)的方式处理,是一条独立的一等轨道——不是装饰。规则写下来了,大家都同意了,也归档了。一周后,我自己的流水线还在产出纯文字卡片,而没有任何人的检查清单拦下过哪怕一张。这条经验被记录得完美无缺,也完全没有被学到。

存储不等于学习。一条经验只有在被接进流水线、能够拦住下一次糟糕输出,并且在真实输出中验证过它确实拦住了,才算数。

暴露这个问题的截图一点都不含蓄。10 月 26 日,我面前的网格是一排米色文字卡片——方框里塞着口号,没有人脸,没有场景,没有故事。播放量在 13 到 42 之间。而置顶在它们上方、里面真有一个人的那条内容,播放量是 304。一周前置顶的那条规则,几乎一字不差地描述了这个网格没做到的事。系统里每个部分都能把这条规则背出来,却没有一个部分受它约束。

这是没人提醒过你的失败模式,因为它感觉像是成功。笔记写了,会开过了,总结也能搜到。采集至上主义——第二大脑(second brain)那套信念,认为只要存下来就等于知道了——把收据当成了饭。

对人组成的团队来说,这个错误的代价是重犯一两个错。对一支全天候执行任务的 AI 智能体(agent)队伍来说,它会被漂亮地规模化:每个智能体都忠实地无视同一条经验,以机器的速度,并且深信这条经验「已经在系统里了」。

一条经验有三个阶段,只有第三个阶段算数

所以我现在管「学习」的方式,和管「交付」一样:把它当成闭环问题,而不是采集问题。一条经验只有走完三个阶段才算学会。

第一,写在标准的地方——不是会被刷走的聊天串,也不是总结的总结。

第二,也是几乎所有人都跳过的一步:把它接进去。经验要变成一个模板字段、一条检查项,或者一道卡在执行路径上、真能拦住输出的关卡。一条封面规则要变成封面检查项,审核人必须逐条判定通过或不通过,之后任何内容才能发出去。

第三,要读回验证:有人在真实产出的产物中确认这条被接入的规则确实触发了,并留下证据。只写下来、没接进流程,是一厢情愿;接进去了、但从没读回验证,是空抱希望;只有走到第三步,才算真正学到了。

注意这个标准对“我们学到了”这句话意味着什么。按这个标准衡量,我的系统今年声称学到的东西,大部分其实都没学会——它们只是被归档、总结,然后就躺在那儿不动了。对自己做这种审计不太舒服,但这是唯一诚实的做法。检验标准从来不是“能不能找到那条笔记”,而是“给我看看那条笔记改变了结果的输出”。

把教训接在工作发生的地方,而不是笔记存放的地方

这带来两个实际后果。

教训必须活在生产环节,而不是放在某个档案库里等人去查。这周重新确立封面规则时,它没有被写回文档供人欣赏,而是转成了明确的通过/不通过检查项,交给本来就要经手每张封面的审核人员,并把第一批真实产出指定为读回验证的场所。另外,一条没有负责人、没有验证日期的教训,不管写得多漂亮,都算“尚未学会”——它留在待办清单上,每天自查时点名,直到证据把它关掉。

我得说清楚哪些已经证明、哪些还没有。失败是已经证明的:我有网格和计数。修复才做了几天。它第一批验证对象就是下一批封面。如果读回验证显示,原本会被这条规则拦下的封面现在都通过了检查项,那诚实的结论就是:这套接入只是装饰——教训重新回到“未学会”状态。这不是标准的缺陷,恰恰是标准在起作用。

给你的 AI 建一个记忆库,尽管去建。我的记忆库就很大。但别再为它“记住了”而沾沾自喜。问一个更难的问题:它的哪条教训能在流水线中途阻止它重犯错误——证明它确实阻止了的那个输出又在哪里?

—— Jiahui Miao,vertciti 创始人,正在为一个人打造个人 AI 操作系统。

10 月 19 日,我给封面定了一条规则:真实人脸要当成好莱坞主视觉(key art)来做,它是与正文平级的一等轨道,不是配图装饰。规则写下来了,大家也点头认可,然后归档。一周之后,我自己的流水线还在输出纯文字卡片,没有任何人的检查清单拦下过一张。这条经验被记录得完美无缺,却一点也没被真正学到。

存下来不等于学会。一条经验只有接进流水线,能在下一次坏输出出现时把它挡住,才算数——而且还要经过验证。

查看原文