AI 痴呆：为什么你的智能体越聊越笨？
在《光环》系列中，一个关键剧情点是AI最终会“狂暴”。（是的，我说的是那个射击游戏——信不信由你，它不仅有剧情，如果把小说也算进去，剧情还相当不错。）游戏里人类的AI，按大多数定义来看，就是AGI（通用人工智能）。然而，它远非永生，寿命比人类短得多——大约七年。在那之后，面对它积累的数万亿数据点和思绪，它真的是“把自己想到死”，然后陷入疯狂：狂暴态。我年轻时觉得这个设定很蠢。万万没想到，我们现代的AI会变得和它非常相似——只不过寿命是以token来计量的。
这又有什么关系呢？我之所以想写这篇文章，是因为我和不少人聊过天，当我随口说“当然，这就是为什么你需要子代理——AI会随着你越聊越久而变笨”时，他们总是既震惊又困惑。对我这种从语言模型诞生之初就开始玩的人来说，这简直是明摆着的事。早年间，如果聊天持续太久，你很容易遇到各种精神错乱的行为，比如完全随机地爆粗口，或者像《闪灵》里的杰克·尼科尔森那样循环说同一句话。又或者直接硬生生被掐断——Anthropic 做得尤其生硬：Claude 会突然弹出一个错误提示，说对话太长，然后另起一个对话。“只工作不玩耍，聪明杰克也变傻。”这也是我觉得 ChatGPT 在用户体验上很巧妙的原因之一。显然，它在后台不知怎么地裁剪了对话——所以 ChatGPT 会随机忘事。但整体感觉很顺滑。这是 OpenAI 那些聪明“小把戏”之一——与其说是技术上的胜利，不如说是个土办法（尤其是跟 Anthropic 那种更高傲、更“纯粹”的做法相比）——但它确实让普通用户觉得神奇。尽管如此，每个模型都有这个问题。现在也依然有。
上下文窗口