AI 智能体的“土拨鼠之日”:在 Amazon Bedrock 上使用 OpenAI 模型的提示词缓存模式
每次启动智能体,它都得把自己的“前半生”从头读一遍,才能开始干活。这篇讲的就是怎么让它记住上下文,不用每次都把同样的内容重新喂一遍。 电影《土拨鼠之日》(Groundhog Day)里,比尔·默瑞的角色每天都在重复 2 月 2 日。他在同一家旅馆醒来,广播里放着同一首歌,面对同一个小镇,日复一日——有影迷估算,这循环持续了 34 年。前一天做过的事,他一点也没法带到下一天,除非从头再做一遍。AI 智能体也活在类似的“土拨鼠之日”里。 智能体每走一步(调用工具、读取结果、决定下一步),都必须把“到目前为止的全部故事”发给模型,才能保持连贯:工具定义、指令、之前每一次工具调用、以及每一个结果。模型
- AI 智能体的“土拨鼠之日”:在 Amazon Bedrock 上使用 OpenAI 模型的提示词缓存模式 · AWS ML Blog