我阻止了那个靠“后见之明”运作的智能体编造我的过去
你问大语言模型(LLM)有没有「类似的过往投资」,它总能给你找出几个:名字、年份、核销金额,一应俱全。哪怕你压根没做过任何投资,它也照给不误。模型只是想帮上忙——在它看来,本该写着你的履历的地方空着,那就是个等着被填上的坑。 我在 Vectorize 的开源 Agent 记忆系统 Hindsight 之上做审计工具时,大部分时间都耗在这个坑上。给 Agent 加上记忆并不难,难的是让它只说自己真正记得的事。 ## 我做了什么 这是一个 Streamlit 仪表盘,两种模式共用同一个 Hindsight 记忆库。 - 商业计划书模式 :我贴进一份创业公司的 BP,它输出团队、市场、产品三项评分,
- 我阻止了那个靠“后见之明”运作的智能体编造我的过去 · Dev.to AI