内省(Introspection)

LM Studio Blog 2026-10-30T15:57:22.760670

Bionic 现在可以引用并回顾过去的会话,因此在处理长期上下文、找回被遗忘的细节方面能力更强了。你还可以在输入框里用 @ 提及的方式直接引用某个会话。

Bionic 在 Local Inference Overview 对话中总结被引用的 Explain local inference 会话

在输入框里用 @ 提及直接引用另一个会话。

模型越来越擅长借助搜索工具,在大量信息里大海捞针。很多时候,一句模糊的提及就足够让能力强的模型找到代码库中的相关部分。这让我们想到:如果让智能体能够读取、搜索会话记录——既包括当前会话(可能很长,经历过多次压缩),也包括其他会话,甚至是其他项目里的会话——会怎样?

内省(Introspection)

Bionic 现在有一套工具和内置技能,我们称之为“内省”(Introspection)。这些工具让智能体能够找回此前遗忘、或在压缩过程中被省略的细节。说白了,就是给智能体一个“回头看”自己历史的能力,把知识里的空白补上。

这在超长会话中特别好用。设计决策、踩过的坑、环境信息,以及许多其他内容,现在只需一次内省就能找回。

我们已经有多种技巧来提升智能体在压缩后的表现(之后会专门写一篇博客介绍),但在超长任务——那些需要数小时才能完成的任务——中对计划的遵循能力,仍有明显跃升。通常,压缩之后,只要某条未被归类为“始终保留”的信息在交接时被漏掉,它就会永远丢失。

而有了内省,智能体只要读一读会话记录,就能把信息找回来。

下图展示了内省如何让一个经过压缩的 Bionic 会话,从持久化的记录中恢复细节。

一个经过压缩的 Bionic 会话正在内省其持久化记录,以找回早先的细节

内省(introspection)会搜索持久化的会话记录,找回压缩过程中被省略的细节。

工具设计

在 Bionic 里做任何功能,我们都很在意上下文占用,不希望工具定义把上下文塞满。用于内省的工具都按“渐进披露”的方式实现:写在内置的 SKILL 里作为文档,智能体只有在判断需要内省时,才加载相关工具和文档。

为进一步节省上下文,内省工具还采用“分层”设计:先提供粗粒度读取/搜索会话记录的工具,返回结果会大量截断。Bionic 发现某条消息值得关注后,智能体可以再调用另一个工具,取出这条消息的完整内容。

我们还提供过滤选项,可以排除工具调用结果之类的内容——这些通常没什么用,但需要时仍能取到。

读取其他会话需要权限

内省要小心跨会话污染。有些会话会走进死胡同,或者记录的是已经放弃、不想要的路径。我们不希望智能体主动去读这些会话,把当前会话带偏。为此,读取其他会话的能力需要经过权限弹窗确认。读取智能体自己的会话记录则不需要批准。

Bionic 在读取其他会话的持久化记录前请求权限

读取其他 Bionic 会话需要明确授权;读取当前会话不需要。

用 @ 引用其他会话

如果有过去的会话想让智能体参考,用 @ 语法就能引用,跨项目也可以。

在 Bionic composer 中通过 @ 提及引用“五分钟 demo 大纲”会话

在 composer 中用 @ 提及,直接引用另一个会话。

用 Bionic 把活干完

下载 LM Studio Bionic · 创建账号

查看原文