AI Gateway 日志现在可以显示会话亲和性
AI Gateway 日志新增了会话(Sessions)视图,它按会话把请求分组,并展示会话亲和性如何路由每个请求。每一行会显示运行该会话的编码代理或应用(例如 Claude Code、Codex 或 Cursor),以及对应的成本、模型、提供商,还有每一轮对话中输入被缓存的比例。




打开一个会话,可以看到它的缓存命中率、时长和路径。路径列出了每一轮对话所用的模型和时间,并标出当前服务该会话的提供商,以及之前服务过它的提供商。
会话亲和性会把每一轮对话发给上一轮服务过它的同一家提供商,这样该提供商的缓存里已经存有提示词的大部分内容。如果一个会话始终留在同一家提供商上,那么每轮提示词中能从缓存读取的部分就更多。
按条件筛选会话
可以按轮次、客户端、模型、提供商、认证信息或成本来筛选会话。默认情况下,单轮会话会被隐藏,清除最小轮次筛选条件后才会显示。