用消息线程让长时间运行的代理更快响应
消息线程功能现已在 Claude 平台开放公开测试。借助消息线程,代理不必每一轮都重新发送完整的对话历史,从而降低长时间会话的延迟。 ### 消息线程的工作原理 一个编程代理在一次会话中可能要发出数百次请求,而每次请求都会把之前的每一条消息和工具返回结果重新发一遍。当对话增长到数十万 token 时,这种全量重发会拖慢 Claude 开始响应的速度。有了消息线程,代理只需发送上一轮之后新增的内容,从而缩短首 token 时间(TTFT)。 目前大多数 Claude Code 用户已默认开启消息线程。对于 500k 到 1M token 的请求,首 token 时间的中位数下降了约 35%。 要
- 用消息线程让长时间运行的代理更快响应 · HN Shipped with Claude