用 AWS Agent Registry 在运行时发现工具
用 AWS Agent Registry 做运行时发现,可以解决一个 agent 演示阶段容易藏起来的问题。工具少的时候,硬编码完全没问题;到几十个就开始吃力;再多就管不住了。企业系统会暴露几百个内部 API,涉及定价、客服、订单、库存和客户数据。在这种规模下,模型花在辨别工具名字上的 token,可能比理解用户请求还多。每加一个新能力,orchestrator 就得改代码、重新部署,还要跨团队协调发布,而各团队其实更想按自己的节奏发版。团队把大量内部 API 开放给 agent 使用时,这种模式在企业软件即服务(SaaS)项目里很常见。工具目录一扩大,构建期就把所有工具接好,反而成了瓶颈。
- 用 AWS Agent Registry 在运行时发现工具 · AWS ML Blog