端到端管理 Amazon Bedrock 成本:给 FinOps 与平台团队的一份实操心法

生成式 AI 的成本管理,需要应用开发团队和负责云支出的团队共同承担。很多团队一开始会去比较各模型的 token 单价,再要求应用团队把提示词缩短。这些做法有帮助,但回答不了财务和工程负责人随用量增长而越来越关心的问题:这笔钱是哪个团队花的、花在哪个工作负载上、是否落在批准的预算之内?智能体(Agentic)工作负载让这些问题更加紧迫。一次对话式助手通常每个用户回合只发起一次模型调用。而智能体工作流——比如一个 AI 编程助手,它要规划改动、读取文件、调用工具、反复迭代——每个任务会发起多次调用,而且每次调用携带的上下文更大。因此,token 消耗取决于你给工作流多少自主权、它携带多大的上下文