智能体反过来提示人：用智能体处理长期金融工作
在 AI Engineer New York 大会上，我们与 Arca 的首席 AI 工程师 Aman Singh 聊了聊。Arca 是一家提供财富管理服务的“AI 原生”公司。我们发现，虽然 agent 承担了公司里大部分的幕后工作，但仍然设有防护措施，确保最终决策由人类顾问做出。目标是让 AI 引导整个流程——或者用 Singh 的精彩说法：“更多时候是 agent 在提示人，而不是人在提示 agent。” Arca 最近完成了 4850 万美元融资，由 General Catalyst 领投，Index Ventures 和 Venrock 参投。
Singh 解释说，AI 在金融服务中的一个特点是：工作通常周期很长——尽管并不是持续运行。在 AIE 的演讲中，Singh 提到 Arca 的 agent 任务有时要花上十天。“过程非常断断续续，中间涉及很多参与方、很多决策点、很多交接，”他说。
正因如此，Arca 开发了一套内部记忆系统。“我们为每位客户都保留了持久记录，”Singh 在我们的播客对话中说。“到目前为止发生了什么？接下来我们要跟踪什么？未来几天需要立刻做什么，长期又要跟踪什么？哪个人负责哪项行动？所有这些都由我们的记忆系统追踪，而我们的 agent 会向其中贡献信息。”
Arca 使用 Anthropic、OpenAI 等前沿实验室的模型，主要模型供应商是 Claude。公司自建了一套 harness（运行框架），能根据内部基准测试，自动为特定任务挑选最合适的模型。拥有自己的 harness、而不是使用托管式 agent 框架，也意味着 Arca 在需要时可以灵活更换模型供应商。
安全显然是金融服务的关键。Singh 指出，尽管 agent 完成了大量工作，但 agent 的角色仅限于分析和提出方案。交易以及任何资金流动都由人类顾问处理。“我们所有的安全限制都是完全确定性的，”他说。
“这样就把决策权从智能体手中拿走了。”换句话说，有些工具和任务智能体可以自行执行，但涉及客户风险的则不行。Arca 还会针对已知的 AI 安全问题做验证检查，比如提示注入。Arca 的智能体本身不在沙箱中运行，但计算过程会使用沙箱。Singh 解释说，他们做得更深入，对敏感数据的处理加了额外安全措施。“我们构建了一些系统，让沙箱内的代码可以安全地访问我们的数据，”他说，“我们有一个机制，把智能体写的代码转换成我们预期的严格格式，丢弃原始代码，然后在格式到达后端之前加上防护栏。这样我们允许智能体用代码查询数据，意味着它们可以聚合、处理数据，按需加工以生成财务计划之类的东西。”Arca 另一个有意思的做法是利用人类顾问的反馈以及智能体的执行轨迹来改进 harness。他们用一个“元智能体”分析这些数据，并提出对 harness 的修改建议。
播客时间戳
00:00 — 介绍 Arca 这家 AI 原生财富管理公司
01:40 — AI 如何支持人类财务顾问
02:40 — 用内部基准选择模型
04:01 — 构建自定义 harness 并路由任务
05:25 — 处理 10 万美元税单：智能体与人工审批
07:20 — 智能体在长任务中的记忆
09:22 — 安全防护栏与提示注入防御
11:02 — 默认合规与可审计性
12:14 — “智能体提示人的次数多于人提示智能体”
13:46 — 为什么 Arca 自建智能体基础设施
15:05 — AI 原生公司 vs 使用 AI 工具的公司
16:09 — 沙箱与财务计划验证
18:40 — 决策模型与财务事实核查
19:51 — 为什么交易执行仍由人类专家负责
20:32 — 把员工反馈转化为评估和改进
22:22 — 把运营知识转化为智能体上下文
23:41 — 客户案例：隐藏费用与主动服务
观看 Aman 的 AIE 演讲
Arca 的 AI 负责人谈持久记忆、自研框架的优势，以及持续数天的智能体工作流。