自主智能体与半自主智能体:当人留在回路中,究竟改变了什么
“全自主”智能体演示是典型的报喜不报忧。同样的模型、同样的工具、同样的目标——决定它在生产环境里是帮你还是让你难堪的,只有一件事:人类被允许在哪个环节介入。自主性不是一种能力,而是一个设计决策,而大多数团队是在无意中做出的这个决策。 循环是一样的,缰绳不一样。 两种设计跑的是同一套“感知—规划—行动”循环:接收目标,拆成步骤,执行,观察,重新规划。自主智能体从头跑到尾,到终点才汇报。半自主智能体带着“闸门”跑——邮件写好了,但发送前先等一等;退款准备好了,但打款前先等一等;方案提出来了,但执行前先等一等。 就这一处差别,改变了部署中的一切:错误处理、工具权限、可逆性。自主智能体在第一步犯的错,
- 自主智能体与半自主智能体:当人留在回路中,究竟改变了什么 · Dev.to AI