Bounded Autonomy

给 Agent 足够的自由去完成有价值的工作，同时对成本、时间、权限与不可逆 Side Effect 设置硬边界。

核心心智模型

Autonomy 是一个 Action Budget：Agent 可以在明确的 Envelope 中自主行动，一旦触碰边界就必须 Stop、Ask、Verify 或 Escalate。

为什么重要

Unbounded Loop 可能无限消耗资源、重复 Side Effect 或逐渐偏离用户 Intent；过度限制又会让 Agent 退化成固定 Workflow。工程目标不是最大化 Autonomy，而是让自主程度匹配每类 Action 的 Reversibility 与 Impact。

建立 Autonomy Envelope

边界可以包含 Maximum Steps、Tool Allowlist、Spending Cap、Timeout、Approval Requirement 与基于 Confidence 的 Escalation。低风险、可逆 Action 可以自动执行；高影响或高歧义 Action 则需要更强 Evidence 或人工 Decision。

例子：Customer Support Agent

Agent 可以自动搜索 Knowledge Base、起草 Reply、发放小额预定义 Credit；大额 Refund 必须审批，而 Policy Evidence 相互冲突时必须 Escalate。因此同一个 Agent 对不同 Action 可以拥有不同 Autonomy Level。

常见失败模式

给所有 Tool 与 Action 配置同一个 Autonomy Level。
让 Retry 绕过 Approval 或 Spending Boundary。
加入模糊的 Human-in-the-loop，却没有定义何时必须升级。

工程启发

按 Reversibility 与 Impact 对 Action 分类。
设置有限的 Step、Time 与 Cost Budget。
把 Escalation 当成正常成功路径，而不是 Agent Failure。

关键结论

01更多 Autonomy 不等于更强 Capability。
02Boundary 应随 Action Risk 增强。
03可靠 Agent 必须知道什么时候不应该继续。

来自 Knowledge Graph 的相关知识点

这些关系直接来自 canonical graph，不维护第二套 Guide 分类体系。

Planning 与 Direct ExecutionRELATED