核心 GUIDE

SYSTEM_COMPONENTINTERMEDIATE6 分钟阅读

Act → Observe → Verify Loop

Agent 是一个 Control Loop:选择 Action、观察 Environment,再验证 Task State 是否真的向目标推进。

核心心智模型

每一次 Action 都应该为下一次 Decision 产生 Evidence;缺少 Observation 与 Verification,Agent 就只是连续做出越来越自信的猜测。

为什么重要

拥有 Tool Access 并不会自动得到可靠 Agent。真正有价值的能力来自闭合 Intent、Action 与 Evidence 之间的 Loop,让系统能够发现错误假设、从失败中恢复,并且只在目标真正满足时停止。

01

Control Loop 的结构

从当前 Goal 与 Verified State 开始。模型选择 Action,Tool 或 Environment 执行,Runtime 捕获 Observation,Verifier 检查预期 State Transition。随后下一步只能是 Continue、Retry、Escalate 或 Stop,而不是直接根据模型自述继续。

02

例子:Coding Agent 修改一个函数

Agent 修改函数后先检查 Diff,再运行 Targeted Test。如果 Test 失败,这个 Observation 会改变下一步 Action;如果所有 Required Check 都通过,Verifier 才能确认 Postcondition,而不是相信模型说“修改已经完成”。

常见失败模式

  • 把 Tool Call 成功当作 Task 成功。
  • 跳过 Observation,继续基于旧 State 规划下一步。
  • 没有明确 Termination 或 Escalation Condition 就持续运行。

工程启发

  • 高影响 Action 之前先定义 Expected Postcondition。
  • 尽量让 Observation 结构化,从而可以独立检查。
  • 把 Stop、Retry 与 Escalation 设计成显式 Runtime Decision。

关键结论

  1. 01Agency 是一个 Loop,而不是一条很长的 Prompt。
  2. 02Action 必须通过 Observation 与 Verification 才能成为可靠进展。
  3. 03Termination 属于 Agent Architecture,而不是最后补上的 Cleanup。

来自 Knowledge Graph 的相关知识点

这些关系直接来自 canonical graph,不维护第二套 Guide 分类体系。

Workflow DecompositionPREREQUISITEGuide
Loop 与 Graph 的责任边界PREREQUISITE
用 Verification 闭合 Agent LoopPREREQUISITE