核心 GUIDE
CONCEPTFOUNDATION6 分钟阅读
Context Window
Context Window 是有限的工作输入预算,System Instruction、Conversation、Retrieved Evidence 与 Tool Result 都在竞争这块空间。
核心心智模型
Context 是模型当前的工作空间,而不是无限 Memory;每增加一个 Token,都在占用有限容量与注意力。
为什么重要
更大的 Context Window 并不会消除 Context Engineering。过长的历史会掩埋关键约束,旧信息可能和当前证据冲突,冗长 Tool Trace 也可能挤掉下一步决策真正需要的信息。
01
哪些信息在竞争 Window
System Instruction、User Message、Example、Retrieved Document、Memory Snippet 与 Tool Output 都占用同一个有限输入空间。随着 Workspace 增长,应用必须决定哪些内容保留、压缩、重新检索或直接丢弃。
02
例子:执行了 80 次 Tool Call 的 Agent
Agent 把每一次 Tool Result 都永久留在 Conversation 中。到最后一步时,最初的验收条件与最新权威状态被大量低价值日志包围。解决方式并不是简单换一个更大模型,而是建立保留决策和证据、压缩临时 Trace 的 Context Policy。
常见失败模式
- 把更多 Context 等同于更好的 Context。
- 长期保留过期或互相冲突的证据。
- 把 Chat History 当成 Durable Workflow State。
工程启发
- 按照信息角色与重要性分配 Context Budget。
- 优先保留当前权威证据,而不是旧的冗长 Trace。
- 压缩时明确保护约束、决策与尚未解决的问题。
关键结论
- 01Context 是有限工作空间。
- 02相关性与 Authority 比原始信息量更重要。
- 03Durable State 与 Context 是不同的系统职责。
来自 Knowledge Graph 的相关知识点
这些关系直接来自 canonical graph,不维护第二套 Guide 分类体系。
Attention 是预算,不是信息袋PREREQUISITE