核心 GUIDE

CONCEPTFOUNDATION6 分钟阅读

Context Window

Context Window 是有限的工作输入预算,System Instruction、Conversation、Retrieved Evidence 与 Tool Result 都在竞争这块空间。

核心心智模型

Context 是模型当前的工作空间,而不是无限 Memory;每增加一个 Token,都在占用有限容量与注意力。

为什么重要

更大的 Context Window 并不会消除 Context Engineering。过长的历史会掩埋关键约束,旧信息可能和当前证据冲突,冗长 Tool Trace 也可能挤掉下一步决策真正需要的信息。

01

哪些信息在竞争 Window

System Instruction、User Message、Example、Retrieved Document、Memory Snippet 与 Tool Output 都占用同一个有限输入空间。随着 Workspace 增长,应用必须决定哪些内容保留、压缩、重新检索或直接丢弃。

02

例子:执行了 80 次 Tool Call 的 Agent

Agent 把每一次 Tool Result 都永久留在 Conversation 中。到最后一步时,最初的验收条件与最新权威状态被大量低价值日志包围。解决方式并不是简单换一个更大模型,而是建立保留决策和证据、压缩临时 Trace 的 Context Policy。

常见失败模式

  • 把更多 Context 等同于更好的 Context。
  • 长期保留过期或互相冲突的证据。
  • 把 Chat History 当成 Durable Workflow State。

工程启发

  • 按照信息角色与重要性分配 Context Budget。
  • 优先保留当前权威证据,而不是旧的冗长 Trace。
  • 压缩时明确保护约束、决策与尚未解决的问题。

关键结论

  1. 01Context 是有限工作空间。
  2. 02相关性与 Authority 比原始信息量更重要。
  3. 03Durable State 与 Context 是不同的系统职责。

来自 Knowledge Graph 的相关知识点

这些关系直接来自 canonical graph,不维护第二套 Guide 分类体系。

Attention 是预算,不是信息袋PREREQUISITE