核心 GUIDE

MENTAL_MODELFOUNDATION7 分钟阅读

Instruction Authority(指令权威层级)

可靠 Prompting 的前提,是知道不同 Instruction Source 谁有权决定行为。System、Developer、Retrieved Context 与 User Text 并不是可以平等互相覆盖的 Peer。

核心心智模型

Instruction Authority 是 Source-aware 的 Precedence Model。更高 Authority 的应用规则约束更低层请求,而 Retrieved Content 通常只是 Evidence,不应自动变成新的系统行为所有者。

为什么重要

如果没有 Authority Model,系统即使每一段 Prompt 都写得很好,整体仍可能互相矛盾。这不仅是 Security 问题,也是普通产品行为问题:Policy Text、Example、Tool Output 与 User Request 必须按照角色解释,否则就等于让模型只根据“谁说得更像命令”来决定治理关系。

01

先分配 Authority,再处理措辞冲突

在模型行动前先标记每个 Source 的 Ownership 与 Purpose。Application-owned Rule 定义不可违反的 Constraint,User Input 在这些 Constraint 内定义 Task,Retrieved Material 默认提供 Fact,除非应用明确提升其 Authority。出现冲突时,应在 Source Policy 层解决,而不是继续给文字加“必须”“绝对”等更强形容词。

02

示例:Retrieved Policy 试图覆盖审批边界

客服系统检索到一篇 VIP Refund Article,其中写着可以忽略较低退款上限;User 又要求立刻退款 300 美元。Flat Authority 会把两者都当成有说服力的 Instruction。Source-aware Model 则保留应用的 100 美元 Approval Boundary,把文章当 Eligibility Evidence,而不是绕过 Gate 的 Permission。

常见失败模式

  • 把所有 Prompt Text 都当成同 Authority 的 Instruction。
  • 允许 Retrieved Document 悄悄重定义 Application Policy。
  • 用更强烈措辞解决 Precedence Conflict,而不是定义 Source Rule。

工程启发

  • 为每个可能包含 Instruction 的 Source 定义明确 Role 与 Owner。
  • 默认把 Retrieved Content 当 Evidence,而不是 Executable Authority。
  • 先在 Policy 与 Architecture 层解决冲突,再优化 Prompt Wording。

关键结论

  1. 01Authority 取决于 Source Role,而不是语言强度。
  2. 02Context 可以包含 Instruction,但不代表它拥有系统行为控制权。
  3. 03清晰的 Precedence Model 同时降低普通行为冲突与 Prompt Injection 风险。

阅读记录

未打开Practice 尚未完成

这里只记录你真实做过的动作,不代表掌握、熟练或认证。

用于这些学习路径

这个 Concept 会在多个 canonical 学习路径中复用。

来自 Knowledge Graph 的相关知识点

这些关系直接来自 canonical graph,不维护第二套 Guide 分类体系。