核心 GUIDE

RISKFOUNDATION7 分钟阅读

Instruction Conflict(指令冲突)

Instruction Conflict 指多个看起来都合理的 Source 要求系统采取彼此不兼容的行为。可靠系统需要显式识别冲突,而不是让模型临场“折中”。

核心心智模型

Conflict 不只是“文字有点乱”,而是两个 Instruction 在同一 State 下无法同时满足的 Decision Point,因此系统必须依靠 Precedence、Clarification 或 Safe Refusal 来处理。

为什么重要

多 Source AI Application 同时组合 System Rule、Developer Workflow、User、Retrieved Policy 与 Tool Feedback,因此 Conflict 是常态而不是例外。如果系统没有把它建模成 First-class State,模型可能只选择当前最显眼的措辞,导致行为不一致,也难以 Debug 与 Audit。

01

检测、分类并解决 Conflict

先定义哪些 Source 有资格发出 Instruction,再检查它们要求的 Action 是否能够同时满足。可以把冲突分类为 Authority Conflict、Policy Ambiguity、Stale State 或 User-goal Tension。不同类型分别使用 Precedence、Clarification、Evidence Refresh、Refusal 或 Escalation,而不是统一交给模型猜。

02

示例:User Goal 与 Compliance Rule 分叉

User 希望为了加快客服处理,把完整 Customer Record 发给合作方。用户目标本身合理,但 Application Policy 禁止导出敏感字段。系统应识别两者不可同时满足,保留用户真正想解决的问题,并提供允许的 Workflow,而不是各执行一半。

常见失败模式

  • 用“Use Best Judgment”掩盖真实 Conflict。
  • 把所有 Conflict 都当成 Security Attack,忽略普通 Policy Ambiguity。
  • 只解决当前 Turn,却不记录底层冲突 Rule 或 Stale State。

工程启发

  • 在 Trace 或 Structured State 中让 Conflict Detection 可观察。
  • 根据 Conflict Type 选择 Resolver,而不是使用一个通用 Prompt。
  • 拒绝冲突 Action 时尽量保留 User 的真实目标并提供可行路径。

关键结论

  1. 01多 Source System 中 Instruction Conflict 是正常现象。
  2. 02Conflict 应触发显式 Resolver,而不是模型即兴决定。
  3. 03好的解决方式会把 User Goal 与不安全或不可执行的 Requested Action 分开。

阅读记录

未打开Practice 尚未完成

这里只记录你真实做过的动作,不代表掌握、熟练或认证。

用于这些学习路径

这个 Concept 会在多个 canonical 学习路径中复用。

来自 Knowledge Graph 的相关知识点

这些关系直接来自 canonical graph,不维护第二套 Guide 分类体系。