核心 GUIDE

MENTAL_MODELADVANCED7 分钟阅读

SHIP / BLOCK / INCONCLUSIVE

Release Evaluation 应落到显式 Decision State:Evidence 通过 Required Gate 时为 SHIP;存在 Veto 或不可接受 Regression 时为 BLOCK;Evidence 太弱、无法安全判断时为 INCONCLUSIVE。

核心心智模型

这三个 State 把 Product Quality 与 Evidence Quality 分开。BLOCK 表示 Evidence 已足够证明存在问题;INCONCLUSIVE 表示系统既没有获得可发布的 Confidence,也没有足够证据证明必须拒绝。

为什么重要

团队常把所有 Evaluation 强行压成 Pass/Fail,结果要么因为 Noise 中的小幅优势而 Ship,要么因为 Weak Signal 误 Block。INCONCLUSIVE 允许系统继续收集 Data;显式 Veto 也能阻止 Aggregate Score 把 Safety、Cost 或关键 Slice Regression 平均掉。

01

通过 Gate 与 Sufficiency Check 综合 Evidence

在 Evaluation 前先定义 Quality Floor、Critical Veto 与 Evidence-sufficiency Criteria。先应用不可妥协的 Veto,再检查 Improvement/Regression 是否相对于 Uncertainty 足够大,最后才决定 SHIP 或 BLOCK。如果 Evidence Width、Sample Size 或 Judge Reliability 无法支撑 Conclusion,就返回 INCONCLUSIVE,并说明缺什么 Evidence。

02

示例:Average Score 上升,但 Safety Slice 崩溃

Model Update 的 Aggregate Score 提升 4 分,但 Safety-critical Refund Slice 跌破 Release Floor。正确结果是 BLOCK,而不是“带 Warning 的 SHIP”。另一轮中 Aggregate 只提升 1 分且 Sample 很小,没有 Veto,但 Evidence 太弱,因此结果应是 INCONCLUSIVE。

常见失败模式

  • 把所有 Evaluation 压缩成单一 Aggregate Pass Threshold。
  • 没有检测到 Regression,就当成 Shipping 安全的证明。
  • 把 INCONCLUSIVE 当成模糊退路,却不说明缺失 Evidence。

工程启发

  • 在看到 Candidate Result 前就定义 Veto。
  • 把 Evidence Sufficiency 与 Candidate Quality 分开。
  • 每个 INCONCLUSIVE 都明确下一步需要收集什么 Evidence。

关键结论

  1. 01SHIP、BLOCK 与 INCONCLUSIVE 是 Evidence State,不是情绪标签。
  2. 02Critical Veto 不应被 Aggregate Average 稀释。
  3. 03Insufficient Evidence 是合法结果,并应直接驱动下一次 Experiment。

阅读记录

未打开Practice 尚未完成

这里只记录你真实做过的动作,不代表掌握、熟练或认证。

用于这些学习路径

这个 Concept 会在多个 canonical 学习路径中复用。

来自 Knowledge Graph 的相关知识点

这些关系直接来自 canonical graph,不维护第二套 Guide 分类体系。