核心 GUIDE
SHIP / BLOCK / INCONCLUSIVE
Release Evaluation 应落到显式 Decision State:Evidence 通过 Required Gate 时为 SHIP;存在 Veto 或不可接受 Regression 时为 BLOCK;Evidence 太弱、无法安全判断时为 INCONCLUSIVE。
核心心智模型
这三个 State 把 Product Quality 与 Evidence Quality 分开。BLOCK 表示 Evidence 已足够证明存在问题;INCONCLUSIVE 表示系统既没有获得可发布的 Confidence,也没有足够证据证明必须拒绝。
为什么重要
团队常把所有 Evaluation 强行压成 Pass/Fail,结果要么因为 Noise 中的小幅优势而 Ship,要么因为 Weak Signal 误 Block。INCONCLUSIVE 允许系统继续收集 Data;显式 Veto 也能阻止 Aggregate Score 把 Safety、Cost 或关键 Slice Regression 平均掉。
01
通过 Gate 与 Sufficiency Check 综合 Evidence
在 Evaluation 前先定义 Quality Floor、Critical Veto 与 Evidence-sufficiency Criteria。先应用不可妥协的 Veto,再检查 Improvement/Regression 是否相对于 Uncertainty 足够大,最后才决定 SHIP 或 BLOCK。如果 Evidence Width、Sample Size 或 Judge Reliability 无法支撑 Conclusion,就返回 INCONCLUSIVE,并说明缺什么 Evidence。
02
示例:Average Score 上升,但 Safety Slice 崩溃
Model Update 的 Aggregate Score 提升 4 分,但 Safety-critical Refund Slice 跌破 Release Floor。正确结果是 BLOCK,而不是“带 Warning 的 SHIP”。另一轮中 Aggregate 只提升 1 分且 Sample 很小,没有 Veto,但 Evidence 太弱,因此结果应是 INCONCLUSIVE。
常见失败模式
- 把所有 Evaluation 压缩成单一 Aggregate Pass Threshold。
- 没有检测到 Regression,就当成 Shipping 安全的证明。
- 把 INCONCLUSIVE 当成模糊退路,却不说明缺失 Evidence。
工程启发
- 在看到 Candidate Result 前就定义 Veto。
- 把 Evidence Sufficiency 与 Candidate Quality 分开。
- 每个 INCONCLUSIVE 都明确下一步需要收集什么 Evidence。
关键结论
- 01SHIP、BLOCK 与 INCONCLUSIVE 是 Evidence State,不是情绪标签。
- 02Critical Veto 不应被 Aggregate Average 稀释。
- 03Insufficient Evidence 是合法结果,并应直接驱动下一次 Experiment。
阅读记录
这里只记录你真实做过的动作,不代表掌握、熟练或认证。
用于这些学习路径
这个 Concept 会在多个 canonical 学习路径中复用。
来自 Knowledge Graph 的相关知识点
这些关系直接来自 canonical graph,不维护第二套 Guide 分类体系。