核心 GUIDE
Evidence Granularity（证据粒度）
RAG Quality 很大程度取决于 Evidence Granularity：既要保留足够语义，又要足够 Selective，才能让 Ranking 与 Context Budget 工作。Chunk Size 因此是工程 Decision，而不是 Magic Constant。
核心心智模型
Granularity 定义 Retrieval 能够选择与排序的 Evidence Unit。太粗会让无关内容和有效证据一起进入 Context；太细则会把 Meaning、Reference 或 Constraint 切碎，使单个 Unit 不再完整。
为什么重要
团队常常调 Top-k 与 Reranker，却把 Chunking 当成默认参数。但 Retrieval 只能对输入的 Unit 做 Ranking。Granularity 会影响 Recall、Precision、Context Cost 与 Citation 精度，因此必须结合真实 Query 与 Document Structure 测试，而不是复制模板默认值。
01
围绕 Semantic Boundary 与 Retrieval Task 选择 Unit
先从 Document Structure 出发：Heading、Paragraph、Table、Policy 或 Record。构建能够独立回答典型 Query、又不会携带大量无关内容的 Candidate Unit；只有在跨 Boundary 信息经常丢失时才增加 Overlap。评估应覆盖 Missed Evidence、Noisy Context 与 Citation Accuracy，而不是孤立优化 Chunk Size。
02
示例：整个 Policy Chapter 被做成一个 Retrieval Chunk
Compliance Manual 把每一整章存成单个 Chunk。查询某个 Refund Exception 时虽然能命中章节，却带入几千个无关 Token，真正相关 Clause 被淹没。按 Policy Section 切分后 Precision 提升，再用有限 Overlap 保留跨节 Definition，而无需检索整个章节。
常见失败模式
- 所有 Document Type 使用同一个 Global Chunk Size。
- Chunk 太小，导致 Qualifier 与 Reference 失去语义。
- Chunk 太大，使 Top-k Retrieval 退化成 Context Dumping。
工程启发
- 让 Chunk Boundary 对齐用户真实查询的 Semantic Unit。
- 同时用 Recall、Noise 与 Citation Precision 评估 Granularity。
- Overlap 用于修复 Boundary Loss，而不是替代更好的 Segmentation。
关键结论
- 01Retrieval 只能 Ranking 它收到的 Evidence Unit。
- 02Granularity 本质上是在 Semantic Completeness 与 Selectivity 间取舍。
- 03Chunking 应从真实 Failure 评估，而不是继承一个 Magic Number。
阅读记录
这里只记录你真实做过的动作，不代表掌握、熟练或认证。
用于这些学习路径
这个 Concept 会在多个 canonical 学习路径中复用。
来自 Knowledge Graph 的相关知识点
这些关系直接来自 canonical graph，不维护第二套 Guide 分类体系。