核心 GUIDE

SYSTEM_COMPONENTINTERMEDIATE7 分钟阅读

Retrieval 是 Pipeline,不是一次 Search Call

可靠 RAG 会分离 Candidate Generation、Filtering、Reranking、Context Assembly 与 Provenance,让每一种 Failure 都可测量、可修复。

核心心智模型

Retrieval Pipeline 是一串 Evidence-selection Stage:Broad Recall 找 Candidate,Filter 执行 Scope,Reranking 改善 Precision,Context Assembly 在 Budget 下选择最终 Evidence。

为什么重要

RAG Answer 出错时,团队很容易直接怪 Embedding 或 Model,却不知道 Evidence 在哪个 Stage 丢了。Staged Pipeline 让 Retrieval Failure 可归因,也允许 Lexical、Dense、Metadata、Authority 与 Recency 分别在最擅长的位置发挥作用,而不是要求一个 Similarity Score 解决全部问题。

01

让每个 Selection Stage 都 Observable

先做 Query Understanding 与 Candidate Generation,可以组合多种 Retrieval Method。能提前做的 Permission / Metadata Hard Filter 尽量在 Expensive Ranking 前完成。再对 Bounded Candidate Set 使用更丰富 Signal Rerank,最后根据 Relevance、Authority、Diversity 与 Token Budget Assemble Context。记录 Candidate 与 Selection Decision,让 Offline Retrieval Metric 能定位哪个 Stage 丢掉了需要的 Evidence。

02

例子:包含 Error Code 的 Support Question

Query 同时包含 Exact Error Code 与 Natural-language Symptom。Sparse Retrieval 找到 Identifier,Dense Retrieval 找到语义相关 Troubleshooting,Account Metadata 排除错误 Product Version,Reranking 再把 Current Runbook 提到前面。Context Assembly 最终保留 Controlling Step 与 Source Metadata,而不是把所有 Candidate 全塞进 Prompt。

常见失败模式

  • 把 Vector Top-k 当成完整 RAG Architecture。
  • 直到 Generation 之后才做 Metadata 或 Permission Check。
  • 只评价 Final Answer Quality,完全看不到 Retrieval Recall。

工程启发

  • 先测 Candidate Recall,再调 Reranking 或 Prompt。
  • 按 Stage 记录 Filtering 与 Ranking Decision。
  • 在 Authority 与 Task Coverage 不丢失的前提下,组装最小 Evidence Set。

关键结论

  1. 01Retrieval Quality 由一系列 Selection Decision 共同产生。
  2. 02不同 Retrieval Signal 解决不同 Failure Mode。
  3. 03Stage-level Metric 让 RAG Failure 可诊断。

来自 Knowledge Graph 的相关知识点

这些关系直接来自 canonical graph,不维护第二套 Guide 分类体系。