RAG 构建

把文档知识注入 LLM 的标准做法：分块 → 向量化 → 索引 → 检索 → 生成 → 评估。目标是让模型"基于资料回答"，减少幻觉。

使用步骤

1. 明确需求与评估基线（先定"怎么算好用"）

• 是文档问答、客服、还是代码问答？
• 预先定义质量指标与一组评估问题（golden Q&A 集），作为后续回归基线。

2. 数据准备（可复用 data-cleaning 技能）

• 清洗、去重、保元数据。
• 分块（chunking）：按结构（标题/段落/表格）切块；块大小与 overlap 需针对任务调参（如 500~1500 tokens + overlap）。
• 块级别检索 vs 父子检索：给小块检索、大块生成，可提升精度与上下文质量。

3. 向量化与索引

• 选 embedding 模型（按语言、领域、预算权衡）。
• 存向量 + 元数据（来源、段落、页码），建倒排/混合索引。
• 考虑混合检索：语义（向量）+ 关键词（BM25）融合，显著提升召回。

4. 检索（Retrieval）

• 训练/调参 top-k，做重排（rerank）提升前排质量。
• 可用查询改写/多路检索提高命中。

5. 生成（Grounding）

• 只把检索到的相关块给模型，并标注来源。
• Prompt 强调"仅基于给定资料回答，未找到则明说"（见 prompt-engineering）。
• 让模型附引用/来源块编号，便于溯源与审核。

6. 评估与迭代（参考 llm-evaluation）

• 三阶段指标：检索质量（Recall@k、命中率）、生成质量（忠实度 faithfulness、答案相关性）、端到端可用性。
• 记录失败的 query，反查是分块、检索还是生成环节问题，迭代修复。

架构速查

文档 → 清洗/分块 → embedding → 向量库(+BM25)
用户问题 → 检索(top-k) → 重排 → 组织上下文 → LLM 作答(附来源)

自查清单

• 是否有 golden Q&A 作为回归基线。
• 分块/overlap 是否针对任务调过参。
• 是否用混合检索 + 重排。
• 生成 prompt 是否限定"仅基于资料"。
• 是否跟踪检索与生成两阶段指标并反问迭代。

参考关联

• 数据准备见 data-cleaning；质量评估见 llm-evaluation；提示词见 prompt-engineering。