RAG

从一条带出处的回答理解#

用户问“未拆封商品能否退换”，系统先找到当前生效的规则，再据此回答并指向规则原文。RAG 的全称是 Retrieval-Augmented Generation（检索增强生成）：外部检索为生成提供信息，而不是要求模型只依靠训练时形成的参数回答。1

分清离线准备和在线回答#

资料准备： 清理文档、保留标题和版本、组织可检索单元、记录访问权限、建立索引。Embedding（向量表示）是一种检索手段，关键词检索或组合检索也可以参与应用流程。

回答请求： 接收问题 → 检索候选资料 → 按需要筛选或重排 → 将片段及来源交给模型 → 检查回答与引用。

这里描述的是常见应用流程，不等同于原论文的完整训练架构。一个资料片段最好能回到具体文件、章节与版本；只有一串没有来源的文本，后续很难排错。

跟着一个失败案例排查#

教学情境： 新规则允许特定商品退换，旧规则不允许。系统却引用旧规则作答。

1. 资料层： 新版本是否已进入资料库？旧版本是否标记失效？
2. 检索层： 新规则是否在候选结果中？查询条件是否错误地排除了它？
3. 输入层： 选中的片段有没有包含适用范围和例外条款？切块是否截断了关键限定？
4. 生成层： 正确片段已经进入输入时，模型是否仍误读了条件？
5. 引用层： 答案给出的来源是否确实支持该句话，而不只是与话题相关？

这样的拆分能帮助确定修改位置。仅看到“答案错了”，还不足以判断该换向量库、提示还是模型。

做一个最小评测#

准备一些真实问题，每题标记应使用的证据和允许的回答范围，再加入资料缺失、版本冲突和无权访问的情况。分别检查：相关证据是否被召回、回答是否忠于证据、引用是否匹配、没有依据时是否合理退出。2

下面只是教学记录示意，不是实测性能：

问题：未拆封商品能否退换？
应使用证据：规则 v2，第 3 节及其例外条款
实际召回：规则 v1
错误位置：资料或检索阶段
处理：修正版本管理后复测，再评估生成

不要把一个平均满意度分数当作全部依据；它可能掩盖检索失败、错误引用或越权访问等不同问题。阈值应根据业务风险、样本分布和人工复核能力决定。

什么时候先别搭 RAG#

资料很少、每次都需要整体阅读，可以先测试 长上下文。错误主要是输出格式不稳定，先看 结构化输出。需要改变稳定行为而不是提供新事实，再研究 微调。

检索到了资料也不代表资料可信。权限过滤应在信息暴露给模型前落实；把“请勿泄露”写进提示，不能代替访问控制。这是应用设计要求，不是 RAG 自动提供的保障。