RAG是什么？核心架构、关键方案与工程实践详解

rag-">一、概念定义：RAG 是什么

RAG，全称为 Retrieval-Augmented Generation，即检索增强生成。它是一种将信息检索系统与大语言模型生成能力相结合的架构模式。其核心思想是：在大语言模型生成答案之前，先从一个外部知识库中检索出与当前问题最相关的文档片段、结构化数据或其他知识素材，再将这些素材作为上下文输入给大语言模型，由模型基于这些素材生成更准确、更新鲜、更可追溯的回答。

从技术视角看，RAG 解决的是大语言模型“知识固化”与“知识时效性”问题。大语言模型在训练完成后，其参数中固化的知识通常停留在训练数据截止的时间点，对于训练之后发生的事件、企业内部私有知识、垂直领域专业内容，模型往往无法回答，或容易产生“幻觉”。RAG 通过在推理阶段动态接入外部知识源，使模型具备了“边检索、边生成”的能力。

从业务视角看，RAG 可以理解为一种“给模型开卷考试”的机制。模型不再只依赖记忆作答，而是可以查阅给定资料后作答。这种方式既降低了模型胡说八道的概率，又让答案具备可解释性——因为答案所依据的检索片段可以被展示给用户。

从使用视角看，RAG 通常表现为一个问答系统：用户提问，系统先从文档库中检索相关内容，再将问题和检索结果一起交给大模型，最终返回带有引用来源的回答。

二、背景与价值：为什么需要 RAG

RAG 的出现并非偶然，它回应了大语言模型在实际落地中的几个核心痛点。

第一，知识时效性不足。大型语言模型的训练周期长、成本高，无法做到实时更新。当用户询问最新政策、产品版本、行业动态时，模型仅凭参数记忆往往会给出过时信息。RAG 通过连接实时更新的外部知识库，使系统能够回答与当下相关的问题。

第二，专业领域知识覆盖有限。通用大模型对法律、医疗、金融、制造等垂直行业的深度知识掌握不足，而企业往往需要模型基于内部制度、产品手册、技术文档、历史工单等内容进行回答。RAG 允许将这些私域知识索引化，并在问答时动态提供给模型。

第三，幻觉问题难以根除。大模型的生成机制决定了它在缺乏足够上下文时，可能编造看似合理但实际错误的内容。RAG 通过约束模型的生成依据，减少模型自由发挥的空间，从而降低幻觉发生概率。

第四，可解释性与合规要求。在许多企业场景中，用户不仅需要答案，还需要知道答案来自哪里。RAG 天然的“引用—生成”链路使得答案可以追溯至具体文档片段，满足审计与合规需求。

第五，避免频繁微调模型。如果每次知识更新都要重新微调大模型，成本极高且周期长。RAG 只需要更新外部知识库和索引，无需改变模型参数，即可让模型获取最新知识。

三、核心组成：RAG 系统有哪些关键部分

一个完整的 RAG 系统通常由离线索引链路和在线检索生成链路两部分组成。

3.1 离线索引链路

离线链路负责将原始知识材料处理为可检索的索引。其主要步骤包括：

文档加载与解析：从多种来源读取文档，如 PDF、HTML、Word、Markdown、数据库记录等，提取文本内容。

文本分块：将长文档切分为适合检索和模型上下文窗口的文本块。分块策略直接影响检索粒度。分块过大可能导致检索结果不够精确，分块过小又可能丢失完整语义。

向量化与索引构建：使用嵌入模型将每个文本块转换为稠密向量，并将向量写入向量数据库或支持相似度检索的存储中。同时，有些系统还会构建倒排索引以支持关键词检索，或构建知识图谱以支持结构化查询。

元数据保存：除了向量本身，还需保存文本块的来源、位置、标题、更新时间等元数据，便于过滤和引用。

3.2 在线检索生成链路

在线链路在用户提问时实时执行，主要包含：

查询理解与改写：对用户原始问题进行意图识别、实体抽取、查询扩展或改写，使其更适合后续检索。例如用户问“上月产品有什么变动”，系统可能需要先确定“上月”的具体时间和“产品”的具体范围。

多路检索与融合：将查询同时发送给向量检索、关键词检索、结构化查询等多个检索通道，并对各路结果进行融合排序，得到最相关的文本块集合。

重排序：对初检结果进行精细排序，筛选出与问题最匹配的片段，控制最终输入给模型的上下文长度。

上下文构建与生成：将问题与检索到的片段按一定模板组织成提示词，输入大语言模型，由模型生成最终回答。该回答通常会标注引用来源。

四、工作原理：RAG 是如何运行的

RAG 的运行可以抽象为“检索—增强—生成”三个阶段的循环。

在检索阶段，系统将用户问题编码为向量，在向量空间中找到语义最接近的文档片段。同时，也可能进行关键词精确匹配和结构化查询。这一阶段的目标是快速从海量知识中筛选出候选相关内容。

在增强阶段，系统对候选内容进行处理和组装。它可能会截断过长片段、去除噪声、根据元数据进行过滤、将多个片段合并为连贯上下文。增强阶段的质量直接影响模型生成答案的效果。

在生成阶段，大语言模型接收增强后的上下文和原始问题，基于这些信息生成自然语言回答。由于模型被限定在给定上下文中作答，其输出往往更加准确、具体，并能引用上下文中的细节。

用一段伪代码可以更直观地展示这一过程：

用户问题 = "公司年假政策是什么？"
# 1. 检索
查询向量 = 嵌入模型(用户问题)
候选片段 = 向量数据库.top_k查询(查询向量, k=10)
# 2. 增强
过滤片段 = 按权限和时效过滤(候选片段)
重排片段 = 重排序模型(用户问题, 过滤片段)
上下文 = 拼接(重排片段, 截断策略)
# 3. 生成
提示词 = "基于以下资料回答问题：\n" + 上下文 + "\n问题：" + 用户问题
回答 = 大语言模型(提示词)
返回 回答

这个流程说明了 RAG 并不是简单地“搜索一下再喂给模型”，而是需要在检索质量、上下文组织和生成控制多个环节进行精密设计。

五、16 种 RAG 方案梳理与分类

RAG 并不是一个固定不变的单一方案。随着技术演进，社区和产业界提出了多种增强策略，可以归纳为以下几个方面，共 16 种典型方案。

5.1 基础检索增强类

1. 朴素向量检索 RAG
将文档分块后向量化，查询时做相似度检索，把最相似的若干片段直接拼接给模型。实现简单，但对复杂问题的理解能力有限。

2. 混合检索 RAG
同时使用向量检索和关键词检索，如稀疏向量与稠密向量结合。向量检索擅长语义模糊匹配，关键词检索擅长精确命中专业术语、编号、人名等。两者融合可显著提升召回率。

3. 递归检索 RAG
先对文档进行粗粒度检索，定位到相关章节或段落，再在该范围内进行细粒度检索。适用于长文档场景，避免直接在大量细碎片段中检索造成的信息迷失。

4. 父子文档检索 RAG
将文档分为父子两级，检索时先命中子片段，再返回其所属的父级段落或完整章节。这样既保留检索精度，又能提供足够完整的上下文。

5.2 查询优化类

5. 查询改写 RAG
在检索前对用户问题进行改写，将口语化表达转换为更规范、更利于检索的形式。例如将“怎么弄那个报销”改写为“报销流程是什么”。

6. 多查询扩展 RAG
针对一个用户问题，生成多个不同角度或不同表述的查询，分别检索后合并结果。可以提升对复杂问题的覆盖度。

7. 子问题拆分 RAG
将复杂问题拆解为多个原子子问题，逐个子问题进行检索和回答，最后汇总为完整答案。适合多条件比较、多步骤推理类问题。

8. 查询路由 RAG
根据问题类型，将查询路由到不同的检索器或知识库。例如合同类问题走合同知识库，技术文档类问题走产品文档库。

5.3 检索结果优化类

9. 重排序增强 RAG
在初检结果基础上引入重排序模型，对候选片段进行精细排序，优先将最相关的内容放入上下文窗口。重排序能显著提升最终答案质量。

10. 上下文压缩 RAG
检索到的片段可能包含大量无关信息，通过摘要或压缩技术提炼关键内容，减少噪声，提升模型对核心信息的关注度。

11. 引用归因增强 RAG
在生成回答时强制模型标明每个结论对应的来源片段，若无法从上下文中找到依据则明确表示“未找到相关信息”，从而增强可信度。

5.4 知识组织与结构化增强类

12. 知识图谱增强 RAG
在向量检索之外，引入知识图谱作为结构化知识源。对于实体关系明确的问题，可以直接从图谱中查询结构化答案，再与文本检索结果融合。这种方式特别适合多跳推理与关系型问答。

13. 表格与半结构化数据 RAG
针对数据库表、统计报表等结构化或半结构化数据，使用专门的解析与检索方式，使模型能回答涉及数值、对比、聚合类的精确查询。

14. 多知识库融合 RAG
将不同来源、不同格式、不同权限要求的知识库统一接入，在检索时根据查询类型和用户权限动态选择。适合大型组织多业务线场景。

5.5 智能体与高级架构类

15. 智能体驱动的 RAG
将 RAG 流程封装为智能体可调用的工具，由智能体根据任务状态自主决定何时检索、检索什么、如何利用检索结果。智能体可进行多轮检索、迭代验证和动态调整，处理更开放的任务。

16. 反思式与迭代式 RAG
模型在生成初步答案后，对答案进行自我评估，识别信息不足或不确定的部分，再次发起针对性检索，迭代完善答案。这种方式以检索和生成的多次交替来提升最终结果的可信度。

以上 16 种方案并非互斥，实际系统往往组合使用。例如一个企业知识问答系统，可能同时采用混合检索、查询改写、重排序、父子文档和引用归因等多种技术。

六、典型应用场景

RAG 的应用场景非常广泛，凡是有“基于私有知识或实时知识进行问答”需求的场景，都可以考虑引入 RAG。

企业知识库问答：基于内部制度、流程、产品手册、技术文档等构建问答助手，帮助员工快速获取信息，减少跨部门咨询成本。

智能客服与工单系统：将历史工单、产品说明、售后政策等知识索引化，辅助客服人员或直接面向用户提供答案，提升响应速度和一致性。

法律与合规咨询：基于法律法规库、合同条款库、内部合规制度，提供有据可查的咨询回答，降低合规风险。

医疗辅助信息查询：基于医学文献、诊疗指南、药品说明等知识，为专业人士提供参考资料，辅助决策，但不替代专业判断。

开发者技术支持：基于技术文档、API 参考、故障排查手册等构建开发助手，帮助开发者快速定位问题并给出示例代码。

教育与学习辅助：基于教材、课程资料、学术论文等构建学习助手，回答学生关于知识点的问题并给出出处。

七、与相关概念的区别

理解 RAG，还需要将它与其他几个容易混淆的概念区分开。

RAG 与微调：微调通过继续训练模型参数来让模型学习特定领域知识，改变的是模型本身；RAG 不改变模型参数，只在推理时注入外部知识。微调适合让模型掌握某种风格、格式或隐含模式，RAG 更适合处理快速变化、可明确检索的事实性知识。两者可以结合使用。

RAG 与长上下文窗口：部分大模型支持超长上下文，可以把整本书放进上下文。但上下文窗口再长也有上限，且长上下文会导致推理成本上升、注意力分散。RAG 先检索再输入，只取相关信息，效率更高，知识更新也更灵活。

RAG 与搜索引擎：搜索引擎返回的是相关链接或摘要，用户需要自己阅读判断；RAG 则是在检索基础上由模型直接生成整合后的答案，并附带引用。RAG 可以理解为一个更高级的“搜索后直接作答”系统。

RAG 与智能体：RAG 是一种知识注入机制，智能体则是一种能够根据目标自主规划、调用工具、执行任务的系统。智能体可以调用 RAG 作为其工具之一，RAG 也可以被智能体驱动进行多轮复杂检索。

八、使用注意事项与工程实践建议

在实际落地 RAG 系统时，有几个关键点需要重点关注。

知识库质量决定上限。如果原始文档本身存在错误、过时、格式混乱等问题，RAG 的输出质量必然受限。应建立知识库更新和维护机制，确保内容准确性和时效性。

分块策略需要结合业务场景。不同文档类型适合不同的分块方式。例如合同条款可能按条款序号分块，技术文档可能按标题层级分块，FAQ 可能每条独立成块。分块策略需要实验调优。

检索质量优先于生成质量。RAG 系统的薄弱环节往往在检索端。如果检索不到正确片段，再强的生成模型也无法给出准确答案。应投入足够精力在查询改写、混合检索、重排序等环节。

上下文窗口管理至关重要。检索结果过多会超出模型上下文限制或稀释关键信息，过少则可能遗漏答案依据。需要设计合理的截断、压缩和排序策略，在信息完整性与上下文长度之间取得平衡。

权限与安全控制不可忽视。企业知识往往存在权限分级，不同用户可访问的知识范围不同。RAG 系统需在检索阶段就进行权限过滤，避免越权访问或敏感信息泄露。

评估体系需要前置设计。RAG 系统的质量评估较为复杂，需要同时评估检索的召回率、准确率以及最终答案的忠实度、相关性和可读性。建议在系统建设初期就建立评估数据集和自动化评估流程。

成本与延迟需要权衡。多路检索、重排序、多轮迭代等策略虽然能提升质量，但会增加计算成本和响应延迟。在在线服务场景中，需要根据业务对实时性的要求进行合理取舍。

监控与持续优化。RAG 系统上线后，应记录用户问题、检索命中和失败案例，持续分析哪些问题被答错、哪些检索结果被忽略，以此来驱动检索策略、分块方式和知识库内容的迭代优化。

九、总结

RAG 是一种将检索系统与大语言模型生成能力相结合的架构模式，核心在于“先检索、后生成”。它通过动态接入外部知识，弥补了大模型在知识时效性、专业领域覆盖和可解释性方面的不足，已成为企业级 AI 应用中最常见的技术范式之一。

RAG 并不是一个单一的固定方案，而是一个包含查询优化、多路检索、结果重排、上下文构建、结构化知识增强、智能体驱动等多层次策略的技术体系。不同场景需要组合不同的方案。理解 RAG 的关键，不仅是记住“检索增强生成”这六个字，还要理解它由哪些模块构成、各模块如何协作、不同方案解决什么问题、在工程落地时有哪些约束。

对于开发者而言，掌握 RAG 的本质和典型方案，能够在技术选型时做出更合适的判断，在系统设计时把握关键环节，也能在技术交流中清晰、深入地解释这一概念。