简介:本文对比朴素、进阶与模块化三类检索增强生成方案,说明它们在索引、检索、生成与流程控制上的共同点与关键差异,并给出场景化选型、迁移风险与使用边界,帮助架构师与开发者按知识时效、答案可追溯性和工程复杂度做出条件化判断。
对比背景
检索增强生成(Retrieval-augmented Generation,简称 RAG)把语言模型的文本生成能力与外部信息检索结合起来。当系统需要回答问题或生成有依据的文本时,先从文档集合中找出相关片段,再把这些片段作为生成依据,从而降低仅依赖参数记忆时常见的事实偏差,并让答案能够跟随知识库更新。
业界通常把演进路径概括为三类:朴素方案、进阶方案与模块化方案。2020 年前后,面向知识密集型自然语言处理任务的研究系统说明了“先检索、再生成”的基本思路;随后工程实践逐步补上索引质量、检索前后处理和流程编排。本文对比的就是这三类通用架构范式,而不是某一厂商的具体产品。选型时要回答的问题是:知识库规模、答案可追溯要求、延迟预算和团队工程能力,分别更适合哪一种流程。
对象定义
朴素方案遵循索引、检索、生成的顺序,也常被称作“检索后阅读”。文档被切分、向量化并写入检索索引;提问时做一次相似度检索,把命中片段直接交给生成模型组织答案。边界清晰,适合作为基线。
进阶方案仍以这一主链路为核心,但把质量改进前移到检索之前、后移到检索之后。索引阶段常用滑动窗口、更细的分段以及元数据,减少“切得太碎丢上下文”或“切得太长噪声过多”。检索前可做查询改写、同义扩展;检索后可做去重、重排序和上下文压缩,再进入生成。它解决的是“检索到了,但不一定是最有用的那几段”。
模块化方案把索引、查询理解、检索、重排、过滤、生成、校验等做成可替换模块,流程不必是一次直线检索。可以迭代检索:根据中间答案发现缺口再查一次;也可以按问题类型自适应选择检索深度或是否检索。它解决的是复杂问题、多跳事实和策略可配置,代价是状态管理和调试成本上升。
相同点
三类方案的目标一致:用外部文档约束生成,而不是让模型只凭参数“回忆”。它们都依赖文档集合、切分策略、检索索引和生成模型,都存在召回不足、噪声片段干扰、上下文长度有限这三项基本矛盾。安全上也都要考虑知识库权限、引用范围和敏感内容过滤,否则检索会把不该看见的段落送进提示。成本结构都包含索引存储、检索计算、生成调用和人工维护文档质量,不能只看模型单价。
核心差异
架构上,朴素方案是单次管道:索引边界固定,一次检索,一次生成。进阶方案在同一管道上增加前处理与后处理,系统边界仍相对清楚。模块化方案的系统边界变成编排图,模块可替换,也可能出现循环,故障点从“检索失败”扩展到“循环未收敛、模块版本不兼容”。
功能上,朴素方案覆盖单轮、事实相对集中的问答。进阶方案覆盖查询质量差、文档冗长、候选很多的场景,用重排和压缩提高进入生成器的信息密度。模块化方案覆盖需要多步证据、不同问题走不同策略、或要把校验结果反馈给检索的场景。
接入上,朴素方案改造量小,主要是切分、嵌入、检索接口和提示模板。进阶方案要增加查询改写、元数据字段、重排器和过滤规则,联调面变大。模块化方案还要定义模块接口、迭代停止条件和回退路径,开发与测试用例都更多。
性能上,不应假设后一种一定更快或更准。朴素方案延迟最可预期,通常是一次检索加一次生成。进阶方案多了重排或压缩,延迟上升,但往往减少无效上下文,生成更稳。模块化方案在迭代次数可控时能提高复杂问题的证据完整度;若缺少轮次上限,延迟和费用都会放大。弹性方面,三者都可以把检索与生成分开扩容,但模块化编排本身也可能成为瓶颈。
运维上,朴素方案要监控索引新鲜度、空召回和引用是否真正来自命中片段。进阶方案还要监控改写是否偏离原意、重排是否把正确片段挤出窗口。模块化方案要能按模块看日志:哪一次检索、哪一条过滤规则、为什么提前停止。版本升级时,嵌入模型、切分方式和重排器任一变化,都可能使旧索引不可比,需要重建或双索引过渡。
对比表
| 维度 | 朴素方案 | 进阶方案 | 模块化方案 |
|---|---|---|---|
| 主流程 | 索引-检索-生成,单次 | 同主流程,加检索前与检索后策略 | 模块可替换,可迭代、可自适应 |
| 索引 | 基础切分与向量索引 | 滑动窗口、细粒度分段、元数据 | 索引也可作为可替换模块,按场景切换 |
| 检索质量手段 | 主要靠相似度 | 查询改写、重排、去重、压缩 | 多轮检索、按需检索、策略路由 |
| 延迟可预期性 | 高 | 中 | 取决于轮次与模块组合 |
| 工程复杂度 | 低 | 中 | 高 |
| 适合问题 | 单点事实、文档结构简单 | 查询表达差、候选噪声大 | 多跳、策略差异大、要强校验 |
| 主要风险 | 切分不当、一次召回不够 | 改写跑偏、重排过拟合规则 | 循环、状态难查、成本失控 |
示意流程(通用伪代码,不对应任何专有接口):
朴素:chunks = split(docs); index(chunks); hits = search(query, k); answer = generate(query, hits)
进阶:q2 = rewrite(query); hits = search(q2, k); hits = rerank_and_compress(hits); answer = generate(query, hits)
模块化:state = init(query); while not stop(state): state = run_module(route(state), state); answer = state.answer
典型场景
内部制度、产品说明等单文档事实查询,文档更新不频繁、问题大多能在一个段落内回答:朴素方案通常足够,先把切分重叠和引用展示做对,比过早上复杂编排更有收益。
用户问法口语化、同义说法多,或制度文档很长、表格和附件混杂:进阶方案更合适。滑动窗口和细粒度分段缓解边界切断;元数据可按部门、生效日期过滤;检索后再重排,避免把弱相关长文整段塞进上下文。
跨多份制度的“先查定义、再查例外、再核对日期”类问题,或要按问题类型决定“不检索、浅检索、多轮检索”:模块化方案更有空间。例如第一轮只取定义,校验发现缺例外条款再发起第二次检索。前提是每轮有明确停止条件,例如证据覆盖检查通过、达到最大轮次或置信不足则拒答。
选型建议
若团队刚建立知识库,评测集还不稳定,优先朴素方案作为基线,用同一批问题记录召回片段和最终答案,避免一开始就无法判断是检索差还是编排差。
若基线的主要错误是“相关段落排不进前若干条”或“上下文被无关句子占满”,优先升级到进阶方案,而不是直接上多轮。查询改写、元数据过滤、重排和压缩,通常比增加检索轮次更可解释。
若单轮即使重排后仍系统性缺证据,且问题可分解,再考虑模块化。采用条件是:能限制最大轮次、能记录每轮查询与命中、失败时可退回单轮答案或明确拒答。团队运维能力有限时,不建议同时引入过多可替换模块。
没有绝对更优的范式。高并发、延迟敏感的在线问答更应控制检索次数和上下文长度;强审计场景更应保留引用片段与过滤原因;知识更新频繁时,三类方案都要先保证增量索引和权限变更及时生效。
迁移与使用注意
从朴素迁到进阶,重点是切分与元数据兼容。改变窗口或分段后,旧向量往往不能与新向量混用,应重建索引或并行双写,用同一评测集比较引用命中率,而不是只看主观样例。查询改写要保留原问,避免改写丢失限定词(时间、地域、主体)。重排规则上线前用离线样本检查是否稳定把正确片段提前。
从进阶迁到模块化,重点是状态、权限与成本。每一轮检索都必须沿用同一身份与文档可见范围,不能因为二次查询绕过过滤。循环要有超时、轮次上限和重复查询检测。日志至少包含路由决策、查询文本、文档标识、过滤原因和生成是否引用了未授权片段。接口上保持“输入问题、输出答案与引用”的稳定契约,把内部模块变化限制在服务边界内,降低调用方改造量。
回滚时要能切回单次检索,而不是只能整套下线。容量规划要按峰值轮次而不是平均轮次估算检索与生成调用。安全上,提示中只放入已授权片段,生成结果与引用做一致性检查,发现引用之外的关键事实应降级为拒答或人工复核。
使用边界
文档本身错误、过期或互相矛盾时,更复杂的检索不会自动产生正确答案,最多更完整地暴露冲突。极短、无结构、且无权限差异的小语料,模块化编排的收益往往覆盖不了复杂度。需要强实时计算或精确数值推导的任务,不能只靠段落检索代替专用计算。嵌入与生成的语言、领域不匹配时,应先修正表示与评测,再增加流程模块。
总结
三类方案共享“外部知识约束生成”这一目标。朴素方案强调可预期的单次检索阅读;进阶方案用检索前后策略和更细的索引提高一次检索的有效性;模块化方案用可替换模块和迭代、自适应检索应对复杂与多变的问题,同时带来编排、延迟和审计成本。决策顺序宜为:先用朴素方案建立可评测基线,用证据定位是切分、查询、排序还是多跳缺口,再按缺口选择进阶或模块化,并为轮次、权限、索引重建和回退保留工程约束。