简介:本文对比朴素检索增强、检索前后优化、模块化编排、图谱增强与智能体驱动等主流RAG路线,说明它们的共同点、架构差异、适用边界和迁移风险,帮助开发者按数据形态、时延、可解释性与运维能力做条件化选型。
本文对比的是检索增强生成(Retrieval-Augmented Generation)在工程落地中的多类实现路线,而不是某一家产品。原始讨论常把方案从朴素检索增强一路讲到智能体驱动检索,容易让人误以为“越新越该上”。实际选型要看语料结构、问题复杂度、时延预算和团队运维能力。下面按业界普遍认可的技术族,把常见方案归为可比较的十六类能力,并说明相同点、差异、场景与切换注意事项。
大模型参数里的知识会过时,也难以覆盖企业内部文档。检索增强的基本想法是:先从外部知识中取出与问题相关的材料,再让生成模型依据这些材料作答,从而降低凭空编造、便于更新知识。面试或方案评审里只说“检索增强生成”六个字不够,因为不同路线在切分、检索、重排、生成约束和是否允许多轮工具调用上差别很大。
需要比较的原因有三点。第一,错误主要来自“没检索到”还是“检索到了但没用好”,对应的改造点完全不同。第二,图谱、多跳和智能体路线会增加延迟与失败面,并非默认更优。第三,从演示系统迁到生产时,权限、引用、评测和回滚往往比算法名称更决定成败。
下列名称是能力类别,不是具体产品或接口。实现时可自建,也可使用通用的向量检索、关键词检索、重排、对象存储、消息队列与监控告警等能力,不绑定某一实现栈。
这些方案共享同一目标:把“可更新、可引用的外部知识”接到生成过程上,而不是只靠模型记忆。它们通常都包含知识入库、查询理解、候选召回、上下文组装、生成和可选的引用展示。安全上也都要考虑:谁能看到哪份文档、检索结果是否按身份过滤、日志里是否泄露敏感片段、答案是否标注依据。
它们都不能自动保证正确。召回为空、切块切断表格、权限过滤过严、生成忽略证据,都会失败。因此评测集、坏例回放和人工抽检是共同必备项,而不是某一类方案的附属功能。
架构上,朴素路线是单次“检索—生成”;迭代、多跳和智能体路线是带状态的循环。系统边界也不同:前者主要依赖检索引擎和生成服务;后者还要任务状态、步数上限、超时和降级策略。
功能覆盖上,混合检索与重排主要提高“找得准”;压缩与校验主要提高“用得省、说得住”;图谱和多跳主要提高“跨文档关系”;自适应路由主要提高“成本与效果的平衡”;智能体路线主要提高“开放问题的应变”,同时放大失控风险。
接入改造量:若已有文档库,朴素方案往往只增加切分与检索接口。查询改写、重排和压缩是在同一链路上加步骤。图谱和结构化查询通常要改数据模型与权限模型。智能体方案还要定义允许的动作、停止条件和审计日志。
性能与稳定性只能做定性判断,不能假设某一类始终更快或更准。一般而言,步骤越多,尾延迟越高,失败模式越多;宽召回加大上下文会提高单次生成成本。弹性方面,检索与生成应可独立扩容,重排和多轮调用要有队列与超时,避免一个慢请求拖垮整条链路。
安全与合规:所有路线都应做身份认证、按文档或租户隔离、传输与存储加密,以及检索与生成的审计。智能体和结构化查询额外要防止越权访问和不受控的数据导出。引用应指向用户有权查看的片段,而不是内部全量文本。
运维:朴素链路的监控重点是召回率代理指标、空结果率和生成延迟。多模块和智能体还要记录每一步输入输出摘要、停止原因和降级是否触发。版本升级要同时管切分策略、索引和提示约束,避免只升级生成端导致答案漂移。
成本结构来自存储与索引、检索与重排计算、生成长度,以及人工标注和排障。没有统一报价可套用。长期维护成本往往高于初次接入,尤其是图谱更新和智能体策略调参。
| 维度 | 轻量路线(朴素、混合、重排、压缩) | 增强路线(迭代、校验、自适应、纠正式、自反思) | 重组知识路线(图谱、多跳、结构化、多模态) | 智能体路线 |
|---|---|---|---|---|
| 系统形态 | 固定流水线 | 带判断的短循环 | 知识组织方式变化 | 规划与多工具 |
| 主要收益 | 上线快、行为可预期 | 减少无据回答和无效检索 | 关系、表格、版面信息更好用 | 开放任务更灵活 |
| 主要代价 | 复杂问题覆盖有限 | 延迟与误触发 | 建库与更新成本 | 可预测性与权限风险 |
| 适合阶段 | 验证与稳定问答 | 生产可信度提升 | 知识本身高度结构化 | 流程型、多源任务 |
| 使用边界 | 跨文档推理弱 | 判断器不可靠时会变差 | 脏数据上建图收益低 | 无步数与权限上限时不宜上生产 |
内部制度、产品手册等单跳问答:优先朴素或混合检索,加上重排和引用。先把切块、权限过滤和评测做稳,再考虑更重的方案。
用户问法口语化、含指代:在检索前增加查询改写,而不是立刻上多跳。改写失败要能回退到原始问题。
错误码、标准号、合同条款编号多:混合检索通常比纯向量更合适,因为精确匹配对这类词更关键。
答案必须可追溯、错误成本高:加入检索后校验和拒答策略,并限制模型不得超出证据范围。这比单纯加大召回条数更贴近风险控制。
问题经常要对照多份制度或多步条件:评估迭代或多跳,但给最大轮次;超时则返回已有证据或明确说明信息不足。
实体关系稳定且查询频繁沿关系展开:图谱增强值得评估。若关系经常变、抽取质量差,维护成本可能盖过收益。
指标、台账、配置表是主要知识:用受控的结构化检索,并与文本解释分开呈现。不要把表格压成随意文本后再指望向量检索还原数字关系。
扫描件、图纸说明、会议记录:先保证解析与转写质量,再谈多模态检索。解析错误会系统性污染索引。
任务本身像“查完再决定下一步”、知识源不止一种:可以评估智能体驱动,但仅在动作白名单、预算和人工可审计的前提下。简单问答不必用它。
请求量差异大:用自适应路由把简单问题留在短链路,把复杂问题送到深链路,避免全部请求承担最高延迟。
不要按“代数”排序当成成熟度排序。更稳妥的顺序是:先能量化当前失败是召回、排序、证据利用还是问题需要多步推理;再只加一种机制并做对照评测;指标改善不明显就回退。
团队检索与评测经验有限时,优先固定流水线和高可观测性,而不是一开始做开放式规划。知识更新频繁时,优先索引增量、权限一致性和引用,而不是复杂推理。只有当短链路在评测集上明显覆盖不足,且业务能接受更高延迟时,再引入迭代、多跳或智能体。
若使用云上的对象存储、检索引擎、容器平台和日志监控,关注的是这些通用能力能否满足隔离、扩容和审计,而不是方案名称。百度智能云等云上环境可以作为承载索引、计算与观测的一种部署选择,但算法路线仍应由数据与风险决定,不因托管与否自动改变选型结论。
条件化判断可以概括为:高并发、问法单一时更看弹性与缓存友好的短链路;证据要求严时更看校验与引用;关系型问题多且图谱可维护时再考虑图谱;团队能承担行为审计时才考虑智能体。
从朴素方案迁到重排或混合检索:索引字段、过滤条件和排序融合方式会变,需要双写或影子流量对比,避免线上召回突然变窄。
迁到压缩、校验或多轮:提示约束和停止条件要版本化。保留降级为单次检索的开关。记录每轮检索词,否则无法复现。
迁到图谱或结构化查询:数据模型、更新任务和权限要重新设计。旧文本索引不宜立刻下线,应并行直到关系覆盖率和正确率达标。
迁到智能体:先限制知识源与动作数量,设置最大步数、超时和费用或资源预算。禁止默认拥有全部文档权限。输出必须带步骤摘要,便于追责。
通用风险包括:切分策略变更导致历史缓存失效;租户过滤在新链路上被绕过;评测集只含简单题,上线后复杂题变差;日志保存全文证据带来合规问题。回滚方案应能切回上一版索引与上一版编排,而不是只回滚生成配置。
示意流程(伪代码,非特定平台接口):
query = rewrite_if_needed(user_question)route = choose_path(query) # short, iterative, or structuredevidence = retrieve(query, user_acl)evidence = rerank_and_trim(evidence)if route != "short" and not sufficient(evidence):evidence = retrieve_more(evidence, max_steps)answer = generate_with_citations(query, evidence)if not supported(answer, evidence):return insufficient_or_retry()
这段逻辑强调权限过滤在检索之内、步数有上限、证据不足时可拒答。具体函数需按自有系统实现,不存在统一参数名。
十六类方案的共同点是用外部证据约束生成;差异在于证据怎么找、怎么减、怎么验证,以及是否允许多步规划和重组知识。轻量流水线适合作为基线;校验、混合与重排适合在基线不稳时逐项加强;图谱、多跳和结构化检索取决于知识是否真的具有相应结构;智能体适合受控的开放任务,不适合作为所有问答的默认形态。决策顺序应是失败归因、对照实验、权限与延迟预算,而不是追随方案名称。