简介:面对"Agent是否必须依赖RAG"这一持续争论,本文对比狭义向量检索(RAG)与工具调用式检索两条技术路线,从架构、接入、运维、性能与适用场景等维度拆解差异。读者可据此判断何时应引入向量检索、何时可直接依靠长上下文与工具调用循环,并了解方案切换时的迁移风险与注意事项。
在 Agent 应用快速普及的当下,一个反复被提起的问题是:Agent 是否必须依赖 RAG(检索增强生成)?部分团队观察到,一些主流编码智能体产品在演进过程中反而移除了 RAG,转而用轻量的文本匹配工具(如内容检索、文件模式匹配)来定位代码。这一实践与很多人的架构直觉不符,也让”到底该不该用 RAG”成为技术选型中的高频疑问。
本文并不试图给出”用”或”不用”的绝对结论,而是把争论双方拆成两条清晰的技术路线进行对比:
需要强调的是,这里讨论的 RAG 是狭义定义:将文档切分为 chunk,经 embedding 模型转为向量,写入向量数据库,用户提问时通过余弦相似度召回相关片段,再拼接进 prompt。这是前几年主流框架教程里教给大多数开发者的”经典 RAG”。广义的”检索”当然是 Agent 必需的,但把它与向量检索混为一谈,会让讨论失去焦点。
狭义 RAG(向量检索方案):核心是”语义相似召回”。它解决的是——当模型自身参数里没有、上下文窗口又装不下的海量非结构化知识时,如何用语义匹配快速缩小候选范围。典型链路为:文档切分 → 向量化 → 入库 → 相似度检索 → 拼接提示词。
工具调用式检索(Agentic Retrieval):核心是”Agent 的本质是工具使用循环(tool-using loop)”。Agent 不预先构建索引,而是在推理过程中动态调用工具获取信息,例如文本内容检索、结构化查询、接口调用、读取文件、运行脚本等。信息以什么形式存在,就用什么方式去取。
两条路线的目标高度一致,都不应被简单对立:
| 对比维度 | 狭义 RAG(向量检索) | 工具调用式检索 |
|---|---|---|
| 技术架构 | 依赖 embedding 模型 + 向量库 + 切分与索引流水线 | 依赖已有数据源 + 工具定义,无需额外索引层 |
| 接入复杂度 | 需搭建并维护索引构建、更新流程,改造量较大 | 复用现有系统,接入相对轻量 |
| 匹配方式 | 语义相似度召回,擅长”意思相近” | 精确匹配、结构化查询、多步推理,擅长”精准命中” |
| 数据时效性 | 数据变更需重新索引,存在同步延迟 | 每次调用实时获取,天然较新 |
| 适用数据类型 | 大规模非结构化文本、语义检索场景 | 代码、结构化数据、实时数据、强精确性场景 |
| 主要运维成本 | 索引重建、向量库容量与一致性维护 | 工具权限治理、调用链稳定性管理 |
| 典型风险 | 切分不当导致召回失真、索引陈旧 | 工具权限过大、循环调用失控 |
从差异来源看,两条路线的优劣各有其技术根因:
此外,长上下文能力的提升正在改变两条路线的边界。当模型上下文窗口足够大时,一部分原本需要向量检索才能装下的内容可以直接塞入上下文,RAG 的”必需性边界”因此进一步收缩。这也解释了为何部分编码类智能体产品在具备较长上下文后,倾向于用轻量检索工具替代向量流水线。
若从向量检索切换到工具调用式检索,或反向迁移,需重点关注:
回到最初的问题:狭义 RAG 对 Agent 并非必需。它与工具调用式检索并非互斥,而是各有技术根因的两条路线——向量检索胜在语义泛化、适合海量非结构化知识;工具调用胜在精确与实时、适合结构化与强精确性场景;长上下文能力的增强则在持续压缩向量检索的必需边界。选型的正确姿态不是追问”哪个更好”,而是回到自身的数据形态、精确性要求、上下文容量与运维能力,做条件化的判断与组合。