简介:本文围绕“RAG是否是Agent必选能力”展开评测,从知识时效性、检索准确性、上下文成本、任务规划、权限安全、稳定性与运维复杂度等维度,比较仅依赖长上下文与引入RAG的不同方案。文章提供可执行的测试方法、结果解读框架和场景化选型建议,帮助开发者、架构师与技术负责人判断何时必须使用RAG,何时可以采用其他上下文管理方式。
随着大模型上下文窗口持续扩大,越来越多的模型能够一次处理较长的文档、历史对话和任务材料。在这种背景下,一个常见问题是:既然模型可以“装下”更多内容,Agent是否还需要RAG?
这个问题不能简单回答“必须”或“不必须”。RAG,即检索增强生成,核心是让系统在生成回答或执行任务前,从外部知识库、业务数据库、文档系统或实时数据源中选择与当前问题相关的信息,再将这些信息提供给模型。Agent则通常包含任务理解、计划制定、工具调用、状态管理、结果校验和多轮执行等能力。
因此,本文评测的并不是某个具体产品,而是三类通用方案:
本文适合开发者、架构师、运维人员、技术负责人和企业应用建设团队。评测目标不是判断哪种方案“绝对更好”,而是帮助读者在数据规模、知识更新频率、响应时延、安全要求、调用成本和长期维护压力之间做出合理判断。
Agent主要解决的是“如何完成任务”。它需要理解用户目标,拆分任务步骤,选择工具,读取外部信息,执行操作,并根据反馈修正计划。
RAG主要解决的是“从哪里找到与当前任务有关的知识”。它强调信息获取、内容筛选和上下文组织。
二者的关系可以概括为:
| 能力 | Agent重点 | RAG重点 |
|---|---|---|
| 任务理解 | 判断用户要完成什么 | 判断当前问题需要哪些资料 |
| 任务规划 | 拆分步骤并安排执行顺序 | 为计划提供相关知识依据 |
| 信息获取 | 选择工具或数据源 | 从候选内容中筛选相关片段 |
| 执行控制 | 调用工具并处理反馈 | 提供文档、事实或规则 |
| 结果验证 | 判断任务是否完成 | 验证回答是否有知识依据 |
| 状态管理 | 保存任务进度和中间结果 | 管理知识索引、版本与权限 |
因此,RAG并不是Agent的定义性组件。一个Agent可以调用数据库、业务接口、文件系统或计算工具,而不一定使用向量检索。但当Agent需要面对大量非结构化知识、持续更新的企业资料或复杂权限规则时,RAG往往会从“可选能力”变成“关键基础设施”。
判断RAG是否必要,建议围绕以下问题展开:
如果任务依赖的资料规模较小,内容变化不频繁,且每次任务都可以完整提供,那么直接使用上下文可能更简单。
例如,某个一次性分析任务只需要读取一份短文档,且文档没有权限分层,也不涉及频繁更新,那么引入复杂检索链路可能增加维护成本。
反过来,如果资料数量多、来源分散、更新频繁,或者每个用户只能查看其中一部分内容,仅依赖长上下文就会面临明显限制。
长上下文只能处理已经被放入请求中的内容,无法自动知道外部数据是否发生变化。对于库存、订单状态、设备状态、政策规则、内部流程等动态信息,Agent需要访问实时数据源。
此时,RAG可以承担知识检索功能,但如果数据具有强结构化和强实时性,则直接调用业务接口或数据库查询可能比文档检索更合适。评测时要避免把所有外部信息都归类为RAG问题。
在普通问答中,偶尔遗漏一段背景可能只是影响回答完整性。但在企业流程、合规审核、技术运维或敏感数据处理场景中,错误引用或越权读取可能造成更大影响。
此类场景应重点评测:
即使模型可以接收大量内容,也不代表它能够稳定识别其中最相关的信息。资料越多,噪声越大,模型需要在更大的候选范围内定位关键事实。
当上下文中同时存在多个版本、相似条款、重复说明和互相引用的文档时,模型可能出现以下问题:
RAG的价值在于先缩小候选范围,再交给模型处理。它并不保证检索一定正确,但可以减少无关信息进入上下文的比例。
把更多资料放入上下文,通常意味着更高的输入处理量、更长的响应时间和更大的资源消耗。对于多轮Agent任务,每一步都重复携带大量资料,还可能造成上下文快速膨胀。
RAG可以通过以下方式控制输入规模:
因此,评测成本时不能只看单次请求,而要观察完整任务链路中的累计输入量、请求次数、检索开销和人工维护成本。
如果系统把大量资料直接放入上下文,必须先回答一个问题:这些资料是否都可以被当前用户、当前Agent和当前任务访问?
RAG架构可以在检索阶段结合用户身份、组织范围、数据密级、文档版本和业务权限进行过滤。虽然权限控制不能只依赖RAG,但检索层能够减少不应进入模型上下文的数据。
这是评测RAG最重要的维度。不能只看回答是否流畅,而应确认回答是否使用了正确证据。
建议建立一组包含以下类型的问题集:
评测时可以记录:
如果检索结果本身不相关,后续模型即使语言能力很强,也可能生成看似合理但缺乏依据的内容。
Agent场景不能只评测单轮问答,还要观察完整任务是否完成。
测试流程可以设计为:
需要重点区分两个问题:是Agent没有理解任务,还是RAG没有提供正确知识。只有拆分问题,才能指导后续优化。
RAG通常会增加检索、重排、内容压缩等环节,因此需要评估完整链路,而不是只测模型响应速度。
建议观察:
在高并发场景下,单次测试结果不能代表生产表现。应设计不同并发水平、不同文档规模和不同任务复杂度的组合测试,并记录错误类型与资源使用趋势。
RAG和Agent都属于多组件链路,可能受到数据源异常、网络波动、索引更新失败、内容解析错误和模型输出不稳定等因素影响。
可执行的异常测试包括:
优秀的系统不应只在正常路径下工作,还应明确告诉用户当前缺少什么信息、哪些步骤未完成,以及是否需要人工介入。
评测安全性时,不能只检查接口是否有身份认证,还要检查数据是否在整个链路中保持隔离。
重点包括:
在高安全要求场景中,应将“可追溯性”作为重要指标。系统不仅要给出答案,还应尽可能保留答案依据、数据版本、访问主体和处理时间。
RAG不是一次接入后就可以长期不管。知识库需要持续更新,索引需要重建或增量维护,切分策略和检索策略也可能随着数据变化而调整。
建议评测:
如果一个RAG系统只能依靠人工不断调整提示词和检索参数,长期维护成本可能高于预期。
| 方案 | 优点 | 主要风险 | 更适合的场景 |
|---|---|---|---|
| 仅使用长上下文 | 架构简单,接入成本较低 | 噪声多、成本可能上升、权限控制困难 | 小规模资料、一次性分析、低风险任务 |
| 独立RAG | 信息筛选能力较强,便于管理知识来源 | 检索错误会直接影响回答,增加系统组件 | 企业知识问答、文档查询、规则检索 |
| Agent结合RAG | 可按任务动态获取知识并执行流程 | 链路复杂,调试和稳定性要求更高 | 多步骤任务、动态知识、需要工具协同的应用 |
需要注意,RAG也不是所有外部信息的最佳访问方式。结构化数据应优先考虑明确的查询接口,实时控制类任务应采用经过授权的工具调用,计算密集型任务应交给专门的计算模块。Agent需要的是“合适的信息获取方式”,而不是强行让所有数据都经过文档检索。
在企业级实践中,可以采用“检索—压缩—读取”的分层思路。
根据任务阶段和用户权限,选择候选资料。检索方式可以是关键词匹配、语义匹配、结构化条件过滤或多种方式组合。
对候选资料进行去重、排序、摘要和冲突识别。压缩的目标不是简单减少字数,而是保留与当前任务有关的事实、条件、时间和来源。
将处理后的内容交给模型或Agent,用于回答、规划或工具调用。对于高风险任务,应要求系统在执行前明确列出依据和不确定性。
可以使用如下通用流程表达:
接收任务↓判断任务类型与权限范围↓选择数据源:知识库、数据库或业务接口↓检索候选信息↓去重、排序、压缩并检查版本↓交给Agent制定计划↓执行工具调用或生成回答↓校验事实、权限和任务完成状态↓记录日志并输出结果
这种架构的重点不是让RAG参与每一步,而是让Agent根据任务需要调用合适的信息获取能力。
如果仅使用长上下文和RAG方案在简单问题上的回答效果接近,不应立即得出“RAG没有价值”的结论。还需要观察复杂问题、资料规模扩大、知识频繁更新、并发上升和权限分层后的表现。
如果RAG方案回答更准确,也要进一步判断提升来自哪里:
如果Agent结合RAG后任务完成率提高,但时延和维护复杂度明显增加,则应判断业务是否能够接受这种代价。对于低风险、低频率任务,简单方案可能更合适;对于高价值、高风险、持续运行的企业任务,准确性和可追溯性通常更重要。
可以用以下问题做初步判断:
如果多数答案指向动态知识、权限控制、可追溯和复杂任务,RAG通常具有较高价值;如果资料少、任务简单、内容稳定且风险较低,则可以先从长上下文或轻量上下文管理开始,再根据实际问题逐步引入RAG。
RAG并不是Agent的理论必需组件,但在企业级场景中,它常常是控制知识范围、降低上下文噪声、支持数据更新和实现权限隔离的重要能力。长上下文解决的是“能够容纳多少信息”,RAG解决的是“应该选择哪些信息”,Agent解决的是“如何利用这些信息完成任务”。
因此,评测重点不应停留在上下文窗口大小或单轮回答效果,而应放到完整任务链路上,综合考察检索准确性、任务完成率、时延、成本、安全、稳定性、可观测性和长期维护难度。更稳妥的技术路线通常不是在长上下文与RAG之间二选一,而是根据任务特点,将检索、压缩、实时查询、工具调用和模型读取进行组合。最终是否采用RAG,应以真实数据、真实权限和真实任务流程下的评测结果为依据。