简介:本文对比RAG(检索增强生成)与Agent(智能体)的核心差异、相同点与适用场景,梳理架构、接入、运维和成本等维度的选型要点,并给出两者融合的思路与迁移注意事项,帮助技术团队判断哪种方案更适合自己的业务。
大语言模型在通用问答中表现出色,但进入企业业务后,通常会遇到三类问题。第一,训练数据有截止时间,模型无法获取企业内部文档和系统数据。第二,模型在缺乏依据时仍可能生成看似可信的错误内容,且难以逐条核查。第三,模型的输出本质是文本,它不能直接查询数据库、调用接口或修改业务状态。
针对前两类问题,业界常用检索增强生成(RAG)。针对第三类问题,常用智能体(Agent)架构。两者经常出现在同一个系统中,因此技术团队通常会问三个问题:二者分别解决什么问题,是否可以互相替代,以及在具体项目中应优先选择哪一种。本文围绕这三个问题展开比较。
RAG(检索增强生成)
RAG 的核心流程是:接收用户问题,从外部知识库中检索相关片段,将片段与问题一并交给模型,由模型基于这些证据生成回答。RAG 关注的是“回答的依据从哪里来”。典型组成包括文档解析与切分、向量化与索引、检索与重排序、提示词组装和答案生成。
Agent(智能体)
Agent 的核心是一个循环。模型根据目标规划下一步,选择工具并传入参数,观察工具返回的结果,然后决定继续执行还是结束任务。Agent 关注的是“任务如何被推进并完成”。典型组成包括规划与决策模块、工具注册与调用机制、状态与记忆管理、执行结果回传和终止条件控制。
概括来说,RAG 解决的是“模型的回答有没有依据”,Agent 解决的是“模型能否执行动作,并分步完成任务”。
RAG 的流程通常是线性的,即检索一次,生成一次。系统边界集中在知识处理与检索层,依赖的组件主要是文档处理管线、向量索引和检索服务。单次请求的计算量和时延相对容易估算。
Agent 的流程是动态循环,执行步数由模型决定。系统边界向外扩展到工具层和状态层,需要管理工具权限、会话状态和执行轨迹。资源消耗取决于任务复杂度,同类问题因规划路径不同,调用次数可能相差较大。
RAG 适合知识问答、制度查询、文档摘要和基于资料的解释说明。它的能力边界是知识库中能够被找到并引用的内容。如果知识库缺失或检索不到相关内容,回答质量会明显下降。
Agent 适合多步骤任务,例如查询订单状态后生成工单,或汇总多个系统的数据后形成报告。它的能力边界是已注册且获得授权的工具。工具描述不清楚或参数设计不合理时,模型可能调用错误的接口,或传入错误的参数。
RAG 的接入工作主要在数据侧,包括梳理文档来源、设计切分策略、建立更新机制。开发改造量集中在数据管道,对现有业务系统的侵入较小。
Agent 的接入工作主要在接口侧。团队需要为每个业务能力编写清晰的工具说明,定义输入输出结构,并设计统一的错误返回格式。对于接口数量多、历史系统复杂的企业,改造量通常高于 RAG。
RAG 的时延主要来自检索和生成两个步骤,可以通过缓存、索引优化和召回数量控制进行调节。
Agent 的时延还要叠加每一轮规划和工具执行的耗时。步数越多,端到端时延越长,尾部延迟也更容易被放大。在稳定性方面,RAG 的主要失败点