简介:本文面向开发者与技术负责人,围绕检索增强生成、上下文协议层与智能体三类大模型扩展能力,解释它们解决什么问题、共享哪些目标、在架构接入权限运维成本上的核心差异,并给出场景化选型与迁移注意事项,帮助读者判断何时做知识注入、何时做标准化连接、何时引入任务编排,以及如何组合落地。
大模型具备较强的语言理解与生成能力,但在真实业务中常遇到三类问题:知识可能过时或缺少企业私域信息;模型与外部数据源、工具系统之间的接入方式不统一;面对多步骤任务时缺少规划、调用、执行与校验能力。围绕这些问题,业界逐渐形成三类常见能力:检索增强生成、上下文协议层和智能体。
本文对比对象为三类能力:RAG(检索增强生成)、上下文协议层(模型与外部数据源、工具之间的标准化接入机制,原始标题中的第二类能力在中立表述中统一称为“上下文协议层”)、Agent(智能体)。它们不是互相替代的单一产品,而是位于不同层次、可组合使用的技术能力。理解差异的关键,不是记住名词,而是判断问题主要出在“知识不足”“连接复杂”还是“任务执行”。
RAG即检索增强生成,核心思想是在生成答案前,先从指定知识源检索相关信息,再将检索结果与用户问题一起提供给模型,从而修正和补充生成内容。它适合解决知识时效性、私域知识覆盖、答案可追溯等问题。典型流程包括检索、增强、生成三步:先将问题转为检索请求,从文档、知识库或索引中召回相关内容;再将召回内容与问题组合成上下文;最后由模型整合生成答案。
RAG的重点在“知识注入”。它不改变模型本身参数,而是通过外部知识源提高回答的相关性和准确性。其效果高度依赖知识库质量、切分策略、检索召回率、重排策略和提示词组织方式。
上下文协议层关注的是“模型如何标准化地访问外部上下文和工具”。在业务系统中,模型可能需要访问数据库、文档库、工单系统、消息队列、对象存储或内部API。如果每个模型应用都自行定义接口、权限和调用约定,接入成本会快速上升。上下文协议层通过定义资源暴露、工具描述、调用参数、权限上下文和生命周期管理等通用约定,降低模型应用与外部系统之间的耦合。
它的重点在“连接与适配”。它不一定直接生成答案,也不一定自主规划任务,而是为模型应用提供统一、可治理的上下文接入能力。它解决的是接口碎片化、权限传递不清晰、工具描述不一致和跨系统复用困难等问题。
Agent即智能体,通常指以目标为导向,能够进行任务分解、工具调用、状态维护、结果观察和必要反思的软件实体。与单次问答不同,Agent更强调多步骤执行:理解目标、制定计划、选择工具、调用外部能力、根据结果调整下一步,最终完成任务或给出可执行结果。
Agent的重点在“决策与执行编排”。它往往需要RAG提供知识、需要上下文协议层提供工具接入,还需要权限控制、审计、超时重试、人工确认和评测体系。Agent的能力上限较高,但复杂度和风险也更高,不适合把所有问题都简单包装成Agent。
三类能力具有若干共同点。第一,目标都是扩展大模型在真实业务中的可用边界:RAG补知识,上下文协议层补连接,Agent补执行。第二,都依赖模型能力,但都不是单纯依靠模型参数记忆解决问题。第三,都需要关注权限、数据隔离、审计和可观测性,尤其是涉及企业私域数据或外部工具调用时。第四,都需要评测:RAG关注召回与答案忠实度,上下文协议层关注接口成功率与权限正确性,Agent关注任务完成率、步骤效率和异常处理。第五,三者可以组合:Agent可通过上下文协议层调用检索服务,RAG也可作为Agent的一个知识工具。
但相同点不代表可互相替代。它们处于不同抽象层:RAG是知识增强模式,上下文协议层是连接与治理机制,Agent是任务执行框架。
RAG通常由知识源、文档处理与索引、检索服务、重排模块、提示词编排和模型调用组成。系统边界围绕“知识检索到答案生成”的链路。上下文协议层通常由协议网关、资源注册、工具描述、权限上下文、调用路由和日志审计组成,系统边界围绕“模型应用如何访问外部能力”。Agent通常由规划器、工具选择器、记忆或状态管理、执行器、观察与反思模块组成,系统边界围绕“目标到任务完成”的闭环。
RAG擅长回答“基于资料的问题”,例如政策查询、产品说明、文档问答、故障知识检索。它不擅长自主完成多系统操作。上下文协议层擅长统一接入和权限治理,不直接保证答案质量,也不负责复杂任务规划。Agent擅长多步骤任务,例如信息收集、比对、生成报告、触发审批流等,但需要明确工具边界和失败处理策略。
RAG改造量集中在知识库建设、文档解析、切分、索引更新、检索调优和答案评测。上下文协议层改造量集中在外部系统适配、接口描述、身份认证、权限映射和调用审计。Agent改造量集中在任务建模、工具编排、状态管理、异常恢复、人工确认和评测集建设。通常RAG可较快在问答场景落地;上下文协议层适合作为平台能力长期建设;Agent需要更完整的工程治理。
RAG需关注检索延迟、索引更新时效、召回数量与上下文长度之间的平衡。上下文协议层需关注网关吞吐、调用超时、重试策略、连接池和限流。Agent需关注多步调用累计延迟、并发任务隔离、工具失败后的恢复和成本上限。三者都需弹性扩展,但扩展对象不同:RAG扩展检索与索引,协议层扩展网关与适配器,Agent扩展任务执行与状态存储。
RAG需处理知识库权限过滤、敏感信息脱敏、检索结果审计和答案引用。上下文协议层需处理身份认证、调用授权、数据隔离、参数校验和全链路审计。Agent需额外处理工具调用边界、危险操作确认、任务中止、越权防护和可追溯执行日志。涉及生产系统写操作时,Agent应默认引入人工确认或强权限约束。
RAG成本包括索引构建、检索资源、模型调用和评测人力。上下文协议层成本包括网关运维、适配器开发、权限配置和日志存储。Agent成本包括编排运行、状态存储、多轮模型调用、工具调用和持续评测。不能简单说哪类更便宜,应结合调用量、知识更新频率、工具数量和任务复杂度评估。
| 维度 | RAG | 上下文协议层 | Agent |
|---|---|---|---|
| 核心定位 | 知识检索增强生成 | 标准化连接与上下文接入 | 目标任务规划与执行 |
| 主要解决问题 | 知识不足、过时、私域覆盖 | 接口碎片化、权限与接入治理 | 多步骤任务自动化 |
| 关键组成 | 索引、检索、重排、生成 | 协议网关、资源注册、权限、审计 | 规划、工具调用、状态、反思 |
| 接入改造重点 | 知识库与检索链路 | 外部系统适配与权限映射 | 任务建模与编排治理 |
| 适用场景 | 文档问答、客服、知识助手 | 多系统工具统一接入 | 复杂流程自动化、辅助决策 |
| 主要风险 | 召回不准、引用不实 | 权限错配、接口不稳定 | 越权操作、任务失控、成本上升 |
| 可组合性 | 可作为Agent知识工具 | 可为Agent提供工具接入 | 可调用RAG与协议层能力 |
如果问题是“答案需要基于最新文档或企业私域资料”,优先考虑RAG。如果问题是“多个模型应用都要访问同一批内部系统和工具,接口和权限难以统一”,优先建设上下文协议层。如果问题是“需要跨系统完成多步骤任务,并根据中间结果调整策略”,再考虑Agent。实际落地中常见组合是:用上下文协议层统一接入工具与数据源,用RAG提供知识检索,用Agent完成复杂任务编排。三者组合时,应把检索、工具调用和任务执行分别监控,避免问题定位困难。
interface RetrievalService {search(query, topK, authContext): Document[]}interface ToolRegistry {listTools(authContext): ToolSpec[]invoke(toolName, args, authContext): ToolResult}agentLoop(task, authContext):plan = model.plan(task)for step in plan:if step.needsKnowledge:docs = RetrievalService.search(step.query, step.topK, authContext)if step.needsTool:result = ToolRegistry.invoke(step.toolName, step.args, authContext)observe(result)if step.needConfirm:waitForHumanConfirm()return finalAnswerOrAction
该示意说明:RAG可封装为检索服务,上下文协议层可封装为工具注册与调用层,Agent负责规划与循环执行。接口名称仅为通用伪代码,不代表特定平台实现。
选型应坚持条件化判断。知识问答为主、需要快速上线且答案可引用资料时,可优先RAG;工具和数据源较多、需要统一权限与审计时,可优先上下文协议层;任务步骤多、需要动态选择工具并处理中间结果时,再引入Agent。若团队运维能力有限,应优先选择托管化程度更高、治理能力更完整的方案;若对数据隔离和调用审计要求高,应重点评估权限模型和日志能力。不要因为Agent概念热门就把所有问答都改造成Agent,也不要把协议层当作知识库使用。
从单一问答迁移到RAG,需要准备评测集、知识更新机制和引用追溯。引入上下文协议层,需要梳理现有接口、权限模型、错误码和限流策略,并做好灰度与回滚。引入Agent,需要定义工具白名单、危险操作确认、超时中止、最大步数和成本上限。组合迁移时,要关注数据权限是否在检索与工具调用中一致传递,接口版本是否兼容,日志是否能串联用户问题、检索结果、工具调用和最终答案。生产环境还应建立监控告警、人工兜底和定期评测机制。
RAG、上下文协议层与Agent不是三选一的对立关系,而是分别解决知识、连接和执行三个层次的问题。RAG让模型“有资料可查”,上下文协议层让模型“有标准接口可用”,Agent让模型“能围绕目标组织步骤”。判断选型时,应先定位主要矛盾:知识缺口明显则先做RAG;系统接入碎片化则先做协议层;任务复杂且工具治理成熟后再做Agent。合理组合、明确边界、完善权限与评测,才是三类能力落地的关键。