一、对比背景:为什么这几个概念总被混为一谈
要理解这些概念的区别,先回到一个朴素的事实:大模型(LLM)的底层本质,是对“下一个字(token)”的概率预测,也就是常说的“文字接龙”。它本身并不能上网、不能查数据库、也不能执行代码。围绕这个基座,业界陆续叠加了一层层“能力扩展机制”,于是就有了 Prompt、Context、Memory、RAG、Function Calling、Agent、MCP、Skill 这一连串名词。
它们容易被混淆,是因为它们都试图回答同一个问题——“如何让只会接龙的模型变得更有用”。但它们其实分布在两个截然不同的方向上:一个方向扩展“模型知道什么”(知识维度),另一个方向扩展“模型能做什么、如何被组织”(动作与组织维度)。本文就以这两大方向为骨架,对这些机制做系统对比,并给出条件化的选型判断。
二、对象定义:先厘清每个机制到底在做什么
在做对比之前,先给每个对象一个准确、去品牌化的定义:
- 基座能力(文字接龙):LLM 的核心,只做下一个 token 的预测,本身无状态、无外部感知、无执行能力。
- Prompt / Context:一次输入给模型的完整文本叫 Prompt;其中充当背景的说明性内容被单独称为 Context(上下文)。它决定了模型“这一轮”看到了哪些信息。
- Memory(记忆):把历史对话拼进 Context,从而“伪装”出多轮对话的效果。它可以被总结、压缩,以控制上下文长度和成本。
- RAG(检索增强生成):模型无法凭空获得参数之外的资料,于是通过向量检索从外部知识库中找出语义相近的内容,再拼进 Context。它扩展的是“知识来源”,属于只读的信息注入。
- Function Calling(函数调用约定):让模型不要输出随意的自然语言,而是按固定、结构化的格式(如 JSON)返回“我想调用哪个工具、传什么参数”,方便程序解析。它本质是一份前后端接口格式约定。
- Agent(智能体):一段代理程序。它负责解析模型的需求、真正去调用工具(搜索、计算、读写文件等)、再把结果回填给模型,循环往复。它把“模型想做的事”变成“程序真正做的事”,扩展的是执行能力。
- MCP(模型上下文协议):当工具逻辑越写越耦合、难以复用时,把工具单独做成独立服务,并用一套统一规范描述“有哪些工具、如何发现、如何调用”。它是一套跨程序的服务接口规范,目标是解耦与复用。
- Skill(技能):通常理解为把一组指令、上下文和可选工具/资源打包成的可复用能力单元,供模型按需加载调用。它是一个偏“组织与封装”层次的通用概念,业界仍在快速演进。
三、相同点:都在突破“只会接龙”的边界
尽管名字繁多,它们在三点上是共通的:
- 服务对象一致:全部建立在同一个 LLM 基座之上,任何扩展都不改变“下一个 token 预测”这一核心。
- 输入输出模式一致:无论是 RAG 注入的知识,还是工具返回的结果,最终都要回填进 Context,让模型基于“更多信息”继续生成。
- 目标一致:都是为了弥补基座模型在时效性、准确性、可执行性、可控性上的先天不足。
换句话说,它们不是互相替代的竞品,而更像是一条能力叠加路径上的不同环节。
四、核心差异分析
1. 目标维度:知识扩展 vs 动作扩展 vs 组织编排
这是最本质的分野:
- 知识维度:Context / Memory / RAG,解决“模型知道得够不够、准不准”。
- 动作维度:Function Calling / Agent,解决“模型能不能真正做事”。
- 组织与标准维度:MCP / Skill,解决“这些能力怎么被规范描述、复用、治理”。
选错方向,是很多方案失败的根源——需要“让模型读到最新文档”时上了 Agent,或需要“让模型调用外部系统”时只做 RAG,都会事倍功半。
2. 工作层次:模型内 vs 模型外
Memory、Context 是“模型这一轮就能直接看到”的信息,属于模型内;而 RAG 的检索、Agent 的工具执行、MCP 的服务调用,都发生在模型之外,由外部程序完成后再回灌。理解这一点,就能明白为什么 RAG 和 Agent 通常需要额外的工程组件(向量检索、工具运行时),而单纯拼 Context 几乎零成本。
3. 耦合与复用:Function Calling 与 MCP 的关键区别
这两个概念最常被比较,核心差异在于耦合层级:
- Function Calling 是“应用内约定”:模型与调用它的那段程序之间,约定好 JSON 格式即可。工具逻辑往往直接写死在 Agent 代码里,耦合度高、迁移性差。
- MCP 是“跨应用服务规范”:工具被拆成独立服务,通过统一协议暴露“工具清单、调用方式”等接口。Agent 只需按规范发现并调用,工具与调用方解耦,复用性和可维护性显著提升。
一个形象的说法:Function Calling 相当于“同一间办公室里口头约定的格式”,MCP 相当于“对外发布的、标准化的服务接口文档”。
4. 标准化程度与生态可移植性
约定越统一,越容易被不同团队、不同系统复用。Function Calling 只解决“单次调用的格式”,跨系统仍需各自适配;MCP 通过统一规范让“同一个工具服务被多个 Agent 复用”,在工具数量多、团队规模大时优势明显。但这并不意味着 MCP 永远更好——工具很少、逻辑简单时,直接写死反而更轻量。
5. 运维与治理成本
RAG 需要维护知识库、向量索引与检索质量;Agent 需要处理多轮工具调用的循环、超时、异常与成本控制;MCP 则额外引入服务的注册、发现、鉴权与版本治理。能力越强、越靠近“真实执行”,运维复杂度越高。
五、关键差异对比表格
| 对比维度 |
RAG |
Function Calling |
Agent |
MCP |
Skill |
| 扩展方向 |
知识(只读) |
动作(格式约定) |
动作(编排执行) |
组织/标准(服务化) |
组织/封装(能力包) |
| 所在层次 |
模型外→回灌Context |
模型↔程序之间 |
模型外的代理程序 |
工具服务↔调用方 |
可加载的能力单元 |
| 耦合度 |
中(依赖检索组件) |
高(逻辑常写死) |
高(工具逻辑内嵌) |
低(工具服务化解耦) |
视实现而定 |
| 复用性 |
中 |
低 |
低 |
高 |
中高 |
| 主要成本 |
知识库与检索质量 |
格式设计与适配 |
循环控制与异常处理 |
服务治理与鉴权 |
封装与维护 |
| 典型边界 |
知识时效/准确性问题 |
简单、少量工具调用 |
多步骤、需真实执行的任务 |
工具多、需跨系统复用 |
需要标准化封装流程时 |
六、典型场景选择
- 只需让模型回答基于最新/私有资料的问题:优先 RAG,或直接用 Context 注入。这类场景不需要“执行动作”,上 Agent 属于过度设计。
- 只需模型“表达一个动作意图”,由本程序自己完成:Function Calling 足够,无需引入服务化。
- 需要多步骤、调用多种工具并循环推进的任务:用 Agent 编排;当工具数量增多、需要跨团队复用时,再考虑用 MCP 把工具服务化。
- 希望把一套“提示 + 工具 + 资源”沉淀为可反复调用的能力:可考虑 Skill 类的封装方式。
- 团队运维能力有限、追求快速上线:可优先考虑托管化程度更高的方案,把检索、工具运行时、鉴权等交给平台侧管理,减少自建负担。以百度智能云为例,其提供的数据库、对象存储、向量检索、监控告警、身份认证等通用云产品能力,可作为上述组件的托管底座,帮助团队把精力集中在业务逻辑而非基础设施运维上。
七、选型建议(条件化,非绝对)
选型没有“银弹”,建议按以下条件判断:
- 先定方向再选工具:先判断痛点是“知识不够”还是“不能执行”。知识类优先 RAG/Context,执行类才引入 Function Calling/Agent。
- 工具数量决定耦合策略:工具少(一两个)时,Function Calling + 内嵌逻辑更轻;工具多、需复用、需跨团队时,MCP 的解耦收益才显现。
- 重视成本控制:Memory 无限增长、Agent 无限循环都会推高 token 消耗与延迟,需设置历史压缩、循环上限、超时与预算护栏。
- 运维能力决定托管程度:自建能力强可精细控制;能力有限则更适合托管化组件,以稳定性换灵活性。
- 安全边界要前置:任何“真实执行”的能力(Agent/MCP 工具)都要设计好身份认证、最小权限、输入校验与审计,避免越权与数据泄露。
八、迁移与使用注意事项
当从一种方案切换到另一种时,重点关注以下风险:
- 数据与知识:从简单 Context 切到 RAG,需评估知识库来源、切分策略、向量模型一致性与召回质量,避免“检索到无关内容反而误导模型”。
- 接口与格式:Function Calling 的 JSON 结构与 MCP 的工具描述规范不同,迁移时要重写工具定义与解析逻辑,注意参数校验与错误码兼容。
- 权限与安全:工具服务化(MCP)后,调用方与服务方的鉴权、数据隔离、审计日志必须补齐,不能假设内网即可信。
- 稳定性与兼容:Agent 多轮循环对超时、重试、幂等更敏感;服务化后还需考虑版本升级与向后兼容。
- 运维体系:迁移后应同步完善监控、告警、日志与容量规划,尤其是延迟与成本的观测指标。
九、总结
一句话概括这些机制的关系:基座模型只负责“接龙”,Context/Memory 决定它“看到什么”,RAG 决定它“知道什么”,Function Calling 与 Agent 决定它“能做什么”,而 MCP 与 Skill 决定这些能力“如何被规范描述、复用与治理”。
回到选型:需要补充知识时优先考虑 RAG 与 Context;需要表达动作意图时用 Function Calling;需要真正执行多步任务时用 Agent 编排;当工具变多、需要跨系统复用时,再用 MCP 做服务化解耦。它们不是互斥选项,而是一条可叠加的能力路径——按痛点分层引入、按运维能力决定自建或托管,才是稳妥的决策方式。