简介:后端转向 AI 应用开发,最先卡住人的往往不是代码,而是一堆相似名词:RAG、Tool Calling、MCP、Memory 各管什么?本文聚焦最易混淆的 Tool Calling 与 MCP,结合 RAG 与记忆机制,拆解它们在触发方式、架构位置、标准化程度与复用性上的本质差异,并给出不同场景下的选型判断、迁移注意事项与一张对比表,帮你把概念分层理清、快速做出技术决策。
很多后端工程师第一次接触 AI 应用开发,都有相似感受:单个名词都看得懂,连起来就乱了。乱的根源往往不在技术本身,而在于同一个能力会从”部署在哪””怎么接触””代码怎么写”三个角度各有一套叫法。Tool Calling、MCP、RAG、Memory 混着记,就会写出”我明明配了知识库,模型怎么不查”这类问题。
本文不做名词罗列,而是聚焦最容易混淆、也最需要做出选型判断的一组对比:Tool Calling 与 MCP。二者都在解决”如何让大模型调用外部能力”,但它们是不同层次的东西;同时把 RAG(检索增强生成) 与 Memory(对话记忆) 作为参照系,帮你彻底看清这四类能力块之间的边界。
Tool Calling(函数调用):让模型在推理过程中”决定”去调用一个由你预先定义的函数(如查询天气、查库存、下单),模型输出结构化调用意图,框架或客户端执行函数后把结果回灌给模型,再生成最终答案。工具与业务代码通常处在同一进程内。
MCP(模型上下文协议):一套开放的标准协议,用于规范 AI 应用与外部能力提供方之间的交互。框架作为客户端,通过统一协议去发现并调用一个独立进程或远程服务暴露的工具与资源。它解决的是”能力如何以标准方式跨进程、跨团队复用”的问题。
RAG(检索增强生成):先从外部知识源检索相关片段,再把片段拼进 Prompt 交给模型生成答案。核心是”补知识”,而非”做动作”。
Memory(对话记忆):自动维护并注入历史对话,让模型具备多轮上下文,核心是”记住之前说了什么”。
这四类能力的共同目标,是让大模型从”只会根据权重里学到的知识做文本生成”,升级为”能接触实时数据、能触发真实动作、能记住上下文”。
它们也有共同的技术逻辑:都需要在请求进入模型前后插入处理环节。主流 AI 应用框架普遍提供类似”拦截器/切面”的抽象(本质上就是 AOP 的思想)——前置环节在请求进模型前动手(敏感词过滤、拼接 Prompt、注入检索结果或历史记忆),后置环节在响应出模型后动手(落库、打日志、脱敏),多个环节通过顺序注解控制先后。业务代码因此不用改写,横切逻辑集中挂载。这是它们能”并存而不冲突”的架构基础。
这是最本质、也最容易被误解的差异。
| 能力 | 谁决定用不用 | 典型触发方式 |
|---|---|---|
| Tools(Tool Calling) | 模型自己决定(被动触发) | 把工具定义注入请求,由模型判断是否需要调用 |
| MCP | 模型自己决定(经客户端转发到远程进程) | 配好客户端,由模型选择并触发 |
| RAG | 框架主动塞进 Prompt | 挂载检索增强拦截器,每次请求自动检索 |
| Memory | 框架自动注入历史 | 挂载记忆拦截器,自动拼入多轮上下文 |
很多人配了知识库却发现”模型不查”,往往就是把被动触发的机制误当成主动注入。RAG 和 Memory 是框架主动帮你做的;而 Tools 和 MCP 是模型自己决定用不用——它不认为需要,就不会调。
Tool Calling 的工具通常是你项目里的本地函数,调用发生在进程内,链路短、延迟低,但工具与业务代码耦合较紧。
MCP 的能力提供方是一个独立进程或远程服务,通过标准协议通信。多了一跳网络/进程调用,链路更长,但换来了强解耦。
Tool Calling 定义的是”模型如何表达调用意图”,但每个工具如何被发现、如何描述、如何连接,不同团队、不同框架各写各的。工具一旦要跨项目、跨团队复用,就得反复适配。
MCP 把”能力提供方如何暴露工具”这一层标准化了:一个按协议实现的 Server,可以被任意支持该协议的客户端接入,复用成本大幅降低。所以 MCP 不是取代 Tool Calling,而是在其之上补齐了”标准化 + 远程复用”这一层——Tool Calling 解决”模型会不会调、怎么表达调用”,MCP 解决”能力怎么以标准方式被很多应用共享”。
本地工具几乎没有额外运维;远程 MCP 服务则涉及独立部署、健康检查、鉴权、限流、版本管理,运维复杂度更高,但换来的是可独立扩缩容、可集中治理。
常被问到”RAG 的 ETL 和检索哪个离线跑”。答案很清晰:ETL(文档解析、切分、向量化、写入向量库)是离线的预处理阶段,构建知识库时执行一次或按增量更新;检索是每次请求都在线跑的,用用户问题去向量库里找最相关的片段。二者是”一次构建、多次查询”的关系,不要混淆。
以”查天气”为例,一次带工具的提问大致经历这些步骤,其中调用工具这一步是可循环的:
get_weather(上海);示意代码(通用伪代码):
# Tool Calling:工具与业务代码同进程def get_weather(city: str) -> str:return query_weather_service(city)payload = {"messages": [{"role": "user", "content": "上海明天天气如何?"}],"tools": [describe(get_weather)], # 注入工具的名称/用途/参数"stream": True}# 模型返回调用意图 -> 执行 get_weather("上海") -> 结果回灌 -> 再问一次 -> 流式输出
# MCP:以通用配置声明一个独立进程/远程服务mcp_config = {"mcpServers": {"weather-server": {"command": "start-weather-server","args": ["--transport", "sse"]}}}# 框架作为客户端,用标准协议发现并调用该 Server 暴露的工具
Tool Calling 与 MCP 不是替代关系,而是不同层次的能力:前者定义”模型如何表达并触发一次工具调用”,后者在其之上补齐了”能力如何以标准协议被远程、跨团队复用”。RAG 负责”补知识”、Memory 负责”记上下文”,二者由框架主动注入;Tools 与 MCP 则由模型被动决定。把”谁触发、在哪跑、能否复用”这三条主线理清,名词就不再打结。做选型时,回到复用范围、运维能力、延迟要求与安全合规四个维度做条件化判断,而不是纠结谁”更先进”——最贴合你当前架构与团队能力的组合,才是正确答案。