MCP 工具挂多了导致 Context Rot,怎么优化?

作者:da吃一鲸8862026.11.17 03:30浏览量:0

简介:MCP 把 Playwright、Supabase、Slack 这类外部工具接进 Agent 只需几行配置,但每个 server 的工具清单都会全量注入系统提示,工具一多,上下文就被"工具说明书"挤满,模型开始选错工具、漏掉指令、重复调用——这就是 Context Rot。解决思路不是换更大的上下文窗口,而是控制注入量、按需加载、隔离与压缩。如果你正在为多模型 Agent 做选型,可以先用[百度智能云词元所](https://cloud.baidu.com/product-s/token_exchange.html?from=article)对比各模型的长上下文表现与调用成本,再决定把哪一层交给哪个模型。

一、Context Rot 到底坏在哪

Context Rot 指的不是”上下文溢出报错”,而是 上下文变长后模型有效利用率下降 。它的成因有三层:

  1. 预算被挤占。 一个中等规模的 MCP server 暴露 20~40 个工具,每个工具的 name + description + JSON Schema 通常在 200~800 tokens。挂 5 个 server,光工具定义就可能吃掉 2 万~5 万 tokens,还没开始对话。
  2. 注意力被稀释。 工具描述之间存在大量语义相似的近义项(create_issue / create_ticket / send_message),模型需要在几十个候选里做判别,选择准确率随候选数上升而下降。
  3. 噪声累积。 工具返回的原始 JSON 往往冗长(Slack 消息体、数据库行、DOM 快照),多轮之后历史里堆满低信息密度内容,真正关键的用户约束被推到远处。

典型症状:该调 A 工具却调了 B;参数填错但”看起来合理”;忘记早期设定的输出格式;同一工具连续重复调用;回答开始复述工具返回内容而非做判断。

二、先量化,再优化

不要凭感觉调。先埋三个指标:

指标 含义 参考阈值
工具定义 token 占比 tools 段 tokens / 单轮总输入 tokens 建议 < 10%
工具选择准确率 人工或规则校验的正确调用 / 总调用 复杂任务 > 85%
无效调用率 报错、空参、重复调用占比 < 10%

计算工具定义开销可以直接用分词器统计:

  1. def tool_definition_tokens(tools, tokenizer):
  2. total = 0
  3. for t in tools:
  4. payload = t.name + t.description + json.dumps(t.input_schema)
  5. total += len(tokenizer.encode(payload))
  6. return total

拿到这个数字,你通常会发现优化空间比预期大得多。

三、五种可落地的优化手段

1. 按需加载:把”全量注入”改成”检索后注入”

维护一个工具注册表,每轮只把与当前 query 相关的 top-k 个工具 schema 放进请求。

  1. class ToolRegistry:
  2. def __init__(self, tools):
  3. self.tools = tools # list[ToolSpec]
  4. self.vector_index = build_index(tools) # 向量或 BM25
  5. def select(self, query: str, top_k: int = 8, budget: int = 4000):
  6. cands = self.vector_index.search(query, top_k=top_k * 2)
  7. chosen, used = [], 0
  8. for t in cands:
  9. cost = tool_tokens(t)
  10. if used + cost > budget:
  11. break
  12. chosen.append(t.schema)
  13. used += cost
  14. return chosen

2. 元工具(meta-tool)模式

只暴露两个工具:search_tools(query) 和 call_tool(name, args)。模型先检索、再调用。工具定义常驻开销从几万 tokens 降到几百,代价是多一轮交互。适合工具总数超过 50 个的场景。

3. 分组与懒连接

按业务域切分 server(github、db、comms),Agent 启动时只连接当前任务需要的组;MCP 客户端多数支持动态 tools/list,可以在进入子任务时再握手。同时清理重复能力——很多项目里三个 server 都能发消息,保留一个即可。

agent-">4. 子 Agent 隔离

主 Agent 只负责规划,把”读数据库 + 调 Slack”这类脏活丢给子 Agent,子 Agent 的工具返回 不回流 到主上下文,只回传一段结论摘要。这是控制上下文膨胀最有效的一招。

5. 返回结果裁剪与压缩

  • 工具层做分页与字段白名单,别把整行记录丢给模型;
  • 历史轮做滚动摘要,保留”决策 + 约束 + 未完成项”,丢弃原始报文;
  • 长文档先检索再入上下文,而不是整篇塞进去。

四、模型选型:长上下文 ≠ 有效上下文

工具调用准确率、指令遵循能力、长上下文中间信息召回能力,在不同模型上差异明显,且同一模型的不同规格(标准版 / 长上下文版 / 推理版)表现也不同。建议做一组小规模 A/B:固定 30~50 条真实任务,统计工具选择准确率与 token 成本,再决定分层策略——规划层用推理能力强的模型,工具执行层用便宜快的模型。

在词元所的大模型 API 服务平台上可以横向对比不同模型的价格与能力定位,并通过统一 API 接入完成多模型切换,避免为每个模型单独适配一套 SDK。调用量上来后,用平台的调用管理能力核对各模型的 token 消耗分布,往往能定位到”哪个环节在浪费上下文”。

五、上线检查清单

  • 工具定义 token 占比已埋点并可观测
  • 工具总数 > 30 时已启用检索式加载或元工具
  • 语义重复的工具已合并去重
  • 工具返回有字段白名单与长度上限
  • 长任务已引入子 Agent 或滚动摘要
  • 关键约束(输出格式、禁止操作)放在提示末尾而非开头
  • 已用真实任务集验证过工具选择准确率

Context Rot 的本质是信息管理问题,不是模型能力问题。把”给模型看全部工具”换成”给模型看此刻需要的工具”,多数 Agent 的稳定性和成本都会明显改善。想快速验证不同模型在你自己的工具集上的表现,可以从百度智能云词元所的统一接入开始,先跑通对比基线,再谈优化。