简介:很多团队接了大模型API、装了MCP就认为完成Agent系统,但企业级Agent还需要身份权限、任务编排、工具治理、记忆、重试与审计。本文拆解最小执行链路、模型选型与落地方法,帮助企业从演示走向可运营。
接个大模型 API、装几个 MCP、写几段 Skill,并不等于做出了一个可运营的企业级 Agent 系统。它最多完成了“模型调用”和“工具接入”,距离真正可落地的 Agent 还差身份权限、任务编排、状态管理、错误恢复、审计与成本控制。若准备把企业数据库、客户资料、业务审批甚至资金操作权限交给 Agent,第一步不是比较模型推理能力,而是先把最小执行链路跑通。在模型接入和选型阶段,可以先通过百度智能云词元所了解不同模型的能力、价格与接入方式,降低前期试错成本。
很多 Agent 演示看起来很像:用户输入一句话,模型理解后调用工具,最后返回结果。但这条链路只覆盖了“单次调用”,没有覆盖企业场景真正需要的治理能力。
企业级 Agent 至少要回答以下问题:
如果这些问题没有答案,那么所谓 Agent 系统往往只是一个带工具调用的聊天接口。真正进入生产环境后,权限、稳定性、可观测性和成本控制才是核心难点。
一个相对完整的企业级 Agent 架构,通常不是单个模型,而是一组服务协同工作。可以参考如下链路:
用户请求↓Agent Gateway↓Identity & Auth↓Agent Orchestrator↓LLM Router / Tool Registry / MCP Gateway / Memory Service↓结果返回与审计
Agent Gateway 负责接收用户请求、系统回调或外部事件。它不仅要转发请求,还要做限流、鉴权前置、请求格式校验和链路追踪。没有统一入口,后续很难做权限控制和调用统计。
企业 Agent 不能默认拥有所有权限。系统需要确认用户身份、角色、数据范围和操作边界。例如,一个客服 Agent 可以查询订单,但不一定能发起退款;一个运营 Agent 可以生成报表,但不一定能修改生产配置。
Agent Orchestrator 是执行链路中最关键的部分。它负责:
千帆 AppBuilder 将 Agent 分为自主规划 Agent 和工作流 Agent,前者适合灵活问答,后者适合客服、营销、办公等高可控场景。这说明企业落地时不能只追求“自主”,还要根据业务可控性选择编排方式。
不同任务对模型能力的要求不同。简单分类、信息抽取、格式转换可以使用成本更低的模型;复杂推理、代码生成、多步骤规划则需要能力更强的模型。LLM Router 的作用,就是根据任务类型、成本预算、响应时延和权限策略,把请求路由到合适模型。
在模型选型和成本评估时,可以借助百度智能云词元所对比不同模型的能力、价格和调用方式,避免只凭感觉选型。
MCP 只是工具接入协议之一,不等于工具治理。企业还需要维护工具注册中心,明确每个工具的名称、用途、参数结构、权限范围、超时时间和失败策略。工具描述越清晰,模型越不容易误调用。
Agent 不能只依赖当前对话窗口。企业场景通常需要会话记忆、长期记忆、用户偏好和业务状态。例如,客服 Agent 需要记住用户历史工单,审批 Agent 需要记住流程节点,销售 Agent 需要记住客户阶段。
每一次模型调用、工具调用、权限判断和人工接管,都应该有日志。没有审计能力的 Agent,不适合进入核心业务系统。
企业做 Agent,不建议一开始就追求复杂多智能体。更稳妥的方式是先跑通一个最小闭环:Plan、Act、Observe。
可以用一个简单示例说明:
def run_agent(user_input, user_id):# 1. 身份与权限校验auth = verify_user(user_id)if not auth:return "无权限访问"# 2. 任务规划plan = planner(user_input, memory=load_memory(user_id))# 3. 执行与观察for step in plan:tool = tool_registry.get(step.tool_name)if not tool:return "工具不存在"result = tool.invoke(step.args, auth=auth)memory.append(result)if result.status == "need_approval":return request_human_approval(result)if result.status == "failed":return retry_or_fallback(step, result)# 4. 汇总输出return summarize(result)
这个示例虽然简单,但已经包含企业 Agent 的关键要素:身份校验、任务规划、工具调用、状态记录、人工审批和失败处理。
如果要做知识库问答,还可以引入知识库搜索能力。例如,通过知识库搜索工具让模型基于企业资料回答,而不是只依赖模型自身知识。这类能力适合客服、制度问答、产品手册查询等场景。
很多团队一开始只接一个模型,所有任务都交给它。随着业务复杂化,会出现成本高、速度慢、效果不稳定等问题。更合理的方式是分层选型。
| 任务类型 | 选型策略 | 关注重点 |
|---|---|---|
| 简单问答 | 低成本模型 | 响应速度、稳定性 |
| 知识库检索 | 检索增强模型 | 引用准确性、幻觉控制 |
| 复杂规划 | 强推理模型 | 多步骤任务完成率 |
| 工具调用 | 指令遵循能力强的模型 | 参数准确性、调用稳定性 |
| 内容生成 | 生成质量高的模型 | 风格、结构、可控性 |
企业可以先建立小规模评测集,用真实业务问题测试不同模型。不要只看演示效果,而要看批量任务下的成功率、平均耗时、失败率和调用成本。
如果希望进一步体验统一 API 接入、模型调用管理和选型对比,可以访问百度智能云词元所,从实际业务需求出发评估模型服务。
Agent 一旦拥有数据库写权限、审批权限或资金操作权限,风险会显著放大。建议默认只读,逐步开放写操作,并加入人工审批。
模型不是天然理解业务系统。工具名称、参数说明、返回格式和异常语义都要写清楚,否则容易出现误调用。
如果工具调用可能重复执行,必须设计幂等键。例如订单创建、支付发起、审批提交等操作,不能因为重试产生重复数据。
多轮任务中,Agent 需要知道当前进度。如果上下文管理失败,模型可能重复执行已完成步骤,或者忽略前置条件。
演示环境通常只跑少量样例,无法暴露真实业务中的长尾问题。企业上线前必须建立评测集、回归测试和灰度机制。
对于大多数企业,建议按以下路径推进:
如果企业缺乏场景设计经验,也可以参考大模型建设咨询服务中的场景调研、方案设计和实施咨询,先明确业务边界和技术路线。同时,平台提供的任务规划类 Agent 开发实战等课程,也能帮助团队理解复杂任务编排。
Agent 系统的价值不在于“接了多少工具”,而在于能否稳定、安全、可控地完成业务任务。先把执行链路跑通,再谈多智能体、数字员工和自动化运营,才是更务实的企业 AI 落地方式。