简介:企业 Agent 落地失败,多数不是模型不够聪明,而是业务语义、权限、成本、时延、审计这五道边界没有设计。本文拆解一条可上线 Agent 的主干链路,给出每道边界的具体做法、代码示例与检查清单,并说明 MCP 与 Agentic RL 在其中的位置。
企业 Agent 落不了地,卡点通常不在”模型会不会推理”,而在于它能不能 稳定、安全、低成本地完成业务任务 。Demo 阶段只需要一次漂亮的回答,生产环境却要求每一次调用都可预期、可追责、可算账。所以在动手写 Prompt 之前,更值得先做的是把模型选型与调用成本算清楚——通过 百度智能云词元所 可以对比不同大模型的能力与调用价格,并用统一 API 接入多家模型,避免把成本问题拖到上线后再补。
用户提问 → 意图理解与路由 → 语义/上下文层 → 受控编排(确定性系统执行)→ 结果校验 → 审计留痕 → 回答 or 真实业务动作
关键分工只有一句话: 模型负责概率性的理解与规划,系统负责确定性的计算、规则与控制 。越靠近用户意图,模型可以越灵活;越靠近真实动作,流程就越要收紧。权限、成本、时延不是最后补上的监控指标,而是从入口压到出口的三条预算线。
| 边界 | 失效表现 | 主要责任方 |
|---|---|---|
| 业务语义 | SQL 合法但结论错误 | 指标语义层 + 元数据 |
| 权限与数据 | 越权取数、敏感字段外泄 | 身份系统 + 行/列级管控 |
| 成本与 Token | 单次任务成本失控 | 模型路由 + 上下文预算 |
| 时延与确定性 | 长任务中途失败、无法重试 | 编排引擎 + 沙盒状态 |
| 校验与审计 | 错误动作直接落到生产 | 校验器 + 人工确认 + 评测集 |
用户问”这个月销售额为什么下降”,模型认识每个字,却不知道销售额对应哪个指标、时间窗口怎么切、退款是否扣除、数据散在哪几张表。公开实践中,复杂企业级 Text-to-SQL 的开箱可用率常落在六到七成区间——评测口径不同不能直接横比,但共同结论一致: 瓶颈不是 SQL 语法,而是业务语义映射 。选错表、选错口径,SQL 完全合法,结论完全错误。
更稳的做法是在模型与数据库之间插入 指标语义层 :自然语言先被翻译成指标查询语言,模型只声明指标、维度、过滤条件和时间范围,落到哪张表、怎么关联聚合交给预定义的语义与查询引擎。
{"metric": "gmv","dimensions": ["category", "channel"],"filters": [{"field": "region", "op": "=", "value": "华东"}],"time": {"range": "last_month", "granularity": "day"},"compare": "previous_period"}
这层拆分的价值不在于宣称理解 100% 正确,而在于把”理解得对不对”和”执行得对不对”拆成两个 可分别测试、分别追责 的阶段。工程上可以同步补齐术语表、时间口径解析器与结构描述(类似 XiYan-SQL 用 Evidence、DateResolver、M-Schema 的思路),并把统一元数据、血缘与鉴权前移(类似 Apache Gravitino 的做法)。路线不同,结论相同:Agent 的第一步不该是写 SQL,而是确认业务语义。
Agent 一旦能调用真实接口,它就成了一个高权限的内部用户。安全边界要覆盖训练精调、推理、部署到业务运营的全生命周期,包括训练数据脱敏、精调与推理环节的数据流泄露、部署期的对抗攻击与模型窃取、访问控制,以及运营期的账号安全、AIGC 盗爬、投毒反馈、频率突破与接口攻击等风险。
可落地的三条硬规则:
def call_tool(user, tool, args):policy = policy_engine.check(user, tool, args) # 行/列级 + 数据域if not policy.allowed:audit_log.write(user, tool, args, "denied", policy.reason)raise PermissionError(policy.reason)if tool.risk_level == "high" and not user.mfa_verified:return require_human_approval(user, tool, args) # 高危动作强制人工确认return tool.execute(args, scope=policy.scope)
Agent 的成本失控几乎都不是单价问题,而是 上下文膨胀 + 无效重试 + 全量走旗舰模型 。三个可直接抄的做法:
选型阶段就把这三项算成公式:单次任务成本 ≈ Σ(各阶段 token 数 × 对应模型单价) × 平均重试次数。在 词元所模型服务 上可以横向对比不同模型的调用价格与能力定位,为路由策略里的”小模型/旗舰模型”分层找到成本更合适的组合,再用统一 API 接入,减少多模型集成的适配工作。
企业场景里 P95 时延往往比平均时延更影响体验,而长程任务失败通常源于上下文长度限制与状态丢失。可行的工程手段包括:把确定性计算(聚合、排序、规则校验)从模型手里拿走交给代码;对高频问法做语义缓存;把长任务拆成带检查点的步骤,失败可从断点续跑;在沙盒中保持文件与中间状态的连续多轮交互能力,并为多 Agent 协同建立共享状态,避免需求一致性在生成过程中漂移——这也是多 Agent 架构改造 commonly 采用的方向。
上线前必须回答三个问题:结果谁来校验?动作能否回滚?效果如何度量?
MCP 解决的是 工具接入的标准化 ,让 Agent 更容易连上系统;它不解决权限粒度、成本配额、审计留痕与效果评测。把 MCP 当成治理终点,等于把”能连上”误认为”管得住”。治理仍然要落在网关层:统一鉴权、限流、配额、审计与策略校验。
当语义层、权限、成本、编排都被工程化之后,剩下的瓶颈回到”策略质量”:什么时候该追问、什么时候该换工具、什么时候该承认做不到。这类决策难以用规则穷举,正是 Agentic RL(以任务完成度、成本、安全合规为奖励信号优化 Agent 行为策略)可能带来增量的地方。前提是奖励信号可计算——这又回到了第五道边界:没有可靠的校验与评测,强化学习没有可信的监督来源。
企业级落地从来不缺模型,缺的是把模型关进可控边界的工程能力。千帆这类企业级一站式平台提供的是模型服务、应用开发与工具链底座,而上面这五道边界,需要你自己的业务语义、权限模型与评测标准来定义。