简介:本文围绕 AI Agent 端云协同架构,对比“纯端侧模型调用”“确定性云端工作流”“有状态端云协同 Agent”三种方案在设计目标、模型路由、权限边界、故障恢复和任务成本上的差异。文章结合检索、摘要、周报整理和跨会话研究任务等真实场景,帮助技术负责人和开发者判断何时引入 Agent、何时保持确定性流程,以及如何在端侧与云侧之间划分职责、控制授权范围与运维成本。
在 AI 应用从演示走向生产系统的过程中,一个常见误区是:一旦引入大模型能力,就把所有任务都交给一个“自主 Agent”处理。实际上,多数业务场景可以拆分为检索、推理、确定性流程和有状态任务这几类能力。把这些能力混在一起,由同一个提示词、同一个模型调用路径承担所有职责,会带来三类问题:
因此,端云协同设计首先要回答的不是“用哪个模型”,而是“这个任务到底属于哪类系统”。本文围绕这一前提,对比三种常见架构形态:纯端侧模型调用、确定性云端工作流、有状态端云协同 Agent。对比维度包括模型路由、权限边界、故障恢复、任务成本、适用场景与迁移注意事项。
纯端侧模型调用是指在用户设备或本地环境中直接运行小型模型,完成结构清晰、上下文有限、无外部副作用的推理任务。典型例子包括:对已选中的文本做摘要、对单条笔记做关键词提取、对本地图片做初步分类。
这类方案的核心特征是没有工具调用,也不依赖云端状态。模型输入和输出都在本地完成,适合低延迟、高隐私要求、网络不稳定或数据不可出域的场景。
确定性云端工作流是指将任务拆成固定步骤,每一步的输入输出类型已知,流程可复现、可审计。典型例子是“每天从三个数据源提取信息 → 去重 → 生成摘要 → 发送给指定接收人”。
这类方案不要求模型自主规划,而是由工程侧定义好执行顺序、异常分支和重试策略。云端模型只负责流程中的某个环节,例如摘要生成或分类判断。它的价值在于稳定、可预期、可监控。
有状态端云协同 Agent 面向目标不固定、工具使用需要动态决策、任务可能跨多次会话或需要人工审批的场景。例如“下周继续查这个研究问题”,或者“帮我整理周报,如果发现异常数据先问我再发送”。
这类系统需要在端侧和云侧之间维护任务状态、证据链、授权上下文和暂停/恢复能力。它不只是模型调用,还包含运行时、责任边界和审计机制。
尽管架构复杂度不同,三种方案在目标上存在共性:
这些相同点意味着,架构选择不是“要不要模型”,而是“模型在什么边界内运行”。
纯端侧方案不涉及路由,模型固定或按设备能力做简单选择。缺点是遇到复杂任务时能力不足。
确定性云端工作流通常采用静态路由:根据任务类型预先指定模型。例如摘要任务用 A 规格模型,分类任务用 B 规格模型。路由逻辑写在流程配置中,可预测但不够灵活。
有状态端云协同 Agent 需要动态路由:根据任务复杂度、隐私要求、预算上限和上下文长度,在端侧小模型、云端标准模型和高规格模型之间选择。路由因子可能包括:
动态路由的优势是能够在成本和能力之间实时平衡,但需要额外的决策逻辑和监控。端云协同中的路由本质上是一个策略问题,而不是简单的“哪里便宜跑哪里”。
纯端侧方案的权限边界最窄,通常只涉及本地文件读取。只要设备安全,数据基本不出域。
确定性工作流的权限是静态的:每个步骤访问哪些数据源、调用哪些接口,在流程定义时已经固定。即使模型输出变化,工具调用范围不变。
有状态 Agent 的权限必须是动态且可撤销的。例如用户说“帮我发周报给同事”,Agent 需要判断:
这就要求权限系统支持工具级授权、临时授权、人工审批和自动过期。权限边界不仅包括“能做什么”,还包括“做到哪一步需要停下来”。
设计上,比较稳妥的做法是:只有在任务确实需要时,才向 Agent 授予写操作或外发权限;读操作尽量局限在用户已明确授权的范围内;所有敏感操作默认先进入审批状态。
纯端侧方案故障恢复简单。模型推理失败通常返回错误码,由前端提示用户重试即可,不涉及状态回滚。
确定性工作流的故障恢复依赖流程引擎。每一步可以设置重试策略、超时时间和失败分支。如果第三步失败,可以从第三步重跑,而不需要重新执行整个流程。日志里能看到每一步的输入输出哈希,便于定位问题。
有状态 Agent 的故障恢复最复杂。因为任务可能跨多个工具调用和人工交互,失败点可能出现在:
此时需要定义检查点机制:每完成一个关键步骤,就持久化当前状态。恢复时从最近检查点继续,而不是从头开始。同时需要处理重复执行带来的副作用,例如消息是否重复发送、文件是否重复创建。
一个通用做法是为每个工具调用生成幂等键,在执行前检查是否已执行过。对于无法幂等的操作,如发送消息,需要在恢复时先确认状态再决定是否继续。
纯端侧方案的成本主要是设备算力和能耗,几乎没有云资源费用,但受限于模型能力。
确定性工作流的成本可按步骤估算。每一步调用哪个模型、处理多少 Token、是否使用云端存储,都可以提前测算。成本可解释性强,适合预算控制严格的企业场景。
有状态 Agent 的成本最难预测。一次任务可能触发多次模型调用、多次工具调用、多轮人工审批,甚至陷入长链路重试。如果没有预算上限和步数限制,成本可能远超预期。
因此,端云协同 Agent 需要引入预算控制器:当累计调用次数或预估费用超过阈值时,自动降级为端侧模型或请求用户确认。这既是成本控制,也是稳定性保护。
| 维度 | 纯端侧模型调用 | 确定性云端工作流 | 有状态端云协同 Agent |
|---|---|---|---|
| 任务目标 | 固定、单一 | 固定、多步骤 | 动态、多目标 |
| 工具调用 | 无 | 固定工具链 | 动态工具选择 |
| 模型路由 | 不涉及 | 静态配置 | 动态策略 |
| 权限边界 | 本地文件级 | 流程级静态授权 | 工具级动态授权 |
| 故障恢复 | 简单重试 | 步骤级重试与检查点 | 全局检查点与幂等控制 |
| 成本可预测性 | 高 | 高到中等 | 低到中等 |
| 状态管理 | 无状态 | 流程状态 | 任务状态+会话状态 |
| 人工介入 | 无 | 可选 | 常需审批或接管 |
| 适用场景 | 单次推理 | 定期批处理 | 复杂研究、协作任务 |
这个场景的核心是检索增强生成,而不是自主行动。用户需要的是证据定位和引用校验,工具副作用很小。适合采用“端侧解析 + 云端检索与推理”的确定性工作流形式。解析可以在本地完成以保护原始文件,云端只接收脱敏后的文本块和查询语句。模型路由按查询复杂度选择,不需要引入 Agent 的自主规划能力。
这是典型的定时批处理任务,步骤固定,入口和出口已知。适合确定性云端工作流。只要数据源稳定、接收人固定,流程可以长期运行而无需模型做额外决策。如果某天数据异常,可以设置规则自动标记,而不是让模型自行判断是否发送。
这个场景中有条件分支和人工确认环节。如果一切正常,按固定模板生成周报并发送;如果数据异常,需要暂停并询问用户。此时适合引入轻量级 Agent,但权限要限定在“读取周报所需数据”和“发送给指定接收人”两个工具上,其他权限不开放。
这个场景要求跨会话状态保持。端侧需要保存用户当前的研究进度、已阅读的文档列表、已排除的关键词等。云端需要根据这些状态调整下一次检索策略。适合有状态端云协同 Agent,但必须提供清晰的暂停和恢复入口,不能让用户重新描述一遍任务。
在实际选型时,可以按以下条件逐项判断:
一个比较务实的路径是:先做确定性工作流,把模型能力封装在固定步骤中;当发现某些步骤确实需要动态决策时,再将该步骤替换为受限的 Agent 组件,而不是一开始就把整个业务交给 Agent。
如果已有系统需要从确定性工作流向端云协同 Agent 演进,或者反过来收窄能力,需要注意以下几点:
原有工作流的状态可能存储在流程引擎中,Agent 需要额外的会话状态和任务状态存储。迁移时要确定哪些状态需要保留、格式如何转换、历史记录是否可回放。跨会话任务尤其要设计清晰的状态版本号,避免升级后无法恢复旧任务。
如果从 Agent 回退到确定性流程,需要立即回收工具授权,尤其是写操作和外发操作。未使用的临时令牌应及时过期。权限系统应支持按任务类型批量调整,而不是逐个手动修改。
原先工作流的检查点可能只覆盖步骤级,Agent 需要更细粒度的工具级检查点。新增检查点逻辑后,要测试从不同位置恢复时是否会产生重复副作用。幂等设计是迁移中最容易被忽视的部分。
引入动态路由后,成本不再是一个固定值。需要建立按用户、按任务、按模型规格统计成本的看板。当某类任务成本异常上升时,能够快速定位是路由策略问题还是模型调用次数失控。
端云协同 Agent 涉及端侧状态同步、云端任务调度、工具调用追踪和人机交互。运维团队需要具备跨端日志关联能力。端侧日志和云端日志要有统一的追踪 ID,否则问题定位会非常困难。
端云协同架构的核心不是把模型放在哪里,而是把任务的确定性部分和不确定性部分分开处理。纯端侧模型调用适合无副作用的轻量推理;确定性云端工作流适合步骤固定、可审计的批处理场景;有状态端云协同 Agent 适合目标多变、需要跨会话和动态工具调用的复杂任务。
三者的区别集中体现在模型路由、权限边界、故障恢复和任务成本四个维度。路由决定用哪个模型,权限决定模型能做什么,故障恢复决定系统有多可靠,成本决定方案能否长期运行。选型时不应追求“更智能”,而应追求“更合适”。在多数生产系统中,确定性流程加少量受限 Agent 组件的组合,往往比一个全自主 Agent 更务实、更可控。