从问答到执行：智能体工作终端架构设计实践

一、背景：企业需要“能干活”的终端，而不只是“能聊天”的手机

过去两年，大模型能力快速下沉到个人终端，内置AI助手已成为智能手机的标配。这类产品在问答、写作、摘要等个人场景表现出色，但企业客户很快发现：它们解决的是“个人效率”，而非“组织效率”。

以销售管理为例，长期存在五个未被技术真正解决的痛点：

1. 获客难：客户线索分散于多个渠道，人工筛选成本高、时效差；
2. 过程黑盒：销售与客户的沟通过程无法被结构化记录，管理者只能看结果，看不到过程；
3. 数据失真：业务数据依赖销售事后手工录入系统，延迟、遗漏与主观美化并存；
4. 资产流失：客户关系沉淀在个人账号与私人关系中，人员离职即客户资产流失；
5. 合规滞后：话术违规、过度承诺等行为往往在投诉发生后才被追溯，缺乏事前防控手段。

因此，业界开始探索一条新路线：面向工作场景的AI原生（AI Native）智能体工作终端。它不是在手机里装一个聊天助手，而是把多模态大模型、决策模型与智能体编排能力嵌入终端与后端体系，让智能体直接执行业务任务，推动销售管理从“传统结果管理”迈向“过程智能管控与人机协同”。

二、核心设计理念：智能体的价值在于执行

判断一个终端是否是真正的智能体工作终端，关键不在对话体验，而在于智能体能否完成“感知—规划—执行—反馈”的完整闭环：

• 感知：通过通话语音流、IM消息、屏幕内容等多模态输入理解业务现场；
• 规划：将业务目标（如“本周完成500个沉睡客户激活”）分解为可执行的任务序列；
• 执行：调用拨号、消息推送、资料发送、系统写入等工具完成具体动作；
• 反馈：将执行结果写回数据资产，并驱动下一轮策略调整。

一句话概括：智能体不止回答问题，更要参与工作、执行任务、创造业务价值。最终形态是构建以人为核心、智能体为执行力量、数据与模型为驱动力的AI Native组织——人聚焦高意向客户的深度沟通，机器承担大量重复性低价值劳动。

三、整体技术架构：五层解耦设计

一套企业级智能体工作终端的参考架构，通常可划分为五层：

L1 终端硬件层：提供端侧NPU算力与可信执行环境（TEE），支撑本地模型推理与敏感数据的硬件级隔离。

L2 操作系统层：提供统一权限管控、应用沙箱与移动设备管理（MDM）能力，保证企业策略可下发、数据边界可审计。

L3 模型层：采用“端云混合”策略。端侧部署轻量化模型，负责实时意图识别、话术推荐与语音转写；云端部署多模态大模型，负责复杂推理、长上下文分析与知识检索；再叠加面向销售场景的决策模型，完成客户意向评分与商机阶段判断。

L4 智能体编排层：即AgentOS式的编排体系，负责任务分解、工具注册与调用、记忆管理以及人机协同断点控制。

L5 业务应用层：覆盖智能获客、客户触达、销售转化、客户经营、复购管理的全链路能力。

分层的价值在于解耦：模型可独立升级、智能体可独立编排、业务应用可快速迭代，避免“一换模型就重写应用”的烟囱式架构。

四、核心能力模块拆解

1. 智能获客

将多渠道线索统一汇聚后，由决策模型进行意向评分与优先级排序，再按批次分派给外呼智能体或人工销售，把“广撒网”变为“精准触达”。

2. AI外呼与通话智能体

智能体可执行7×24小时的自动外呼、自动接听，自主完成客户初筛、业务资料推送、后续跟进安排等动作，把销售从大量无效呼叫中解放出来。部分方案还会引入语音合成能力复刻真人声线以提升接通体验，但此处存在明确的合规边界：必须获得被复刻者的明确授权，通话中应按法规要求向对方标识AI身份，全过程留痕可审计。技术选型必须让位于合规底线。

3. 会话辅助

在IM沟通场景中，端侧模型实时识别客户意图，从话术库中检索匹配内容，一键生成回复建议，降低新人的上手门槛，同时沉淀优秀话术为组织资产。

4. 过程数据自动沉淀

这是解决“数据失真”的关键：通话自动转写→LLM结构化抽取（客户需求、异议、承诺事项）→自动写入CRM字段，全程无需人工录入。数据采集从“事后补录”变为“过程原生”，管理者首次获得实时、客观的过程视图。

5. 合规风控

对沟通内容进行实时合规检测（敏感承诺、违规话术、飞单风险），触发预警并可中断会话，实现从“事后追溯”到“事前防控”。

五、工程实践：智能体编排的参考实现

编排层是整个体系的“调度中枢”，其核心循环可抽象如下（伪代码）：

class SalesAgent:
    def __init__(self, llm, tools, memory):
        self.llm = llm          # 端侧轻量模型或云端大模型
        self.tools = tools      # 拨号、IM、CRM写入等已注册工具
        self.memory = memory    # 客户上下文与执行历史
    def run(self, goal: str):
        plan = self.llm.plan(goal, context=self.memory.load())
        for task in plan:
            result = self.tools[task.tool].invoke(task.args)
            self.memory.write(task, result)      # 数据闭环
            if self.llm.need_human_review(result):
                yield ReviewRequest(task, result)  # 人机协同断点

两个设计要点：其一，人机协同断点必须显式建模，高价值或高风险动作（报价、合同条款确认）应强制升级给人；其二，记忆写入即数据资产沉淀，所有执行轨迹都应结构化落库，供决策模型持续优化。

端侧部署方面，通用做法是通过量化（INT8/INT4）、知识蒸馏压缩模型体积，在时延、精度与功耗之间权衡；隐私敏感任务（语音转写、意图识别）尽量留在端侧执行。

六、端云协同与基础设施选型

端侧负责实时性与隐私，云端负责重推理与知识库。在云端基础设施层面，团队可按需选用公有云的通用能力类目，例如百度智能云等厂商提供的大模型推理服务、对象存储、消息队列、日志服务与监控告警，快速搭建模型服务化与数据治理底座。选型原则是：用通用类目避免深度绑定，用托管能力降低运维成本，用私有化/混合部署选项满足金融、国央企等行业的合规要求。

七、分阶段落地路径

• 阶段一：数据在线化。通话转写、自动录入上线，先消灭手工录入；
• 阶段二：过程可视化。阶段识别、意向评分与管理看板上线，过程可度量；
• 阶段三：智能体执行。外呼初筛、资料推送等自动化任务逐步放开，人只处理高意向环节；
• 阶段四：组织级AI Native。智能体编排深度嵌入业务流程，形成“人定策略、机器执行、数据反哺”的运转闭环。

效果度量建议围绕四个指标：数据录入率、线索转化率、人均有效沟通时长、合规事件下降率。

八、结语

智能体工作终端的本质，是把大模型从“对话框”搬进“业务现场”。它的技术门槛不在单点模型能力，而在端云一体的架构设计、可审计的数据闭环，以及对人机协同与合规边界的清醒认知。对开发者而言，理解这套分层解耦与编排范式，就掌握了下一代企业级AI终端设计的通用方法论。