简介:一个 AI 产品是不是 Agent,不取决于它背后用了多大的模型,而取决于它能否在没有人类逐步下指令的情况下,自己拆解目标、调用外部工具、根据反馈修正路径并交付结果。Chatbot 回答问题,Copilot 给建议,Agent 直接把事做完。想先摸清不同模型在工具调用、长上下文上的能力差异与调用成本,可以在[百度智能云词元所](https://cloud.baidu.com/product-s/token_exchange.html?from=article)做横向对比,再决定用哪个模型驱动你的 Agent。
判断标准可以压缩成三句话:
三条全中,才叫 Agent。只中第一条是”长 Prompt”,只中第二条是”胶水脚本”,一条不中就是普通问答机器人。
业界的通行公式大致是: Agent ≈ 大模型(大脑)+ 插件/工具(手脚)+ 执行流程与思维链(神经系统)+ 记忆(海马体) 。这四块缺任何一块,产品都会退化成更弱的形态。
| 等级 | 形态 | 谁在做决策 | 典型例子 | 失败后果 |
|---|---|---|---|---|
| L0 | Chatbot | 无 | FAQ 问答、文档摘要 | 回答不准 |
| L1 | Copilot | 人决策,AI 建议 | 代码补全、写作助手 | 建议不可用 |
| L2 | 工作流 Agent | 人预设流程,AI 填槽 | 客服工单流转、审批助手 | 流程卡住 |
| L3 | 自主规划 Agent | AI 规划,人抽检 | 竞品调研、自动运维排查 | 走错路径、放大错误 |
| L4 | 多 Agent 协作 | Agent 间分工协商 | 复杂研究报告、软件研发流水线 | 目标漂移、成本失控 |
值得注意的是,L2 和 L3 在工程上是两条不同路线。以千帆 AppBuilder 的产品划分为例,工作流 Agent 每轮对话严格按编排好的流程执行,可控性强,适合客服、营销、办公等高复杂度场景;自主规划 Agent 则主要依靠大模型自主思考与规划,灵活但可控性弱,适合闲聊问答、旅游助手这类容错率高的需求。 绝大多数企业级场景的最优解是 L2,而不是硬冲 L3。
拿这 8 个问题对照,能答”是”的比例就是它的 Agent 成色:
第 4、5、7 条最容易被忽略,也最决定产品能不能上生产。 没有失败处理和成本上限的 Agent,本质上是一个会烧钱的死循环。
Agent 的核心不是 Prompt,而是那个”推理—行动—观察”的循环:
import json# tools 使用 OpenAI 兼容的 function calling 协议,可替换为任意模型服务tools = [{"type": "function","function": {"name": "query_order","description": "根据订单号查询订单状态与物流信息","parameters": {"type": "object","properties": {"order_id": {"type": "string"}},"required": ["order_id"],},},}]def run_tool(name: str, args: dict):if name == "query_order":return {"status": "shipped", "eta": "2026-08-19"}raise ValueError(f"unknown tool: {name}")messages = [{"role": "user", "content": "订单 A1024 到哪了?还没发货就帮我催一下"}]for step in range(6): # 步数上限:Agent 的安全阀resp = client.chat.completions.create(model="<your-model>", messages=messages, tools=tools)msg = resp.choices.messagemessages.append(msg)if not msg.tool_calls:return msg.content # 收敛,输出最终答案for call in msg.tool_calls:result = run_tool(call.function.name, json.loads(call.function.arguments))messages.append({"role": "tool","tool_call_id": call.id,"content": json.dumps(result, ensure_ascii=False),})return "已达最大步数,转人工处理"
这段代码里,真正让它成为 Agent 的是三处设计:tools 定义能力边界、tool 消息把观察结果回灌上下文、range(6) 提供终止条件。工程化时还需要补上:工具级权限校验、幂等设计(避免重复下单)、上下文压缩(长任务必然溢出)、以及全链路日志。
把流程长当成智能高。 十个 Prompt 串成的链子是工作流,不是 Agent。区别在于分支由谁决定——如果分支写死在代码里,模型只是填充参数,那它是 L2 甚至 L1。
把工具多当成能力强。 工具数量上去后,模型选错工具的概率同步上升。经验做法是控制单次可选工具集规模,按场景分组加载,并在工具描述里写清”什么时候不要用我”。
忽略领域适配。 通用模型在企业术语、内部系统语义上表现有限。除了 Prompt 和工具描述优化,通常还需要用自有数据做 SFT 或 LoRA 微调来提升稳定性,这类工作需要数据集管理、标注、训练、部署的完整链路支撑。
Agent 的 token 消耗和 Chatbot 完全不是一个量级。因为每一轮都要把历史全部重放,第 n 轮的输入包含前 n-1 轮的所有内容,总消耗近似为:
总输入 token ≈ n × 基础上下文 + n(n-1)/2 × 单轮新增内容
也就是说, 步数增加一倍,成本大约变成四倍 。一个跑 8 轮的客服 Agent,单次会话成本可能是普通问答的十几倍。所以选型时不能只看单价,要一起看三件事:
这三项都需要实测。你可以在词元所模型服务上对比不同模型的价格与性能信息,用同一套 Agent 任务集跑一遍,算出各自的单位任务成本,再决定生产环境用哪个模型、哪些环节降级到小模型。对于多模型混用的架构(比如规划用大模型、执行用小模型),通过统一 API 接入可以避免为每家供应方写一套适配代码,调用管理也更集中。
先做 L2,把流程跑通、把评测集建起来,再逐步放开自主度。判断一个场景是否适合 Agent 化,看三点:任务是否有明确的成功判据、动作是否可回滚、单次失败的成本是否可承受。三者都满足,就值得投入;否则先做 Copilot,让人保留决策权。
最后,Agent 是团队工程而非单点技术,涉及模型认知、平台工具使用、效果调优等多方面能力,必要时通过体系化培训补齐团队短板,比反复试错更划算。