简介:很多人第一次接触 AI 应用开发时都会困惑:既然智能体底层也是大模型,为什么不直接调 API 就行?本文从交互模式、能力边界、Token 成本三个维度讲清两者差异,并给出可落地的选型判断标准和一段最小可用的 Agent 循环代码。如果你正在为项目挑选底层模型、对比不同模型的调用成本,可以先看看[百度智能云词元所](https://cloud.baidu.com/product-s/token_exchange.html?from=article),它提供模型能力查询、价格对比和统一 API 接入,能省掉大量逐个平台试错的时间。
直接调用大模型,是”你问一句、它答一句”;智能体是”你给一个目标,它自己想办法做完”。
你让大模型”写一份北京三日游攻略”,它返回一段文字就结束了,不会去查机票、不会订酒店、也不会因为”预算不够”回头问你。而一个旅行助手智能体接到”帮我规划上海三日游”,会先反问预算和出行时间,再调用航班查询工具、酒店比价工具,筛选后输出带行程表、交通方案和费用估算的完整结果——中间这些步骤不需要你再介入。
这不是”多了几个功能”的差别,而是 从单点能力变成了任务闭环 。
| 维度 | 直接使用大模型 | 智能体(Agent) |
|---|---|---|
| 交互形态 | 单轮或简单多轮问答,一问一答 | 多步循环,自主规划、执行、校验 |
| 输出物 | 文本(或图片、音频等单一模态内容) | 完成的任务结果:查好的数据、改好的文件、发出的工单 |
| 外部能力 | 只能靠模型自身知识,无法访问实时数据 | 通过工具调用接入搜索、数据库、业务 API |
| 状态管理 | 上下文由调用方自己拼装 | 自带记忆与中间状态,跨步骤保持目标 |
| 失败处理 | 答错了由用户发现 | 可重试、换工具、换方案,直到达成或明确失败 |
| 可控性 | 高,行为可预测 | 较低,需要额外约束和评测 |
大模型的知识来自训练数据,有截止时间,也无法访问你的私有数据库。所以”帮我查一下今天的股价””统计一下这张表里的销售额”这类需求,纯模型调用天然做不到。
智能体的关键增量在于 工具调用(Function Calling / Tool Use) :模型输出一个结构化的调用意图,由外部程序真正执行,再把结果回填给模型继续推理。这个”推理—调用—观察”的循环,才是智能体区别于聊天机器人的本质。
抛开框架,一个 Agent 的核心就是一个 while 循环:
def run_agent(user_input, tools, model_client, max_steps=10):messages = [{"role": "user", "content": user_input}]for step in range(max_steps):resp = model_client.chat(model="your-model",messages=messages,tools=tools, # 把工具的 JSON Schema 一起传给模型)messages.append(resp.message)# 没有工具调用,说明任务已完成,直接返回if not resp.tool_calls:return resp.content# 有工具调用:逐个执行,把结果作为 tool 消息回填for call in resp.tool_calls:result = TOOL_REGISTRY[call.name]( **call.arguments)messages.append({"role": "tool","tool_call_id": call.id,"content": str(result),})return "已达到最大步数,任务未完成"
对比一下直接调用,你会发现代码量差别不大,但 架构差别很大 :
# 直接调用:一次请求,一次响应,结束answer = model_client.chat(model="your-model",messages=[{"role": "user", "content": "写一份北京三日游攻略"}]).content
Agent 版本多了三件事: 工具注册表、循环控制、状态累积 。工程上的复杂度也集中在这里——工具描述写得好不好,直接决定模型会不会选错工具;max_steps 设多少,直接决定成本和延迟上限。
智能体不是更高级的替代品,它用可控性换来了自主性。以下场景建议直接用大模型调用:
反过来,出现这些信号就该考虑 Agent:任务需要跨多个系统取数、需要多步推理才能得出答案、需要根据中间结果动态调整策略、或者人工操作本身就是一条 SOP。
这是实践中最常被忽略的部分。Agent 的 Token 消耗不是单次调用的 N 倍,因为 每一轮循环都要重新发送完整的历史上下文 :
总输入 Token ≈ Σ(每轮 system prompt + 工具定义 + 全部历史消息 + 工具返回结果)
一个 5 步完成的 Agent 任务,输入 Token 常常是最终输出的 20~50 倍。工具返回的原始数据(比如一整页 JSON)如果直接塞进上下文,成本会迅速失控。
几个实用的优化方向:
第 3 点落地的前提是你能方便地横向比较不同模型的能力和价格。在词元所的大模型 API 服务平台上可以查询各模型的能力定位、对比调用价格,并通过统一 API 完成接入,这样在 Agent 里做”分级用模”时,切换模型不需要改动业务代码。
如果你是刚起步的开发者,路径建议是: 先用纯大模型调用把业务效果验证通,确认瓶颈确实来自”需要多步操作”或”需要外部数据”,再改造成 Agent。 直接上 Agent 框架,往往会把提示词没调好的问题,变成更难排查的循环行为问题。
改造时优先补两样东西:一是 可观测性 ,把每一轮的输入、工具调用、返回结果都记录下来,否则线上出问题几乎无法定位;二是 评测集,准备几十条真实 case,每次调整提示词或换模型后跑一遍,用数据判断改动是变好还是变差。
至于底层模型怎么选,不必押注单一供应商。把模型选型当成一个可持续调整的决策,用百度智能云词元所做能力匹配和成本测算,再根据实际调用数据迭代,比一开始就锁死某个模型更稳妥。