大模型+Skill+Prompt搭建Agent指南

作者:Nicky2026.11.17 03:48浏览量:0

简介:本文回答如何用AI模型、Skill和Prompt搭建好用的Agent智能体。基于Java 17、Spring Boot与AgentScope,给出依赖配置、模型接入、提示词设计、技能封装、多Agent编排和Token降本方案,帮助企业把重复工作自动化,提升交付效率并控制调用成本。

搭建好用的 Agent,不是简单调用一次大模型,而是把模型、Skill、Prompt、工具、流程和成本治理组合成可稳定运行的系统。若你要做 Java 技术栈落地,可先通过百度智能云词元所了解不同模型的能力边界、调用成本和统一接入方式,再进入编码阶段。

agentscope">一、技术选型:Java 17 + Spring Boot + AgentScope

对于企业级应用,Java 生态仍然具备稳定、易维护、易集成的优势。一个常见的 Agent 技术栈可以这样选择:

  • JDK:17
  • Spring Boot:4.1.1
  • AgentScope:2.0.2
  • Maven:3.9.16

Maven 核心依赖可以保留为:

  1. <properties>
  2. <java.version>17</java.version>
  3. <agentscope.version>2.0.2</agentscope.version>
  4. </properties>
  5. <dependencies>
  6. <dependency>
  7. <groupId>io.agentscope</groupId>
  8. <artifactId>agentscope-harness</artifactId>
  9. <version>${agentscope.version}</version>
  10. </dependency>
  11. <dependency>
  12. <groupId>io.agentscope</groupId>
  13. <artifactId>agentscope-extensions-model-openai</artifactId>
  14. <version>${agentscope.version}</version>
  15. </dependency>
  16. </dependencies>

agentscope-harness 可以理解为 Agent 的工程化入口,通常会把工作区、长期记忆、会话持久化、子 Agent、沙箱等能力整合到统一构建器中。agentscope-extensions-model-openai 则用于以 OpenAI 兼容协议连接大模型,这样后续切换不同厂商模型时改造成本更低。

二、接入大模型:统一走 OpenAI 兼容协议

很多模型厂商都会提供 OpenAI 兼容接口,因此项目里建议不要把模型调用写死在业务代码中,而是抽象成配置项。

示例配置:

  1. agent:
  2. model:
  3. base-url: https://your-model-endpoint/v1
  4. api-key: ${MODEL_API_KEY}
  5. model-name: your-text-model
  6. embedding-model: your-embedding-model

实际开发时,api-key 不要写入代码仓库,应通过环境变量或配置中心注入。模型名称、Base URL、API Key 三者需要与模型服务商控制台保持一致。

如果团队还不确定该选哪类模型,可以通过词元所模型服务对比不同模型的能力、价格和适用场景。例如:

  • 高频简单问答:优先选择低延迟、低成本的轻量模型。
  • 复杂推理任务:选择能力更强的旗舰模型。
  • 知识库检索:搭配 embedding 模型完成向量化。
  • 多模态任务:根据图片、语音、文档解析需求选择对应能力。

三、Prompt:让 Agent 稳定输出的第一层控制

Agent 不稳定,很多时候不是模型不行,而是 Prompt 没有约束清楚。一个可复用的系统提示词至少应包含四部分:角色、目标、边界、输出格式。

示例:

  1. # 角色
  2. 你是一个企业客服助手,负责回答用户关于订单、售后和物流的问题。
  3. # 目标
  4. 根据用户问题调用合适的 Skill,并给出简洁、可执行的答复。
  5. # 约束
  6. 1. 不确定的信息不要编造。
  7. 2. 涉及订单查询时,必须先调用 query_order Skill。
  8. 3. 如果用户问题超出范围,应提示转人工。
  9. 4. 输出必须结构化,不要输出内部推理过程。
  10. # 输出格式
  11. {
  12. "answer": "给用户的最终回答",
  13. "skill_used": "调用的技能名称",
  14. "need_human": false
  15. }

Prompt 设计的关键不是写得长,而是写得可执行。尤其是企业场景,必须把权限边界、数据来源、失败兜底和输出格式提前定义好。

四、Skill:把业务能力封装成可复用工具

Skill 可以理解为 Agent 可调用的能力单元。它可以是 API、数据库查询、代码函数、知识库检索,也可以是一个复合工作流。一个合格的 Skill 应该包含:

要素 说明
名称 便于模型识别和调用
描述 说明什么时候使用
输入参数 参数名、类型、是否必填
输出结果 返回结构化数据
权限控制 只读、写入、需审批等
异常处理 超时、无数据、权限不足时的策略

例如订单查询 Skill:

  1. {
  2. "name": "query_order",
  3. "description": "根据订单号查询订单状态和物流信息",
  4. "input": {
  5. "orderId": "string"
  6. },
  7. "output": {
  8. "status": "string",
  9. "logistics": "string",
  10. "estimatedArrival": "string"
  11. },
  12. "permission": "read-only"
  13. }

Skill 化的好处是:模型只负责理解和决策,具体业务逻辑由确定性代码执行。这样可以降低幻觉,也方便后续替换模型而不影响业务。

五、从单 Agent 到多 Agent:复杂任务拆解

简单任务可以用单 Agent 完成,但复杂任务建议拆成多个角色:

  1. 规划 Agent:理解用户目标,拆解任务步骤。
  2. 执行 Agent:调用 Skill、API、数据库或代码工具。
  3. 审核 Agent:检查结果是否完整、合规、可交付。
  4. 汇总 Agent:将结果整理成用户可读的最终答复。

例如“生成一份月度运营分析报告”可以拆成:

  1. 用户请求
  2. ↓
  3. 规划 Agent:确定需要哪些数据源
  4. ↓
  5. 执行 Agent:查询订单、流量、售后数据
  6. ↓
  7. 分析 Agent:计算指标并生成结论
  8. ↓
  9. 审核 Agent:检查数据口径和表达风险
  10. ↓
  11. 输出报告

多 Agent 架构适合长链路任务,但也会增加调试复杂度。初期建议先用单 Agent 跑通主流程,再逐步引入子 Agent。

六、降本增效:Token 成本治理

Agent 上线后,成本主要来自模型调用。单次调用成本可以简单理解为:

  1. 单次成本 = 输入 Token 数 × 输入单价 + 输出 Token 数 × 输出单价

常见降本方式包括:

  • 模型分级:简单任务用轻量模型,复杂任务再升级到强模型。
  • 上下文压缩:只保留最近几轮对话,历史内容做摘要。
  • 检索精简:知识库召回不要过多,通常保留最相关片段即可。
  • 缓存复用:高频问题、固定模板、重复查询可缓存结果。
  • 工具替代推理:能用 API 查询的,不要让模型长篇推理。
  • 输出约束:限制回答长度和格式,减少无效 Token。
  • 调用监控:按应用、用户、场景统计调用量和失败率。

当调用量上来后,建议通过大模型 API 服务平台统一管理模型调用情况,及时发现异常消耗和高成本场景。

七、最小落地步骤

如果你要快速搭建一个可用 Agent,可以按以下顺序推进:

  1. 明确一个高频场景,例如客服问答、工单分类、合同摘要。
  2. 选择模型,并配置 OpenAI 兼容接口。
  3. 编写系统 Prompt,明确角色、边界和输出格式。
  4. 封装 1 到 3 个核心 Skill,先跑通主流程。
  5. 增加日志、监控和失败兜底。
  6. 统计 Token 消耗和任务成功率。
  7. 再逐步扩展到多 Agent、知识库和复杂工具链。

真正好用的 Agent,不是模型参数越大越好,而是模型、Skill、Prompt 和工程治理相互配合。先把小场景做稳定,再逐步扩大能力边界,才是更稳妥的降本增效路径。