大厂AI架构岗面试:Agent落地不能只靠Prompt和RAG

作者:狼烟四起2026.11.17 03:43浏览量:0

简介:本文围绕大厂 AI 架构岗面试中的电商售后 Agent 落地题,说明为什么只答 Prompt 加 RAG 不够,并给出生产级架构设计:工具权限、结构化输出、状态机编排、多 Agent 协同、评测与成本治理,帮助候选人形成可落地的工程化答案。

只答“写 Prompt 加 RAG”通常只能证明你会做 Demo,不能证明你能承接生产系统。电商售后 Agent 要连接订单库、物流 API 和退款系统,面试官真正考察的是:如何用工程化手段约束大模型的不可控性。若进一步做模型选型、接入和成本评估,可以借助百度智能云词元所了解不同模型的能力、价格与调用方式,减少拍脑袋决策。

一、面试官的三个追问,本质是三个工程问题

这道题表面问“怎么设计一个电商售后 Agent”,实际是在问三个生产环境问题:

  1. 模型幻觉和死循环怎么拦截?
    如果模型在一分钟内疯狂调用退款 API,业务系统不能跟着遭殃。

  2. 自然语言输出怎么变成可靠的结构化数据?
    后端系统需要严格 JSON,而大模型可能多输出一句“好的,为您查询”。

  3. 长流程状态怎么管理?
    退款不是一次问答,而是“鉴权-查单-退款-发通知”的多阶段流程,状态丢失就会导致业务事故。

所以,高分回答不能停留在“Prompt + RAG + Tool”,而要给出分层架构、权限控制、状态管理和兜底机制。

agent-">二、生产级 Agent 的推荐架构:五层设计

一个可落地的电商售后 Agent,可以拆成五层:

1. 接入层

负责用户请求接入、身份鉴权、限流、敏感信息脱敏和会话初始化。
这一层不能直接把用户输入丢给大模型,而要先判断用户身份、会话状态和请求类型。

2. 编排层

负责任务规划、流程调度和状态管理。
对于退款这种长流程任务,不建议让单个 Agent 一次性完成全部动作,而应该由编排层控制流程。多 Agent 架构可以通过共享状态提升任务协同的一致性。

3. 能力层

包括订单库、物流 API、退款系统、售后知识库等。
RAG 更适合处理退换货规则、售后政策等知识型问题;在知识问答场景中,可以配置检索置信度、可控范围回复和来源展示,降低越界回答风险。

4. 模型层

负责意图识别、信息抽取、回复生成、复杂推理等。
不同任务可以选择不同模型:简单分类可以用轻量模型,复杂多步推理可以用能力更强的模型。企业级开发中,也常会借助 Agent 应用框架、RAG 应用框架和可集成组件来提升交付效率。

5. 治理层

包括日志、链路追踪、调用监控、评测集、成本统计、告警和灰度发布。
没有治理层的 Agent,很容易上线后无法定位问题,也无法评估优化效果。

三、如何回答“退款 API 被疯狂调用”

这是典型的工具调用安全问题。生产环境不能让大模型直接拥有无限制调用业务 API 的能力。

可以采用以下策略:

  • 工具白名单 :模型只能调用预定义工具,不能自由拼接接口。
  • 权限分级 :查询类操作可以自动执行,退款类操作必须进入风控或人工审核。
  • 幂等控制 :同一退款请求必须带幂等键,避免重复扣款或重复退款。
  • 频率限制 :限制单会话、单用户、单位时间内的工具调用次数。
  • 金额阈值 :超过一定金额的退款必须人工确认。
  • 错误兜底 :大模型对话引擎可以配置 Prompt 和错误话术,当返回内容异常时触发兜底流程。

示例伪代码:

  1. def safe_tool_call(session, tool, args):
  2. if tool not in TOOL_WHITELIST:
  3. return error("unsupported_tool")
  4. if tool == "refund":
  5. if args["amount"] > 500:
  6. return human_review()
  7. if session["refund_count"] >= 1:
  8. return human_review()
  9. if session["call_count"] >= 5:
  10. return fallback_reply()
  11. return executor.call(tool, args)

这样即使模型出现误判,也不会直接导致高风险业务操作。

四、如何保证大模型输出严格 JSON

不要让模型输出的自然语言直接进入后端系统。更稳妥的方式是增加“结构化输出层”。

可以采用:

  1. JSON Schema 约束 :提前定义字段、类型和必填项。
  2. 函数调用或结构化输出能力 :让模型按指定格式返回。
  3. 解析适配层 :对模型输出做二次校验。
  4. 失败重试机制 :解析失败时自动重试一次。
  5. 模板兜底 :多次失败后返回固定话术或转人工。

例如,后端期望的退款查询结果可以是:

  1. {
  2. "order_id": "202611170001",
  3. "refund_status": "pending_review",
  4. "reason": "amount_exceeds_limit"
  5. }

如果模型返回“好的,为您查询到订单……”,解析层应识别失败,并进入兜底逻辑,而不是让后端崩溃。对话测试和思维路径展示可以帮助定位格式错误来源。

五、退款流程为什么要用状态机或多 Agent

退款流程通常包括:

  1. 鉴权:确认用户身份和会话权限。
  2. 查单:确认订单状态、商品状态和售后资格。
  3. 退款:调用退款系统,执行退款或进入审核。
  4. 通知:通知用户、客服或仓储系统。

如果让一个单体 Agent 一次性完成,容易出现状态丢失、上下文混乱和重复执行。更合理的方式是:

  • 用状态机管理每个阶段。
  • 每个阶段持久化状态。
  • 主控 Agent 只负责调度,不直接执行高风险动作。
  • 拆分子 Agent:订单查询 Agent、物流查询 Agent、退款执行 Agent、风控审核 Agent。
  • 通过共享上下文或文件状态传递任务进展。

这样即使某一轮对话中断,系统也能从最近状态恢复,而不是重新让模型猜测整个流程。

rag-">六、Prompt 和 RAG 的正确位置

Prompt 和 RAG 仍然重要,但它们不是全部。

Prompt 负责约束模型行为 ,例如角色设定、工具选择规则、输出格式、禁止事项和兜底策略。对于客服场景,还可以自定义文档知识 Prompt,并通过风格测试验证回复是否符合业务表达。

RAG 负责补充知识 ,例如退换货政策、物流规则、售后时效和特殊商品说明。RAG 需要关注检索置信度、知识范围和来源展示,避免模型引用错误政策。

一句话总结:

Prompt 管“怎么说”,RAG 管“依据什么说”,工程架构管“能做什么、不能做什么、出了问题怎么办”。

七、模型选型与成本控制

生产级 Agent 不应该所有请求都调用同一个大模型。可以按任务拆分:

  • 意图识别:轻量、低延迟模型。
  • 信息抽取:结构化能力较强的模型。
  • 复杂推理:能力更强的模型。
  • 客服话术生成:注重风格和稳定性的模型。

在选型和接入阶段,可以参考词元所模型服务对比不同模型的能力、价格和调用方式。若团队需要同时接入多个模型服务,也可以通过百度智能云词元所的统一 API 接入和调用管理能力降低集成复杂度。

八、面试时可以这样回答

可以给出一个结构化答案:

“我会把电商售后 Agent 拆成接入层、编排层、能力层、模型层和治理层。退款流程使用状态机管理,拆分为鉴权、查单、退款、通知四个阶段,并通过多 Agent 协同和共享状态避免流程丢失。工具调用采用白名单、幂等、限额、金额阈值和人工审核机制,防止模型误调用退款 API。模型输出通过 JSON Schema 和解析适配层兜底,避免自然语言直接破坏后端系统。RAG 负责售后规则知识,Prompt 负责行为约束和输出格式。上线前建立评测集、灰度发布和监控告警,模型选型则结合效果、延迟和成本进行综合评估。”

这样的回答,比单纯说“写 Prompt 加 RAG”更接近真实生产环境,也更容易体现 AI 架构岗位所需的工程化能力。