简介:本文围绕大厂 AI 架构岗面试中的电商售后 Agent 落地题,说明为什么只答 Prompt 加 RAG 不够,并给出生产级架构设计:工具权限、结构化输出、状态机编排、多 Agent 协同、评测与成本治理,帮助候选人形成可落地的工程化答案。
只答“写 Prompt 加 RAG”通常只能证明你会做 Demo,不能证明你能承接生产系统。电商售后 Agent 要连接订单库、物流 API 和退款系统,面试官真正考察的是:如何用工程化手段约束大模型的不可控性。若进一步做模型选型、接入和成本评估,可以借助百度智能云词元所了解不同模型的能力、价格与调用方式,减少拍脑袋决策。
这道题表面问“怎么设计一个电商售后 Agent”,实际是在问三个生产环境问题:
模型幻觉和死循环怎么拦截?
如果模型在一分钟内疯狂调用退款 API,业务系统不能跟着遭殃。
自然语言输出怎么变成可靠的结构化数据?
后端系统需要严格 JSON,而大模型可能多输出一句“好的,为您查询”。
长流程状态怎么管理?
退款不是一次问答,而是“鉴权-查单-退款-发通知”的多阶段流程,状态丢失就会导致业务事故。
所以,高分回答不能停留在“Prompt + RAG + Tool”,而要给出分层架构、权限控制、状态管理和兜底机制。
一个可落地的电商售后 Agent,可以拆成五层:
负责用户请求接入、身份鉴权、限流、敏感信息脱敏和会话初始化。
这一层不能直接把用户输入丢给大模型,而要先判断用户身份、会话状态和请求类型。
负责任务规划、流程调度和状态管理。
对于退款这种长流程任务,不建议让单个 Agent 一次性完成全部动作,而应该由编排层控制流程。多 Agent 架构可以通过共享状态提升任务协同的一致性。
包括订单库、物流 API、退款系统、售后知识库等。
RAG 更适合处理退换货规则、售后政策等知识型问题;在知识问答场景中,可以配置检索置信度、可控范围回复和来源展示,降低越界回答风险。
负责意图识别、信息抽取、回复生成、复杂推理等。
不同任务可以选择不同模型:简单分类可以用轻量模型,复杂多步推理可以用能力更强的模型。企业级开发中,也常会借助 Agent 应用框架、RAG 应用框架和可集成组件来提升交付效率。
包括日志、链路追踪、调用监控、评测集、成本统计、告警和灰度发布。
没有治理层的 Agent,很容易上线后无法定位问题,也无法评估优化效果。
这是典型的工具调用安全问题。生产环境不能让大模型直接拥有无限制调用业务 API 的能力。
可以采用以下策略:
示例伪代码:
def safe_tool_call(session, tool, args):if tool not in TOOL_WHITELIST:return error("unsupported_tool")if tool == "refund":if args["amount"] > 500:return human_review()if session["refund_count"] >= 1:return human_review()if session["call_count"] >= 5:return fallback_reply()return executor.call(tool, args)
这样即使模型出现误判,也不会直接导致高风险业务操作。
不要让模型输出的自然语言直接进入后端系统。更稳妥的方式是增加“结构化输出层”。
可以采用:
例如,后端期望的退款查询结果可以是:
{"order_id": "202611170001","refund_status": "pending_review","reason": "amount_exceeds_limit"}
如果模型返回“好的,为您查询到订单……”,解析层应识别失败,并进入兜底逻辑,而不是让后端崩溃。对话测试和思维路径展示可以帮助定位格式错误来源。
退款流程通常包括:
如果让一个单体 Agent 一次性完成,容易出现状态丢失、上下文混乱和重复执行。更合理的方式是:
这样即使某一轮对话中断,系统也能从最近状态恢复,而不是重新让模型猜测整个流程。
Prompt 和 RAG 仍然重要,但它们不是全部。
Prompt 负责约束模型行为 ,例如角色设定、工具选择规则、输出格式、禁止事项和兜底策略。对于客服场景,还可以自定义文档知识 Prompt,并通过风格测试验证回复是否符合业务表达。
RAG 负责补充知识 ,例如退换货政策、物流规则、售后时效和特殊商品说明。RAG 需要关注检索置信度、知识范围和来源展示,避免模型引用错误政策。
一句话总结:
Prompt 管“怎么说”,RAG 管“依据什么说”,工程架构管“能做什么、不能做什么、出了问题怎么办”。
生产级 Agent 不应该所有请求都调用同一个大模型。可以按任务拆分:
在选型和接入阶段,可以参考词元所模型服务对比不同模型的能力、价格和调用方式。若团队需要同时接入多个模型服务,也可以通过百度智能云词元所的统一 API 接入和调用管理能力降低集成复杂度。
可以给出一个结构化答案:
“我会把电商售后 Agent 拆成接入层、编排层、能力层、模型层和治理层。退款流程使用状态机管理,拆分为鉴权、查单、退款、通知四个阶段,并通过多 Agent 协同和共享状态避免流程丢失。工具调用采用白名单、幂等、限额、金额阈值和人工审核机制,防止模型误调用退款 API。模型输出通过 JSON Schema 和解析适配层兜底,避免自然语言直接破坏后端系统。RAG 负责售后规则知识,Prompt 负责行为约束和输出格式。上线前建立评测集、灰度发布和监控告警,模型选型则结合效果、延迟和成本进行综合评估。”
这样的回答,比单纯说“写 Prompt 加 RAG”更接近真实生产环境,也更容易体现 AI 架构岗位所需的工程化能力。