简介:很多 Agent 让生成模型同时负责路由和写作,链路长、延迟高、结果难校验。本文说明如何把判断与表达拆开,用概率输出驱动分支决策,并介绍候选项设计、阈值设置、概率校准和线上监控的做法,帮助团队判断哪些场景适合引入这类方案,以及上线前需要补充哪些验证。
一个客服 Agent 收到用户留言“上个月的订单还没收到”。系统首先要判断这属于物流查询、退款申请,还是需要人工介入。这一步需要的通常是一个结构化结果,而不是一段完整的回答。
很多系统把路由、分类和工具选择也交给生成模型。开发者在提示词里要求“只返回 JSON”,模型逐字输出,程序再解析字段、处理格式错误、检查候选项是否合法。生成模型同时承担调度、执行和解释三种角色,链路越长,延迟、费用和出错概率越高。
拆分之后,判断层只回答“下一步做什么”,表达层负责把结果说清楚。判断层的要求是低延迟、可验证、可回退。表达层的要求是自然、连贯、便于理解。两者混在一起时,本可以快速完成的路由动作,会被长文本生成拖慢。
一种可行的做法是,不让模型生成开放文本,而是给它一组预先定义的候选项、判断依据和评分标准,让它返回每个候选项的概率。程序不需要解码整段 JSON,只需读取几个数值,再按规则分支。
这种方式适合模型路由、工具选择、策略检查和内容分级等封闭集合问题。它的代价是牺牲了开放式表达能力。概率判断通常不擅长写解释,也不应被要求输出长篇推理。它的价值在于给出可计算、可比较的结果。
需要注意的是,不同厂商的接口、输入格式、模态支持和上下文长度差异很大,且版本迭代较快。开发前应以各家官方文档和模型卡为准,记录当时的版本与日期,不要依赖二手资料中的参数。
概率适合自动化,因为程序可以基于阈值分支:高于阈值就执行,低于阈值就追问或转人工。相比一段“理由充分”的文字,数值更容易被规则引擎、风控系统和工作流消费。
但概率只代表模型在当前输入和候选项下的相对倾向。它会受到选项设计、提示方式、上下文缺失和数据分布变化的影响。如果模型给出“退款 0.82”,这只说明模型倾向于退款分支,并不能证明用户符合退款条件。正确做法是把它当作风险信号,再结合订单状态、售后政策和人工审核等证据判断。
要判断概率是否可信,可以做校准检查。具体方法是,把样本按预测概率分成若干区间,比较每个区间内的实际命中率。若预测 0.8 左右的样本,实际命中率只有 0.5,说明概率偏高,阈值需要重新设定。常用指标包括可靠性图和期望校准误差(ECE)。验证时要保证每个区间有足够样本,否则结果波动很大。
建议企业分阶段推进,避免一次性替换原有系统。
下面是一段示意代码,用于说明流程结构。其中 call_decision_model 是占位函数,实际需替换为所用服务商的 SDK 调用,并补充鉴权、超时、重试和解析校验。
OPTIONS = ["logistics", "refund", "human"]def route(user_message: str) -> str:try:probs = call_decision_model(text=user_message,options=OPTIONS,timeout=2.0,)except Exception:return "human_agent" # 调用失败时直接兜底# 校验返回结构,防止缺字段或概率越界if not all(k in probs and 0.0 <= probs[k] <= 1.0 for k in OPTIONS):return "human_agent"if probs["refund"] >= 0.80:return "refund_flow"if probs["logistics"] >= 0.60:return "logistics_query"return "human_agent"
这段代码的重点是把模型结果纳入可控流程。失败时要有明确的兜底路径,返回结果要先校验再使用。阈值 0.80 和 0.60 只是示例,应根据校准结果调整。
更稳妥的策略是把概率决策作为备选组件,先在高频、低风险、可验证的场景试点,再逐步扩大范围。
| 场景 | 推荐方式 | 原因 |
|---|---|---|
| 规则明确、样本少 | 规则或小模型 | 维护简单,结果稳定 |
| 多模态材料判断 | 决策模型加人工复核 | 可统一处理文本、图像等输入 |
| 开放式回答 | 生成模型 | 需要自然语言表达 |
| 高风险业务 | 决策模型加人工复核 | 概率只能辅助,不能替代证据 |
高风险场景还需要补充合规要求。输入中可能包含身份证号、手机号、地址、支付信息等个人数据,上线前应完成脱敏,明确数据是否会被服务商留存或用于训练,并设置访问权限。每次决策的输入摘要、候选概率、最终分支和操作人应写入日志,便于审计和复盘。
选型时,可以用一张评分表比较多个方案。建议维度包括准确率、延迟、单次成本、支持的模态、上下文长度、数据合规和运维难度。每个维度按业务重要性设定权重,再用同一批测试集打分。只看单一价格或单一演示效果,容易选错方案。
这类方法适合封闭候选集的路由问题,不适合开放生成、复杂推理或需要长篇解释的任务。如果选项无法穷举,或者用户请求超出预设范围,系统应直接走开放对话或转人工,不应强行套入已有选项。
概率决策的价值,在于让 Agent 的一部分动作变得可计算、可测试、可回退。它提供的是一个更结构化、通常更快的路由组件,能让路由、工具选择和策略检查更接近传统软件工程。企业能否用好它,关键在于是否定义清楚选项,是否验证概率与实际结果一致,是否为错误和失败保留退路。先用测试集验证,再逐步扩大范围,风险更可控。