简介:本文围绕企业制度问答、合同审查、数据查询和设备运维等典型场景,说明为什么需要在RAG、AI工作流和AI智能体之间做选择,并给出各技术路线适用的问题类型、核心模块与落地要点。读者可据此判断技术路线,提前规避数据权限、效果评估和运维方面的风险。
企业引入大模型后,通常很快会遇到一个问题:通用模型能流畅对话,却不了解本企业的规章制度、合同条款、设备手册和业务数据。把企业内部知识与业务流程接入模型,是企业级应用的核心工作。
本文讨论的场景是:企业内部已积累大量非结构化文档(如制度文件、合同、手册、报告)和结构化数据(如业务数据库、财务流水),希望借助大模型完成问答、审查、解析、查询和辅助决策。实现这些需求的技术路径大致分为三类:
三种路线解决的问题不同。选型错误会导致成本偏高、回答质量不稳定,或者后期维护困难。
在企业环境中,大模型应用常见以下挑战:
这些痛点并非某一种技术能单独解决。选型时需要先判断问题属于哪一类,再决定技术组合。
从技术角度看,企业级大模型应用通常需要以下基础能力:
能力需求要与场景匹配。例如,制度问答主要依赖文档处理和检索能力,而信贷尽调则需要编排能力、工具调用能力和审计能力共同支撑。
| 维度 | RAG | AI工作流 | AI智能体 |
|---|---|---|---|
| 典型任务 | 知识问答、政策查询 | 合同审查、数据解析 | 多步调查、自主规划 |
| 执行路径 | 固定:检索后生成 | 预定义步骤 | 动态决策 |
| 可预测性 | 较高 | 高 | 较低,需要约束 |
| 主要风险 | 检索不准、幻觉 | 步骤僵化、异常分支多 | 行为不可控、成本波动 |
| 维护重点 | 知识库更新、切分策略 | 流程版本与节点监控 | 工具权限、目标边界、轨迹审计 |
选型可参考以下原则:
在多数企业项目中,三者会组合使用。例如,工作流负责整体流程,其中某个节点调用RAG检索依据,而智能体只在需要开放式调查的环节介入。
一个可持续运行的大模型应用,通常按以下路径推进:
每个阶段都应保留可回溯记录。出现效果下降时,团队才能判断问题出在数据、检索、模型还是流程。
以企业制度问答为例,一个基础RAG流程可以抽象为以下伪代码:
function answer_policy_question(user, question):# 1. 校验用户身份与可访问的知识范围scope = get_accessible_scope(user)# 2. 混合检索,并附加权限与版本过滤条件chunks = hybrid_search(query = question,filter = { department: scope.departments, status: "effective" },top_k = 5)# 3. 若无相关内容,直接返回未找到依据,避免模型臆测if chunks is empty:return "未在可访问的制度文件中找到相关依据"# 4. 组装提示词,要求模型仅依据给定内容作答并标注来源prompt = build_prompt(question, chunks, require_citation = true)answer = call_model(prompt)# 5. 记录请求、检索结果与回答,供审计与评估使用write_audit_log(user, question, chunks, answer)return answer
这一流程体现了几个关键点:权限过滤在检索阶段完成,而不是在生成之后;无依据时明确拒答;回答附带来源,便于人工核对。
在合同审查场景中,工作流的模块划分通常包括:文档解析、条款切分、风险规则匹配、模型语义判断、人工复核和报告生成。每个节点的输出都应结构化保存,方便后续比对与追溯。
在设备运维场景中,智能体可以接入设备状态数据、历史故障记录和维修手册检索能力。它可以先查询异常指标,再检索相似故障,最后生成排查建议。工具调用需要限定为只读操作,任何修改设备参数的动作都要经过人工确认。
1. 数据质量
切分策略直接影响检索效果。过长的片段会引入无关信息,过短的片段会丢失上下文。表格和图片需要单独处理,不能简单按字符切分。建议为每个片段保存来源文件、章节、版本和生效时间等元数据。
2. 权限控制
权限应与原始文档系统保持一致,并在检索和工具调用两个层面生效。避免只在前端隐藏结果,否则敏感内容仍可能通过模型回答泄露。审计日志需要记录谁在何时查询了哪些内容。
3. 稳定性
外部模型服务可能出现超时或限流。调用链路需要设置超时时间、重试次数和降级方案,例如切换为仅返回检索片段的模式。对于智能体,还需要设置最大步数和成本上限,防止无限循环。
4. 效果评估
评测集应来自真实业务问题,并覆盖正常问题、模糊问题和无答案问题。评估指标可包括检索命中率、回答与依据的一致性、流程完成率和人工修正率。每次更新知识库或提示词后,都应执行回归测试。
5. 成本控制
模型调用、向量计算和存储都会产生费用。可以通过缓存高频问题、压缩上下文长度、按任务难度选择模型规格等方式控制成本。对智能体而言,单次任务的平均步数是重要的成本观测指标。
6. 可维护性
流程配置、提示词和知识库应纳入版本管理。变更时保留回滚路径,并通过灰度发布降低影响范围。
同一套基础能力可以延伸到多个相近场景:
扩展时应保持场景边界清晰。每新增一个场景,都要重新评估数据来源、权限要求和风险等级。
企业大模型应用的核心价值在于让内部知识和业务流程被模型有效利用。RAG适合解决有依据的知识问答,工作流适合处理步骤清晰的复杂任务,智能体适合在目标明确但路径不确定的场景中辅助决策。三者没有绝对的优劣,取决于任务性质、可接受的风险和团队的维护能力。
落地时,数据质量、权限控制、稳定性、评估体系和成本管理,通常比模型选择更能决定项目成败。后续优化可以从扩大评测覆盖、细化检索策略、完善工具权限和建立更完整的审计体系入手,逐步让应用从单点试验走向稳定运行。