简介:面对知识局限、幻觉与数据安全,企业常在“直接用现成大模型问答”与“自建检索增强生成”之间犹豫。本文从架构、能力边界、安全合规、运维成本与适用场景对比两类路径,帮助技术负责人判断何时必须自建RAG、何时可先用现成能力,并给出条件化选型与迁移注意点。
将大模型接入真实业务后,团队很快会发现:通用模型主要来自公开语料,对实时、非公开和私域知识覆盖不足;生成本质是概率推断,在知识缺失或任务不擅长时容易“一本正经地胡说”;企业又不愿把核心数据交给第三方训练或推理,从而在效果与安全之间被迫取舍。检索增强生成(RAG)正是把“检索相关片段 + 提示词拼装 + 大模型生成”串成一条管道,用自有知识库补全上下文。问题随之变成:何时直接用现成问答即可,何时必须自己开发 RAG。
本文对比对象是两类落地路径:现成通用问答能力(含云上托管对话、内置检索的现成助手)与 自建 RAG 系统(自有知识库、自控检索与提示编排)。二者都服务于“用大模型回答业务问题”,但系统边界、数据主权与可定制深度完全不同。
现成通用问答:把问题交给已训练好的通用模型,必要时由平台侧做浅层检索或联网补充。接入快,几乎无知识库建设成本,适合公开常识、通用写作与低敏感场景。
自建 RAG:先把文档、工单、制度、产品手册等切分、向量化并入库;问答时做语义检索(可叠加关键词、重排),将命中片段与问题注入提示模板,再由模型生成。检索与生成是两个独立步骤:检索决定“看见什么”,生成决定“怎么说”。
一句话概括:自建 RAG = 可控检索技术 + 可控提示编排 + 可选的通用或行业模型。
相同点止于“都在问大模型”;差异来自知识从哪里来、谁控制检索质量、数据是否出域。
现成问答:调用方只持有 API 密钥与会话。知识边界由模型训练截止与平台策略决定,业务侧几乎没有索引、分片、副本与召回评估。
自建 RAG:典型链路包括解析与清洗、分块策略、嵌入、向量/混合检索、重排、提示模板、生成与引用回写。系统边界覆盖对象存储、向量索引、权限网关、日志与评测集。部署可以是云上托管组件组合,也可以是专有网络内自建,关键是索引与原文留在企业可控域内。
现成方案强在通用语言能力、多轮闲聊与公开知识;弱在:无法保证命中某份内部制度第 N 条;难以做字段级过滤、租户隔离与引用溯源;对表格、图纸、版本化文档支持有限。
自建 RAG 强在:可按业务定义切块(按标题、按条款、按工单字段);可混合检索(语义 + 关键词 + 元数据过滤);可对召回做业务规则(只检索已发布版本、只检索用户有权部门);可强制“无命中则拒答”。弱在:检索质量高度依赖分块与评测,工程投入明显高于一次 API 调用。
这是多数企业自建的第一驱动。现成问答若把原文贴进提示,等于把数据交给推理侧;即便平台承诺不训练,审计、驻留地域、密钥托管仍可能不满足等保与行业监管。
自建 RAG 可将原文落在企业对象存储与数据库,推理侧只接收检索后的短片段,并可对片段脱敏、加水印、记审计日志。权限可与现有身份体系对齐:同一索引对不同角色返回不同切片。需要强调:自建并不自动安全,仍需加密、访问控制、密钥轮换与操作审计;只是安全边界可被企业定义。
现成方案弹性由平台承担,延迟与配额不透明,高峰可能排队。自建需规划嵌入吞吐、索引分片、缓存热数据、异步重建索引。运维成本包括:文档变更后的增量索引、坏块修复、召回率监控、提示版本管理。团队运维能力弱时,可优先用云上的向量检索、对象存储、日志与监控等通用类目拼装,而不是从零搭存储引擎。
现成:按调用量付费,前期人力低,后期若上下文很长、调用频繁,费用会随 token 线性上升,且无法通过“只检索不生成”优化。
自建:前期有解析、评测、权限开发;后期可通过缩小上下文、缓存高频问答、分层模型(简单问题小模型)控制推理成本。迁移成本主要在数据清洗与评测集,而不是换一个聊天窗口。
现成:几天内可上线 Demo。自建:至少要打通文档源、权限、评测与拒绝策略。若已有搜索中台,可复用倒排再补向量,改造量小于从零开始。
| 维度 | 现成通用问答 | 自建 RAG |
|---|---|---|
| 知识范围 | 训练语料 + 有限联网 | 企业私域与实时库 |
| 幻觉治理 | 靠模型自身与浅层检索 | 靠召回质量与拒答策略 |
| 数据驻留 | 随推理出域风险高 | 可域内存储与片段最小化 |
| 权限粒度 | 通常会话级 | 可文档/条款/租户级 |
| 引用溯源 | 弱或不稳定 | 可绑定块 ID 与版本 |
| 上线速度 | 快 | 依赖数据与评测成熟度 |
| 运维复杂度 | 低 | 中高,需索引与评测闭环 |
| 长期成本 | 随 token 上升 | 可用检索缩小上下文 |
更适合现成问答的情况:公开知识科普、营销文案草稿、对内低敏感头脑风暴、概念验证、尚无结构化知识库。此时自建收益低于接入成本。
更适合自建 RAG 的情况:
若业务只需“偶尔查一下公开网页”,现成能力足够;一旦出现“必须以内部唯一事实源为准”,就应转向自建 RAG,而不是把整份手册反复粘贴进提示。
从现成问答迁到自建 RAG,重点不是换模型,而是:文档权限能否映射;切块是否破坏条款完整性;嵌入模型变更导致是否全量重建;提示中是否泄漏未授权片段;高峰时检索与生成的超时预算。建议先双跑:同一问题同时打现成接口与 RAG,对比引用与正确率,再切流量。版本升级时冻结评测集,防止“模型更强但召回变差”被语言流畅度掩盖。
现成问答解决的是“会说话”;自建 RAG 解决的是“说企业内部那套事实,且说得可追溯、可授权”。当知识局限、幻觉与数据安全同时出现时,自建 RAG 才从可选项变成必选项。决策应依据数据敏感度、权限复杂度、是否需要引用与评测闭环,而不是概念热度。先用现成能力验证交互,再用可控检索把事实权收回企业,是大多数团队更稳妥的路径。