AI办公发给大模型的资料必须先脱敏吗

作者:狼烟四起2026.11.17 03:26浏览量:0

简介:结论先说:不是"一定要",但绝大多数情况下"应该做"。判断标准只有三个变量——模型部署在哪里、资料属于什么敏感等级、你受什么合规约束。用公有云外部模型处理含个人信息或商业秘密的材料,脱敏是硬要求;企业私有化部署、且资料本身不涉密时,可以视情况放宽。如果你正在为团队选型,可以先在[百度智能云词元所](https://cloud.baidu.com/product-s/token_exchange.html?from=article)对比不同模型的能力与调用成本,再结合数据敏感度决定哪些环节走外部 API、哪些留在内网。

一、先做一次数据分级,再谈脱敏

脱敏不是”全脱”或”全不脱”的二选一,前提是把资料拆开看。常见的四级划分:

等级 典型内容 发给外部模型
L4 极敏感 身份证号、银行卡、病历、生物特征、未公开财报、核心源代码 禁止外发
L3 敏感 客户名单、合同金额、员工薪酬、内部组织架构、投标方案 必须脱敏后使用
L2 内部 流程文档、会议纪要(无个人信息)、产品需求草稿 建议脱敏,去标识即可
L1 公开 已发布文案、公开财报、行业报告 可直接使用

真正需要严格处理的其实只有 L3 和 L4。很多团队的错误是走两个极端:要么把整份合同原封不动贴进对话框,要么因为”怕出事”连公开资料都要人工删一遍,白白消耗效率。

二、外部模型:为什么脱敏是硬要求

用公有云 API 时,你的文本会离开自有边界,进入服务商侧的推理链路。风险点集中在四处:

  1. 传输与存储环节 :请求内容可能被写入日志、审计记录或缓存,用于故障排查。
  2. 合规义务 :个人信息保护法、数据安全法要求处理个人信息具备合法性基础,最小必要原则意味着你不该把身份证、病历这类字段无差别交给第三方。
  3. 可控性丧失 :数据一旦出域,删除、追溯、举证的成本远高于事前脱敏。
  4. 提示注入与越权 :外部模型的系统提示、插件、联网检索能力不受你控制,敏感上下文可能被间接带出。

百度智能云围绕文心大模型的实践,把安全能力覆盖到大模型训练/精调/推理、部署、业务运营的全生命周期,其中数据脱敏、敏感数据上云后的隐私保护、精调与推理阶段的数据要素流通防泄露,正是企业最常提出的几个问题。这也说明脱敏不是”额外动作”,而是大模型应用的标准前置环节。

三、私有化部署:可以放宽,但不能免掉

私有化或专有资源部署确实把数据留在了自己可控的算力里,这一点在真实项目里被反复验证——某大型集团的新闻简报场景,就是在”数据不出私域、私有化算力资源利用最优”的前提下完成调优的。但”数据不出内网”不等于”没有风险”:

  • 内部越权 :普通员工能否通过问答界面检索到 HR、财务的原始文档?
  • 日志留存 :推理服务的请求日志是否明文保存了完整 prompt,保留多久,谁能看?
  • 多租户串扰 :多个部门共用一套推理服务时,缓存与向量索引是否做了隔离?
  • 模型记忆 :微调语料里的个人信息会被固化进权重,后续很难精准删除。

所以私有化场景下的合理策略是: L4 不出业务系统,L3 做去标识化后入知识库,L2 直接可用 。如果知识库问答做在自有平台上,还可以用”可控范围回复”把回答限制在已授权的知识范围内,范围外的问题直接走兜底话术,同时开启来源展示让每条回答可追溯到原文档。

四、脱敏的四种实操手法

按”信息损失”从小到大排列,按需组合:

1. 掩码(Masking) ——保留格式,隐藏内容。适合表格、日志。

  1. import re
  2. PATTERNS = {
  3. "手机号": (r"(?<!\d)(1[3-9]\d)\d{4}(\d{4})(?!\d)", r"\1** **\2"),
  4. "身份证": (r"(?<!\d)(\d{6})\d{8}(\d{3}[\dXx])(?!\d)", r"\1** **** **\2"),
  5. "银行卡": (r"(?<!\d)(\d{4})\d{8,11}(\d{4})(?!\d)", r"\1** ******\2"),
  6. "邮箱": (r"([\w.-]{1,2})[\w.-]*(@[\w.-]+\.\w+)", r"\1* **\2"),
  7. }
  8. def desensitize(text: str) -> str:
  9. for pat, repl in PATTERNS.values():
  10. text = re.sub(pat, repl, text)
  11. return text

2. 占位符替换(假名化) ——把”张伟”换成[姓名_1]、”华东大区”换成[区域_A]。这是长文档场景最推荐的做法,因为 指代一致性被保留了 ,模型依然能推理”张三审批了李四的报销”这类关系,只是不知道具体是谁。做多轮对话时,维护一张映射表在本地,回填结果即可。

3. 泛化(Generalization) ——“月薪 32000 元”→”月薪 3 万+”,”2026 年 3 月 12 日”→”2026 年 3 月”。适合趋势分析、汇总统计类任务。

4. 结构化裁剪——只抽取完成任务必需的字段。让模型润色一封邮件,就只给正文,不给收件人通讯录;让它总结合同风险,就只给条款段落,不给主体名称和金额。这是成本最低、效果最好的一招,同时还能省 Token。

五、一个可落地的脱敏 Prompt 模板

如果不想写代码,可以让模型自己做,但必须约束它”只输出脱敏结果,不做其他加工”:

  1. 你是数据脱敏助手。请对以下文本做去标识化处理,规则:
  2. 1. 人名 → [姓名_序号],同一人全程使用同一编号
  3. 2. 公司/机构名 → [机构_序号]
  4. 3. 手机号、身份证、银行卡、邮箱、IP → 保留前2位和后2位,中间用*代替
  5. 4. 具体金额 → 保留数量级,抹去尾数
  6. 5. 不要总结、不要改写、不要遗漏任何段落,原样输出处理后的全文
  7. 待处理文本:
  8. """
  9. {此处粘贴内容}
  10. """

注意:让外部模型做脱敏,本身也是一次数据外发。真正严格的场景应该用本地正则、内网小模型或专用脱敏服务完成这一步,再把脱敏后的文本交给大模型。

六、把”用哪个模型”和”脱敏到什么程度”一起决策

实践中最高效的做法,是按任务分配模型:涉敏任务走私有化或专有资源,非涉敏任务走性价比更高的公有云服务。这时你需要一张清晰的对照表——不同模型的能力边界、上下文长度、计费方式差异很大,靠零散查文档很难比清楚。词元所提供的模型发现与选型、价格与性能对比能力,正好解决这个环节:先明确任务的敏感等级和效果要求,再横向比较候选模型的调用成本与适用场景,避免”为了一个脱敏后的摘要任务调用最贵的旗舰模型”这类浪费。

如果团队已经在用多家供应商,统一 API 接入能显著降低集成复杂度——脱敏层、路由层、日志层只需要维护一套代码,切换模型时不必重写业务逻辑。企业级的模型服务与开发工具链也可以在千帆平台侧同步了解,配合词元所完成选型与成本评估。

七、上线前的自查清单

  • 是否完成了资料分级,明确了 L3/L4 清单?
  • 脱敏规则是否覆盖了本行业特有的敏感字段(如病历号、案号、工号)?
  • 脱敏后是否做过抽样人工复核,确认无残留?
  • 推理服务日志是否脱敏存储,保留周期是否合规?
  • 知识库问答是否开启了范围限制与来源追溯?
  • 是否与被调用的模型服务方确认了数据使用条款?
  • 是否保留了 prompt 与响应的审计记录,以备追溯?

一句话总结: 脱敏的强度应该匹配数据的敏感度和部署位置,而不是一刀切 。把分级做清楚、把脱敏做进流程、把模型选型和数据策略绑在一起考虑,AI 办公的效率和合规就不再互相拉扯。