面向文档解析的轻量级统一识别模型实践

在文档数字化、票据结构化、学术资料解析等场景中，识别环节的准确率与吞吐能力往往直接决定整条流水线的可用性。很多团队在选型时会陷入两难：通用视觉语言大模型识别的泛化能力不错，但推理成本高、响应慢；传统轻量识别模型速度快，却在公式、混排、多行结构上频繁出错。本文从工程实践角度，讨论如何用百兆级参数规模的统一识别模型，在文本与公式混排的文档解析任务上取得准确率与速度的平衡，并给出可复用的设计思路与落地建议。

一、问题定位：先搞清楚时间花在哪里

讨论识别方案之前，有必要先明确文档解析的耗时分布。对常见的技术文档、研报、教材页面做统计可以发现一个稳定的规律：文本行与数学公式这两类内容，通常占据页面区域的绝大部分（在公开的文档解析评测集中，这一比例接近 97%），而解析这些内容所消耗的时间也占到总解析时间的近九成。

这个分布说明一个关键事实：页面里的图表、装饰性元素虽然视觉上显眼，但对解析总耗时的影响远小于正文与公式。因此，识别方案的优化重心应放在文本与公式的识别质量与速度上，而不是盲目追求“全要素、大而全”的模型能力。

由此可以提炼出三个工程目标：

1. 统一建模：文本与公式共用一套识别模型，避免多模型串联带来的级联误差与调度开销；
2. 结构感知：模型不仅要“认字”，还要理解行内换行、段落边界等空间层级信息；
3. 轻量可控：参数量控制在亿级以内，保证单卡甚至边缘设备可部署，推理延迟满足在线服务要求。

二、统一识别模型的能力边界

所谓统一识别，指的是同一个模型同时覆盖以下几类输入：

• 纯文本识别：字符级、单词级、整行、整段；
• 数学公式识别：单行公式与多行公式；
• 混合内容识别：正文与公式交错排布的区域，按阅读顺序输出结构化结果。

统一建模的价值在于减少“先检测、再分类、后识别”的多阶段拆分。多阶段方案中，检测框的偏移、分类器的误判都会向下游传播，公式被误判为普通文本、文本被切碎成多个片段是常见问题。统一模型直接从区域图像映射到带结构的序列，减少了中间环节的错误累积。

需要客观看待的是，轻量统一模型并非在所有维度上都能替代大模型。它的优势集中在高频、结构化程度较高的文档识别任务上；对于极端模糊、手写混排、版式高度非常规的输入，仍需结合预处理与后处理策略。选型时应以业务实际分布为准，而不是单纯比较参数量。

三、关键设计：层级监督训练

传统识别模型通常把页面内容视为一条“扁平序列”，即把所有字符按顺序拼接后做序列到序列的建模。这种做法丢失了文档本身的空间层级信息：哪些字属于同一行、哪一行结束了一个段落、标题与正文的边界在哪里，全都被压平了。

层级监督训练（Hierarchical Supervision Training）的思路是，在训练目标中显式引入结构信号。具体做法是在输出序列中插入特殊的结构标记，例如：

<|ln|>  表示行内换行（同一段落内的换行）
<|pn|>  表示段落结束（段落边界）

模型在解码时不仅要预测字符，还要预测这些结构标记出现的位置。对应的训练样本形如：

第一行文本<|ln|>第二行文本<|pn|>下一段文本<|pn|>

这样做带来三方面收益：

1. 结构可学习：结构标记作为显式监督信号，让模型在训练阶段就把“行”和“段”的概念学进去，而不是依赖后处理规则去猜；
2. 输出可直接消费：解码结果天然带有段落切分信息，下游做字段抽取、段落级检索时无需再跑一遍版面分析；
3. 缓解长序列漂移：扁平序列在长文档上容易出现顺序错乱，结构标记相当于给解码过程提供了锚点，降低跨行、跨段错位的概率。

从更抽象的层面看，这相当于把“阅读”这件事拆成两层：底层是字符识别，上层是版面结构理解，两层在同一个序列生成任务中联合优化。相比“识别模型 + 独立版面分析模型”的两段式方案，层级监督把结构信息内化到了模型参数里，减少了部署组件数量。

四、评测设计：别只看单一准确率指标

评估识别方案时，单一的整体准确率容易掩盖问题。建议按内容类型分层统计：

评测维度	关注点	常见问题
纯文本行	字符错误率、行级完整率	长行截断、标点丢失
单行公式	符号级匹配、结构等价性	上下标错位、括号不匹配
多行公式	对齐关系、换行位置	行间关系丢失
混排区域	阅读顺序正确率	文本与公式交错时顺序错乱

同时应记录推理延迟与吞吐：在固定硬件下测量单页平均耗时、批处理吞吐以及长文档下的显存占用。轻量模型的核心竞争力往往体现在“准确率接近大模型、速度快数倍”这一区间，评测时必须把速度指标和准确率指标放在同一张表里对比，否则选型结论会失真。

此外，公开评测集与业务数据分布往往存在差距。建议在公开集上做基线对比，再构造一批业务真实样本做回归测试，重点关注公式密集页、双栏排版页、表格与正文混排页这三类难例。

五、落地实践：数据处理与部署要点

5.1 训练数据构造

统一识别模型的训练数据需要覆盖文本、公式、混排三类样本，并保证结构标记的一致性。构造流程建议如下：

1. 区域裁剪：从版面标注中裁出文本行、公式行、段落区域，保留原始阅读顺序；
2. 结构标注：按行与段的真实边界插入结构标记，标记位置需与视觉换行严格对应；
3. 混排拼接：将文本段与公式段按原始顺序拼接为一条样本，模拟真实页面中的交错情况；
4. 增强策略：适度使用缩放、轻微旋转、对比度扰动，避免过度增强破坏公式符号的可辨识度。

5.2 推理服务设计

在线服务场景下，建议采用“检测 + 统一识别”的两级流水线：

# 伪代码示意：批量识别流程
regions = layout_detector(page_image)          # 版面检测，输出区域与顺序
batched = group_by_type(regions, max_batch=32) # 按区域尺寸分组，减少填充浪费
for batch in batched:
    results = recognizer.predict(batch)        # 统一识别模型批量推理
structured = merge_by_reading_order(results)   # 按阅读顺序合并，保留结构标记

几个容易被忽视的工程细节：

• 动态批处理：不同区域的宽高差异大，按尺寸分桶可显著降低填充带来的算力浪费；
• 结构标记后处理：解码出的结构标记要在服务层转换为段落数组，避免把标记泄漏给业务方；
• 失败重试策略：对低置信度区域可回退到更高分辨率重识别，而不是整页重跑；
• 缓存：同一文档重复解析时，按页面哈希缓存识别结果，降低重复计算。

5.3 与云上通用能力的配合

在规模化部署时，识别服务通常不是孤立存在的。可以将页面图像存入对象存储，识别任务通过消息队列削峰，服务实例以容器平台弹性伸缩，识别日志与耗时指标接入日志服务与监控告警体系。这套组合属于通用工程实践，与具体厂商无关，重点是让识别服务具备可观测性与弹性。

六、选型建议与边界说明

综合来看，轻量统一识别模型适合以下场景：

• 文档类型相对稳定、以印刷体正文与公式为主；
• 对响应延迟敏感，需要单卡高并发；
• 希望减少流水线组件数量，降低运维复杂度。

不适合直接套用的场景包括：重度手写稿件、极端低质量扫描件、版式高度自由的设计稿。这些场景建议在预处理阶段增加图像增强，或保留大模型作为兜底通道，形成“轻量模型主跑 + 大模型兜底”的分层架构。

最后需要强调，任何识别方案的准确率都高度依赖数据分布匹配度。选型时务必用业务真实样本做小规模验证，分层统计文本、公式、混排三类指标，并结合延迟与成本综合判断。轻量化的价值不在于参数少本身，而在于用更低的单位算力成本覆盖尽可能多的有效识别需求——这正是文档解析流水线最务实的优化方向。