简介：长文档 OCR 解析常面临显存随页数增长、跨页结构断裂与工程化后处理成本高的问题。本文从实际痛点出发，梳理一种面向超长 PDF 与扫描档案的解析思路：通过稀疏参考滑动窗口注意力与分块缓存复用，在控制显存的同时保持表格、段落等跨页内容的连续性，并讨论实现边界与适用场景。阅读本文可帮助开发者理解“无限文档解析”背后的关键设计，以及如何为年报、论文、档案类任务构建可持续运行的解析流程。
在 PDF 解析、档案数字化、年报信息抽取等场景中，OCR 识别单页准确率往往已经不是最大的瓶颈。真正让开发者头疼的问题，通常集中在两方面。
第一，跨页内容断裂。表格跨页时被切成上下两半，字段对不齐；段落跨页时语义被截断，后续信息抽取或向量化时产生噪声；目录与正文页之间的跳转关系也容易丢失。拆页解析简单，但把拆开的内容再“接回去”却非常麻烦。
第二，长序列下的显存与计算压力。页数越多，单步计算中需要参考的历史视觉信息越多，显存占用与计算耗时都会随之上升。几十页的论文尚可接受，但上百页的年报、上千页的扫描档案，如果采用直接堆叠所有页面特征的方式，很容易超出单卡可用资源。
本质上，长文档 OCR 不是单一的识别问题，而是一个长序列建模与资源调度问题。解决思路需要同时回答两个问题：如何让模型持续往下解析而不累计历史负担，以及如何在压低计算开销的同时保留关键的跨页依赖。
面对长文档，最常见的做法是按照固定页数或检测到的章节边界进行拆分，逐块送入 OCR 或文档解析模型，最后再做后处理拼接。这种方案在中等长度文档上表现尚可，但存在明显的局限性。
拆页策略一般包含三种形式：
无论采用哪种拆法，后处理阶段都需要处理复杂的拼接逻辑。表格跨页时，仅靠页面重叠并不能自动恢复表头与单元格对齐关系；段落跨页时，需要通过文本相似度或版面位置判断是否合并，错误合并风险较高。可以说，拆页把“模型端的长序列问题”转移成了“工程端的拼接问题”，总成本并未消失。
因此，更合理的思路不是回避长序列，而是在模型推理机制上直接支持长文档的持续解析。这要求在注意力机制与缓存策略上做结构性调整。
一种更贴近人类阅读长文档的方式是：专注于当前页，仅在需要时回看少量相关历史信息。人抄写到第 500 页时，不会每写一个字都重新翻看前 499 页；只有在遇到跨页表格、延续段落或引用关系时，才会往回翻几页确认。
这一直观想法可以形式化为稀疏参考滑动窗口注意力机制。其核心原则是：页内依赖是密集的，跨页依赖是稀疏的。因此，模型在处理当前页时，主要参考当前页及其邻近页的信息，同时通过少量、精准的远程参考来维持长距离一致性。
具体实现可以拆成两个协同模块。
第一步是减少需要参与注意力计算的页面数量。对于当前第 t 页，并不让所有历史页都直接加入参考集合，而是通过一个页面选择机制，只保留与当前页存在潜在关联的若干页面。
这里的关联性可以基于多种信号综合判断：
通过页面筛选，历史参考范围从“全部页面”缩小为“少量相关页面”，这是降低视觉计算量的第一道关口。
即使只剩少量参考页面，每页内部仍包含大量视觉区域与视觉令牌。如果对这些令牌全部参与注意力计算，开销依然可观。第二道关口因此落在令牌级别。
令牌筛选的目标是：对候选视觉信息块进行相关性打分，只选取少量最相关的远程令牌参与后续计算。视觉信息块可以是图像区域、表格区域、公式区块或粘连文本行等。
打分可以基于与当前解码状态的相关度，例如：
通过页面筛选与令牌筛选的组合，远程视觉参与计算的规模被显著压缩。更重要的是，这种压缩是动态的——根据当前页的实际内容决定回看什么，而不是使用固定规则截断历史信息。
在长文档解析任务中，模型通常需要同时维护文本侧缓存与视觉侧参考。随着页数增多，两类开销都会增长，但增长方式有所不同。
在早期优化中，常见方案是控制文本侧关键值缓存的增长。通过滑动窗口与相对位置设计，模型只需要保留最近若干步的文本状态，历史文本信息以压缩形式存在，从而稳定文本侧的内存占用。
然而，视觉侧的参考规模并不会因此自动下降。如果模型每一步都要关注全部历史视觉令牌，即使文本缓存已被限制，视觉计算仍可能成为新的瓶颈。尤其是扫描文档中，单页视觉令牌数量可能远高于文本令牌数量。
因此，长文档 OCR 的完整优化需要同时覆盖文本侧与视觉侧：
单纯优化其中一项，都可能在更长的文档规模下暴露另一项瓶颈。只有协同设计，才能让“无限解析”在工程上具备可行性。
“无限”并不意味着真的没有资源上限，而是指解析跨度可以持续延伸，同时单步资源消耗保持近似稳定。实现这一目标的关键，在于分块处理与边界缓存复用。
具体来说，整个长文档被划分为多个连续页面块。每个页面块内部独立完成解析，但在块与块之间，会复用边界页的关键值缓存。这样，下一个页面块在初始化时，不需要重新计算上一块的全部历史状态，而是直接继承边界页的上下文信息。
这种做法的收益体现在两方面。
一方面，峰值显存大幅下降。由于任意时刻只需要维护当前页面块及其少量边界缓存，而不是全部历史页面状态，显存占用从与总页数线性相关，降低为与页面块大小及边界缓存规模相关。在同类长文档基准测试中，单序列推理条件下，关键值缓存峰值显存可以从数十 GB 级别降至几 GB 级别。这并不是识别精度上的变化，而是推理资源管理方式的变化。
另一方面，每一步解码成本保持近似稳定。随着解析向后推进，每一步所消耗的计算资源不会因历史页数增加而持续攀升。这使得数千页文档的持续解析在工程上成为可能。
但需要明确的是，总处理时间仍会随页数增加而线性增长。“无限跨度”指的是模型处理长文档的能力边界被显著拓展，而不是说整本书的解析时间可以忽略页数。
针对长文档 OCR 任务，相关设计思路可以给实际工程带来几点启发。
第一，尽量在推理阶段解决长序列问题，而非把成本全部转嫁给后处理。 拆页与拼接虽然直观，但在复杂版面、大量表格、跨页段落密集的文档中，后处理复杂度与误差累积非常明显。优先选择或构建支持长跨度推理的解析方案，能显著简化整体流水线。
第二，评估模型时，不要只看单页准确率。 多页文档上的综合指标更值得关注，包括跨页表格恢复准确率、段落合并正确率、长序列推理下的显存峰值与每页平均耗时。单页效果好但长文档推理能力弱的模型，在实际业务中往往难以直接应用。
第三，合理设计分块策略与缓存复用边界。 在自建长文档解析流水线时，可以有意识地将分块边界放在章节或版面结构更完整的位置，并预设边界缓存恢复机制。这样可以降低跨块拼接的失败率，同时控制资源峰值。
第四，为视觉信息筛选保留业务可解释性。 稀疏参考机制虽然依赖模型自动选择，但在面向档案、合同、财务报告等严肃场景时，建议保留可观测的参考路径与回看记录。这样在出现漏报或误报时，可以追溯模型在处理当前页时参考了哪些历史区域，有助于问题定位与参数调优。
超长文档 OCR 解析主要适用于以下场景：
但也需要意识到，该技术路径并不能解决所有文档理解问题。例如，低质量扫描件中的模糊字符、复杂版式中图文混排的语义关系、手写体与印刷体混合场景，仍需要在图像预处理、版面分析与识别模型能力上继续补强。此外，“无限解析”仍然受限于显存总量、单次任务时间窗口以及模型本身对极长上下文的建模稳定程度。文档页数达到数千页级别时，任务的调度、断点恢复与结果校验同样重要。
长文档解析的未来方向，或许不在于无限堆叠上下文长度，而是在持续推理、稀疏参考与资源调度之间找到更优平衡。让模型像人一样，专注当下、按需回看、持续前进，这可能是处理超长文档最具工程价值的一条路线。