长文档OCR解析：从逐页拆解到无限跨度识别

一、长文档OCR的现实困境

在真实业务中，长文档识别并不只是“识别文字”这么简单。一份数百页的年报、一套上千页的档案扫描件、一部多卷本出版物，往往同时包含密集的正文、复杂表格、跨页段落、页眉页脚与图片说明。对于这类输入，传统OCR流程通常需要先按页切割，再逐页识别，最后人工或规则拼接。

这种“切分—识别—拼接”路径存在三个突出问题。

第一，显存峰值不可控。随着页数增加，模型如果一次性读取全部页面图像特征，视觉侧的计算量与显存占用会持续攀升。几十页论文尚可接受，但面对数百页甚至上千页的输入，单卡显存很容易达到上限。

第二，跨页语义容易断裂。一个表格可能从第47页延伸到第48页，一个段落可能跨页继续。如果逐页独立识别，表格结构、段落连续性和阅读顺序都可能被打乱，后续修复成本很高。

第三，拼接逻辑难以规模化。靠规则判断“这一页末尾的句子是否结束”“下一页开头是否承接上一段”，在版面复杂、版式多样的真实文档中并不稳定。文档类型一变化，规则可能需要重新调整。

因此，长文档OCR真正需要的不只是“识别得更准”，而是能够在有限资源下，持续、稳定地处理超长输入，同时尽量保留跨页结构信息。

二、“无限解析”的真实含义

“无限解析”并不是说处理时间不随页数增长，而是指模型在结构上具备持续处理能力，不再因为页数增加而必然遭遇显存溢出或需要频繁人工拆装。

可以将其理解为一种“可持续的解码方式”。整本书的总耗时仍然会随页数线性增加，但每一步解码的计算与缓存开销可以保持近似稳定。这意味着从100页到1000页，系统不会在某个临界点突然无法继续。

这种能力对实际工程有两个直接价值。一方面，开发者不再需要为不同页数准备不同的处理策略。短文档与长文档可以走同一套推理流程。另一方面，跨页上下文可以被更自然地保留。模型在解析当前页时，可以回看有限的、相关的历史页面信息，而不是完全孤立地处理每一页。

三、从文本缓存到视觉计算：瓶颈的转移

早期针对长文档的注意力优化，更多聚焦在文本侧。例如，通过滑动窗口等方式限制文本KV Cache的增长，让模型在生成阶段不会因为历史Token数过多而显存膨胀。这种思路在纯文本生成任务中较为常见，也在一定程度上缓解了长序列问题。

但在OCR场景中，输入不仅是文本，更重要的是页面图像特征。模型需要持续读取图像区域，并将视觉Token与文本Token进行对齐和融合。即使文本侧缓存得到了控制，如果视觉侧仍然需要关注全部历史页面的视觉Token，当页数增加到一定程度时，视觉计算与缓存会成为新的瓶颈。

换句话说，上一阶段解决的是“文本记不住那么多”，而当前阶段要解决的是“图像看不过来那么多”。

四、从人的抄书行为中寻找灵感

一个直观类比是人工誊抄长文档的过程。当一个人抄写到第500页时，他会专注于当前页内容。只有遇到跨页表达、引用或表格延续时，才会回头查看前面某一页。他不可能每写一个字都重新浏览前499页。

长文档也具有类似特性：页内联系非常密集，而跨页依赖相对稀疏。绝大多数内容可以在当前页及其邻近上下文中理解清楚，只有少数位置需要回看更早的页面。

这一观察为注意力机制设计提供了重要启发：不需要让当前步关注所有历史页面，而是只选择少量与当前内容相关的历史页面参与计算。这样既可以保留必要的跨页信息，又可以将计算量控制在合理范围内。

五、稀疏参考滑动窗口注意力机制：两道筛子

基于上述思想，可以引入一种稀疏参考滑动窗口注意力机制。它的核心是在处理当前页时，同时维护两个范围：一个局部窗口覆盖邻近页面，保证页内与近邻上下文的密集建模；一个稀疏参考集合覆盖更远的历史页面，用于处理偶发的跨页依赖。

具体实现上，可以理解为两道“筛子”。

第一道是页面级筛选，可称为页面门控。其任务是从历史页面中筛选出与当前页可能相关的少量页面。它并不需要精确理解内容，而是根据页面特征、位置关系或版面相似性进行粗筛，把视觉参考范围从“全部历史页”压缩到“少量候选页”。同时，它仍然保留页面之间的位置关系，避免后续注意力计算丧失顺序信息。

第二道是视觉块级筛选，可称为Token筛选。在候选页面内部，进一步对视觉信息块进行打分，只选择最相关的少量远程视觉Token参与后续注意力计算。页面中的图像区域、表格区域和文本行图像块都可以作为候选单元。通过这种方式，模型不需要对候选页的全部视觉Token逐一计算注意力，只需关注其中最有价值的部分。

两级筛选联合起来，可以显著降低跨页注意力的计算量，同时保留关键上下文。

六、无限跨度解码与缓存复用

除了注意力层面的稀疏化，推理结构也需要支持持续处理。一种可行做法是按页面块进行增量解码，并在块与块之间复用边界页的KV Cache。

具体来说，将长文档切分为多个连续页面块。每个块内部正常计算注意力并缓存关键状态。当处理下一个块时，不需要重新计算前一个块的全部页面，而是复用其边界页的KV Cache，作为历史上下文的一部分引入。这样既保持了跨块连续性，又避免了重复计算。

在工程数据上，有技术资料显示，在单序列推理条件下，采用分块与缓存复用方式后，KV Cache峰值显存可以从约47GB降低至约1.77GB。这一数字意味着，原本需要大显存设备才能处理的超长文档，现在可以在更常见的硬件环境中运行。

当然，具体数值会受模型尺寸、页面分辨率、分块策略等因素影响，不应被视为固定指标。但这一变化方向说明：通过合理的缓存复用，长文档解析的显存曲线可以被明显拉平。

七、工程层面的实现要点

如果开发者希望在自身系统中构建类似能力，可以从以下几个维度入手。

首先是页面特征提取策略。页面门控的效果依赖于页面表示是否具备足够区分度。通常可以使用视觉编码器为每页生成一个紧凑的向量表示，再通过相似度检索或轻量分类器选择候选历史页。页面向量应包含版面结构信息，而不仅仅是文本语义信息。

其次是视觉Token的粒度控制。视觉块可以按版面元素切分，也可以按固定网格切分。粒度越细，筛选越灵活，但候选数量也会增加。需要在召回率与计算开销之间做权衡。

再次是缓存的生命周期管理。复用KV Cache时，需要明确哪些缓存保留、哪些缓存淘汰。通常边界页缓存应优先保留，因为它们承担最多跨块连接信息。内部页缓存可以在块处理完成后释放，以降低峰值显存。

最后是跨页结构恢复。即使注意力机制能够关注远程页面，识别结果仍需经过版面理解与结构还原。对于跨页表格，需要在后处理中识别表头延续、合并单元格跨页等情况。对于跨页段落，需要依据语义与排版特征恢复连续阅读顺序。

八、适用场景与边界

这种长文档OCR能力适合年报、论文、档案、合同、扫描书刊等超长输入场景。对于需要全文检索、知识库构建、合规审查、历史文献数字化等任务，连续解析能力可以显著减少人工拆装工作。

但它并非万能。对于极度复杂的版面、低质量扫描件或存在大量手写批注的文档，识别准确率仍会受到输入质量影响。此外，“无限跨度”不等于“无限精度”。跨页依赖越稀疏，稀疏注意力越有效；如果某类文档存在大量远距离交叉引用，筛选策略可能需要针对性调整。

九、结语

长文档OCR的演进，实际上是不断消解“拆页—识别—拼接”这一传统流程中的人工成本与工程负担。从控制文本缓存，到压缩视觉计算，再到分块复用边界状态，技术路径一步步走向可持续处理。

当解析能力不再被页数轻易打断，开发者才能真正将注意力放回业务本身：如何从海量长文档中稳定地提取信息、构建索引、还原结构。这才是“无限解析”的工程价值所在。