超长文档OCR新突破：无限解码与显存优化解析

一、背景：长文档OCR为什么仍然难

在合同审阅、财报分析、档案数字化、论文研读等场景中，OCR系统面对的往往不是单页图像，而是几十页、几百页甚至上千页的扫描文档。传统OCR方案通常按页处理，先对每一页进行版面分析、文本检测与识别，再将结果拼接起来。这种方式在单页准确率上已经取得较大进步，但一旦涉及跨页语义、长距离引用、表格跨页断裂、页眉页脚干扰、上下文一致性等问题，仍然存在明显不足。

更关键的是，当系统需要基于OCR结果继续做信息抽取、问答、摘要、翻译或检索时，跨页上下文就变得非常重要。例如，某一份合同第3页出现“甲方”，而定义条款在第12页；某一份财报第20页出现“上述子公司”，而子公司列表在第8页。如果模型只能看到当前页，这些指代关系就难以解析。

因此，近年来的技术探索逐渐从“单页识别”转向“长序列文档理解”。核心目标不再只是把每一页文字识别准确，而是让模型在长文档范围内保持稳定的理解能力、可控的计算成本与可预期的显存占用。

二、核心矛盾：精度、上下文与资源开销

要让模型理解整份文档，最直接的方式是把所有页面作为视觉或文本输入一次性送入模型。但这样做会迅速触碰两个瓶颈。

1. 上下文长度限制

当前主流视觉语言模型和文本模型通常存在最大上下文长度限制。即使部分模型支持较长上下文，但当输入达到数百页扫描件时，图像Token数量会急剧膨胀。例如，一页A4文档在高分辨率下可能产生数百到数千个视觉Token，300页文档的总Token规模可能远超模型设计范围。

2. 显存与计算瓶颈

在Transformer架构中，注意力机制的计算复杂度和KV Cache显存占用通常与序列长度呈明显正相关。即使采用稀疏注意力、窗口注意力等方案，长序列视觉输入仍然会带来较高的显存压力。对于需要并发服务的场景，例如批量解析合同、集中处理历史档案，单请求的显存放大效应会更加突出。

因此，长文档OCR不能只追求“能输入更长”，还要同时解决“如何保持精度”和“如何控制资源”两个问题。

三、视觉注意力的选择性聚焦

一个比较自然的思路是，不让模型在每一步解码时都重新关注全部页面，而是让注意力集中到与当前任务最相关的少数视觉Token上。

在通用视觉语言模型中，模型需要根据文本查询或当前解码状态，从图像特征中检索相关信息。如果图像特征来自数百页文档，那么全局注意力的代价就会很高。选择性聚焦的基本逻辑是：先对视觉特征建立索引或分块表示，再根据当前解码需求动态选择一部分Token参与计算。

这种做法可以带来两个直接收益。

第一，单步解码的注意力计算成本不再随总页数线性增长。模型只需要处理当前步骤选中的少量视觉Token，计算量可以保持在一个相对稳定的区间。

第二，模型更容易把有限的注意力集中在有效信息上。对于跨页引用、表格延续、条款查找等任务，当前步骤往往只与少数页面相关。选择性聚焦可以减少无关页面带来的干扰。

当然，这种机制的前提是选择策略足够可靠。如果选择错误，模型可能会遗漏关键页面；如果选择范围过小，又可能丢失必要的上下文。因此，实际系统中通常会在准确率与效率之间做折中，例如通过重叠分块、候选页召回、多级检索等方式降低漏选风险。

四、分块缓存与边界复用

选择性聚焦解决了单步计算的问题，但没有完全解决显存问题。即使每一步只关注少量Token，如果所有页面的视觉特征缓存始终保留在GPU显存中，长文档累积下来依然不可忽视。

为了解决这个问题，可以采用分块缓存与边界复用策略。其基本流程如下：

1. 将整份文档划分为若干页面组，每个页面组可以看作一个处理块。
2. 相邻处理块之间保留一定的重叠页面，例如每组末尾的若干页会作为下一组的开头。
3. 按顺序处理每个页面组，在进入下一组时复用边界页面的缓存。
4. 当一个页面组处理完成后，释放后续不再需要的视觉KV Cache。

这种做法的关键在“重叠”。重叠页面允许模型在组与组之间保持必要的上下文连续性。例如，某一页末尾的段落可能延续到下一页开头，如果完全不重叠，模型就可能在组边界处丢失语义连接。通过保留少量边界页面，可以在缓存复用与上下文完整性之间取得平衡。

从工程角度看，这种机制的显存占用不再由整份文档总页数决定，而是由当前处理块的大小决定。无论文档是100页还是1000页，只要处理块大小固定，活跃缓存规模就可以保持在可控范围。

五、无限解码：让模型沿文档持续推进

在选择性聚焦和分块缓存的基础上，可以进一步构建一种“无限解码”流程。这里的“无限”并不是数学意义上的无限长度，而是指系统不再被单一序列长度硬性限制，可以沿着文档持续推进解码。

无限解码的核心逻辑可以概括为：

1. 按顺序加载页面组；
2. 对当前页面组提取视觉特征；
3. 根据当前任务或查询选择相关视觉Token；
4. 执行解码并生成当前段结果；
5. 复用边界缓存，释放无用缓存；
6. 推进到下一页面组，重复上述过程。

在这个过程中，显存中始终只维护有限的视觉缓存工作区。相比一次性加载全部页面并保持全量缓存的方式，这种机制可以显著降低峰值显存占用。对于长文档场景，这种差异会随页数增加而进一步放大。

同时，由于每一步的注意力范围是有限的，单步解码时间也不会随文档总长度持续膨胀。即使文档从100页增长到300页，模型每一步的推理成本仍可保持在相近水平。

六、工程实现中的关键细节

上述思路在概念上比较清晰，但工程实现中仍有许多细节需要处理。

1. 页面组划分与重叠设计

页面组大小需要在上下文完整性与显存占用之间权衡。组太小会导致频繁切换，影响效率；组太大则会推高单组缓存规模。重叠页面数量也需要根据文档类型调整。对于表格、段落跨页较多的文档，可以适当增加重叠；对于页面独立性较强的文档，可以减少重叠。

2. 缓存释放策略

缓存释放不能过于激进，否则会影响后续页面组的复用；也不能过于保守，否则起不到降低显存的作用。通常需要根据页面组推进方向判断哪些缓存未来还会用到，哪些已经可以安全释放。对于可能被回溯引用的重要页面，可以保留摘要或低分辨率特征，而不是完整保留高分辨率KV Cache。

3. 动态Token选择

选择性聚焦的效果很大程度上取决于Token选择策略。可能的做法包括：

• 基于文本查询与页面块特征的相似度进行召回；
• 根据页面编号、标题、章节信息进行结构化定位；
• 结合上一轮解码结果预测下一步需要关注的区域；
• 对候选区域进行粗筛后再进入精细注意力计算。

在实际系统中，通常需要平衡选择精度与选择开销。过于复杂的选择器可能本身成为新的瓶颈。

4. 并发场景下的资源调度

在批量处理场景中，多个文档解析请求可能同时执行。此时不仅单请求的显存占用要可控，整体调度也需要避免瞬时峰值过高。可以通过限制单请求活跃缓存大小、控制并发度、队列化处理等方式平滑资源使用。

七、评估维度与性能观察

对长文档OCR与理解系统进行评估时，通常关注以下几个维度。

1. 解析精度

解析精度是基础指标。对于跨页表格、跨页段落、长距离引用等场景，需要评估模型是否能够保持稳定输出。长文档场景中，随着页数增加，精度不应出现明显下滑。合理的分块与重叠设计应能避免组边界处的信息丢失。

2. 单步解码效率

在选择性聚焦机制下，单步解码时间应尽量保持稳定。即使文档总页数增加，只要当前步骤关注的视觉Token数量不变，单步耗时就不应显著增长。这有利于长文档处理的可预期性。

3. 峰值显存占用

峰值显存是衡量长文档处理能力的重要指标。相比全量加载和全量缓存，分块缓存与无限解码机制应能显著降低峰值显存。对于需要并发服务的场景，单请求峰值显存越低，系统可承载的并发量就越高。

4. 端到端吞吐量

在批量处理场景中，端到端吞吐量可以反映系统整体效率。缓存复用与分块调度可以减少重复计算，提高单位时间内的文档处理量。需要注意的是，不同并发配置、文档长度与硬件环境下，吞吐量表现可能存在差异。

八、适用场景与局限

这类长文档OCR与理解技术适合多种场景，包括但不限于：

• 合同与法律文书解析；
• 财报、年报与公告分析；
• 学术论文与专业书籍研读；
• 历史档案与扫描件数字化；
• 跨页表格提取与结构化；
• 长文档问答与信息检索。

同时，也需要看到其局限。对于页面结构非常复杂、图文混排严重的文档，视觉Token选择可能面临更大挑战。对于需要全局对比的任务，例如全文范围内的一致性校验，仅靠局部聚焦与分块推进可能仍需额外机制补充。

此外，分块处理天然存在一定的边界效应。即使有重叠设计，某些跨页语义仍可能在边界处被削弱。因此，实际系统中通常需要根据文档类型动态调整分块参数，或引入后处理校验环节。

九、结语

长文档OCR与理解正在从“单页识别”走向“长序列推理”。在这一过程中，精度、上下文长度与资源开销之间的平衡成为关键。选择性聚焦让模型能够把有限注意力放在值得关注的视觉信息上，分块缓存与边界复用让显存不再随页数线性增长，无限解码则让系统可以沿着文档持续推进，而无需一次性承载全部页面。

这些设计并非依赖某一种单独技巧，而是多种机制的组合。对于开发者而言，理解其背后的设计逻辑，比记住某个具体性能数字更有价值。只有在实际场景中根据文档特征、硬件条件与业务需求灵活调整，才能构建出稳定、高效、可扩展的长文档解析系统。