简介：本文深度解析百度开源的OCR长文档解析新技术，聚焦其在超长视觉输入处理上的两大核心机制——稀疏参考滑动窗口注意力（SR-SWA）与无限解码机制。文章剖析了该技术如何将单序列推理的KV Cache峰值显存占用从47GB降至1.77GB，吞吐量提升至1315 TPS，并探讨其背后的设计哲学与工程实现路径，为处理大规模文档智能解析的开发者提供关键技术参考。
在文档智能处理领域，长文档解析一直是OCR技术面临的终极挑战。当我们试图让模型理解一本数百页的书籍、一份冗长的合同或是一套完整的技术手册时，传统的全注意力机制会在计算复杂度与显存占用上双双失控。最近，百度开源的OCR技术方案在业界引起了广泛关注——它不仅在多页文档基准测试中取得了SOTA表现，更重要的是，它从源头重新思考了一个朴素的问题：人类是如何阅读厚书的？
想象一下，人类抄写一本厚重的书籍时的自然行为：目光始终聚焦在当前页，遇到需要参考前文的情况，会翻回去查阅特定页面，但绝不会在每一次落笔前都从头到尾翻阅所有已读内容。这种“局部聚焦、按需回溯”的阅读模式，正是百度团队设计新架构的灵感原点。
传统的Transformer架构在处理长文档时，默认采用全注意力机制——即每个输出Token都要与输入序列中的所有Token计算注意力权重。这种方式隐含了一个不符合直觉的假设：阅读第100页时，模型需要同等程度地“关注”第1页到第99页的所有内容。这不仅在计算上极度浪费，在认知上也与人类的阅读行为背道而驰。
基于上述观察，团队提出了稀疏参考滑动窗口注意力机制（Sparse Reference Sliding Window Attention，简称SR-SWA）。这一机制的核心思想包含两个协作组件：
1. 页面门控（Page Gating）
页面门控的作用是在粗粒度层级上缩小模型的“注意力搜索范围”。当模型处理某一特定页面时，门控机制会计算当前页与文档中其他页面的相关性分数，然后仅保留得分最高的若干页面作为候选参考区域。这就好比人类抄书时，会凭直觉判断“这个问题大概在前面第30页左右有提到”，从而直接翻到相关区域附近查找，而不是盲目地从头翻起。
2. Token筛选器（Token Selector）
在页面门控确定候选页面范围后，Token筛选器在更细粒度的视觉Token块层级做二次筛选。它从候选区域的视觉Token中，精准挑选出与当前解码步骤最相关的那些块。这种两级筛选机制确保了模型将有限的计算资源集中在真正值得关注的视觉信息上，而非分散到无关的背景噪音中。
通过这种机制，单步解码的注意力计算成本可以保持近乎恒定——无论文档总页数增加到100页还是300页，模型每生成一个Token所需的计算量并不会有显著增长。这一点对于实际部署至关重要，因为它直接关系到推理延迟的下限能否被稳定控制。
如果说SR-SWA解决的是“注意力计算成本”的问题，那么无限解码机制（Infinite Decoding）解决的是“显存生命周期管理”的问题。
在长文档场景下，即使每次只关注少数Token，如果所有页面的视觉缓存（KV Cache）一直堆积在GPU显存中，几千页的文档依然会让显存迅速耗尽。无限解码机制的做法是：
这种机制的工作原理类似于一个“滑动工作台”——整个解码过程仿佛是模型在文档上“一路向下读取”，而显存中始终只需要维护一个有限的视觉缓存工作区。官方公布的测试数据反映了这种机制的显著效果：
尤为值得注意的是，在文档长度持续增加的评测中，百页级别对比全注意力机制，单步解码提速约7倍；而在最长300页的评测范围内，解析精度依然保持稳定。这意味着，性能提升并非以牺牲准确率为代价。
从工程实现的角度看，这项技术给开发者带来的启示是：在处理超长视觉输入时，优化重点应从“扩大显存容量”转向“精细化内存管理”。
传统的应对长文档方案通常有两种路径：一是直接加大输入窗口限制，让模型看到更多内容，但这会导致显存需求呈线性甚至二次方增长；二是对文档进行切分后独立处理，这种方法虽然节省显存，但会割裂跨页面的上下文关联，导致解析精度下降。
SR-SWA与无限解码机制巧妙地结合了两种方案的优点：通过稀疏注意力保留跨页面的关键关联信息，同时通过动态缓存管理将显存使用控制在可预期的范围内。这套思路为处理PDF合同、历史档案、科研论文等超长文档场景提供了一个极具参考价值的架构范本。
值得注意的是，这一代OCR技术并非凭空出世。其前代版本在开源社区已积累了超过1000万次的下载量，验证了长文档解析需求的广泛性。这一代技术的核心突破，在于从长文本生成时的缓存优化，进一步深入到超长视觉输入的计算与显存管理——这是从“解决一个具体问题”到“解决一类结构性问题”的跨越。
在技术报告末尾还有一个有趣的细节：开发团队将经典动漫《Fate/stay night》中的“无限剑制”咏唱改编为描述该OCR技术的诗句——“像素为身，Token 为血。已阅尽千页，不为 KV Cache 所限，亦不为上下文长度所缚。”这一创意源自前代版本开源后社区开发者的二次创作，最终被开发团队收录进2.0技术报告。这一细节折射出开源社区与技术团队之间良性的共创协作关系：技术能力被开放出来，社区在此基础上进行创造性演绎，而这些反馈又被融入下一代的官方文档中形成闭环。
长文档OCR解析的挑战远未终结。当前方案在300页评测范围内的精度稳定，是体现技术能力的重要阈值。然而，面向真实世界中动辄上千页的技术手册、完整的企业年度报告甚至多卷册文献，如何保持注意力筛选的准确性不随文档规模扩大而衰减，如何在更复杂的版面结构（如跨页表格、页眉页脚干扰、多栏排版）中维持稳定的解析质量，都是下一步技术演进值得关注的方向。
从更宏观的视角看，这一技术路径揭示了一个被验证有效的原则：在处理超长序列任务中，与其追求让模型看到更多的“蛮力”，不如设计让模型看更准的“巧力”。当模型学会了像人类那样“目光始终落在当前页，偶尔翻回去参考”，它的能力边界就不再受制于物理显存的极限，而是取决于其筛选与判断的智慧。