简介:文心Unlimited OCR 2是百度于2026年10月27日发布并开源的多页文档解析模型,可一次性解析累计超过3600页的超长文档。本文拆解其SR-SWA与无限解码两大核心机制如何化解长上下文的计算与显存瓶颈,梳理其能力表现、典型应用场景与工程落地建议,为开发者与企业用户构建规模化文档解析方案提供参考。
企业级文档处理的真实负载,往往不是一张发票、一页合同,而是数百页的年报、上千页的卷宗、成套的技术规范。传统OCR方案通常按页切分、逐页识别,再依靠后处理规则把结果拼回去。这种方式在单页场景下足够好用,但放到整册文档上会暴露三个问题:
另一种思路是借助长上下文模型“一锅端”地处理整册文档,但自注意力的计算量随序列长度呈平方增长,显存占用同样水涨船高。百度于2026年10月27日发布并开源的文心Unlimited OCR 2,正是针对这一矛盾给出的系统性方案:它支持一次性解析累计超过3,600页的超长文档,已实现对一套共7部、累计超过3,600页的长篇系列作品的完整解析,并在多项长文档解析基准评测中分别取得84.6分与77.1分的成绩。
1. 计算复杂度的平方陷阱。 标准自注意力的计算复杂度为 O(L²·d),其中 L 为序列长度、d 为表示维度。文档从100页扩展到3,600页,序列长度增长36倍,注意力计算量约增长1,296倍——这不是简单堆机器就能线性解决的问题。
2. 显存与中间状态的开销。 注意力矩阵、键值缓存等中间状态均随长度增长;对生成式解码而言,若一次性产出整册文本,解码侧同样需要维护庞大的上下文状态,显存峰值很容易突破单卡上限。
3. 跨页结构与长程语义。 即使算力充足,模型还要“读懂”文档:页眉页脚噪声过滤、多栏阅读顺序还原、跨页表格合并、图表与正文对应、章节层级重建,以及术语与编号的全局一致性。这些恰恰是长文档解析质量的关键,也是基准评测重点考察的维度。
第一代Unlimited OCR引入参考滑动窗口注意力机制,将解析范围从单页拓展至连续数十页。其核心思路是:把注意力限制在局部滑动窗口内,将复杂度从 O(L²) 降为 O(L·W)(W为窗口宽度),同时通过“参考”机制在窗口之间传递关键信息,缓解窗口割裂带来的长程依赖丢失。
这解决了“几十页”的问题,但距离“几千页”仍有距离:
换言之,编码与解码两端都存在随文档长度增长的“隐性账单”,超长文档场景下二者叠加成为瓶颈。
该模型采用的SR-SWA延续了参考滑动窗口注意力的技术脉络,可以理解为面向超长文档的升级:窗口内部负责精细的局部建模(版面、文字、表格结构),跨窗口的长程信息则通过参考机制压缩与传递。其设计意图在于:让长程依赖建模的开销不随总页数平方增长,而是受控于窗口数量、近似线性扩展——远距离上下文不必两两可见,而是通过参考载体“间接通信”,在保留关键长程信息的同时压住计算与显存开销。
如果说SR-SWA解决的是“读得进”,无限解码机制解决的就是“写得完”。传统生成式解码需要为整篇输出维护完整上下文状态;无限解码以流式方式按窗口、按段落滚动产出结果,处理完的中间状态及时释放。这样,解码侧的显存占用与“当前正在处理的窗口”相关,而不再与全文档长度挂钩;输出可以边解析边消费,天然适合流水线化处理。
编码端控计算、解码端控状态,两者配合之后,“输入长度”不再受限于单次前向的显存上限,“输出长度”也不再受限于单次生成的上下文配额。这正是其能一次性完成3,600余页解析的关键:把一个“超长序列问题”转化为“连续窗口上的流式问题”。
在两项长文档解析基准评测中,该模型分别取得84.6分与77.1分,综合反映了多页版面还原、长文档内容识别与结构化输出等方面的表现。需要提醒的是:评测得分依赖任务口径与数据分布,实际选型时建议使用业务自有数据复测,重点关注跨页表格、阅读顺序、术语一致性等与自身场景强相关的指标。
# 伪代码:超长文档流式解析的一般流程(仅作示意,非真实接口)pipeline = LongDocParsingPipeline(window_size=64, # 按显存预算设定窗口大小streaming_decode=True # 解码侧流式产出)for window in stream_pages("archive_3600p.pdf"):layout = pipeline.analyze_layout(window) # 版面分析blocks = pipeline.decode(window, layout) # 流式解码输出emit(merge_cross_page(blocks)) # 跨页合并与结构重建
实践中还应注意五点:
从第一代的“连续数十页”到第二代的“3,600页整册解析”,文心Unlimited OCR 2展示了一条清晰的演进路径:以SR-SWA压住编码侧的计算与显存开销,以无限解码机制化解解码侧的状态膨胀,把超长文档解析从“工程上的不可能”变为“可以规划的能力”。对于需要规模化处理长文档的团队而言,值得先基于自有数据完成一轮验证,再决定将其纳入生产流水线的深度,同时兼顾数据合规与隐私保护要求。