大数跨境

刚刚,百度开源再拿全球第一!1000万下载神作杀回来了

刚刚,百度开源再拿全球第一!1000万下载神作杀回来了 新智元
2026-10-27
29
导读:此身为OCR所成

新智元报道  


曾获得LeCun转发推荐、下载量突破千万的百度开源文档解析模型迎来重大升级。时隔4个月,百度正式开源新一代模型——文心Unlimited OCR 2。

该模型在保持轻量级架构的同时(总参数3B,每次推理实际激活仅500M),在两大权威基准测试中取得全线第一:

  • 百页级长文档基准MarathonDocBench(103–300页):得分77.06,位列第一;
  • 多页跨页基准MPDocBench:得分84.59,位居榜首。

实测显示,在处理《哈利·波特》七部曲共3600多页的PDF时,模型平均翻页速度约为1.5秒/页,全程无中断。相比上一代模型40多页的处理极限,新版模型实现了数量级的突破。无论是上千页的小说全集还是五千多页的合订本,均可一次性上传处理,且单序列KV显存占用降低96.2%,普通游戏显卡即可运行。

目前,模型与相关权重已在GitHub和HuggingFace全面开源。

GitHub:https://github.com/baidu/Unlimited-OCR

HuggingFace:https://huggingface.co/baidu/Unlimited-OCR-2

突破「无限页」限制:三大极限场景实测

为验证文心Unlimited OCR 2的深度能力,测试团队选取了三个极易导致大模型出错的极限场景进行逐项评估。

第一关:5026页巨著一镜到底,精准识别跨页内容

测试首先挑战模型的耐力极限。将《三国演义》《水浒传》《西游记》《红楼梦》合并为一份5026页的PDF,不分册、不切章直接输入。模型全程流畅处理,无卡顿或重复现象。

在最后一页(第5026页)的验货中,模型准确输出了《红楼梦》第一百二十回的收尾偈语。为排除模型依靠记忆「脑补」的可能,测试团队构建了包含32个陷阱的240页自定义长卷,如将「叶文洁」改为「叶文清」、修改页码等。结果显示,模型严格按原文输出,未受干扰。

在跨页逻辑测试中,通过在《三体》跨页处插入脉冲波形图并埋入随机校验码,模型不仅准确识别了所有校验码,还正确拼接了被截断的句子。测试发现,模型能够根据版式判断段落结束与否:仅当最后一行两端对齐撑满右边界且语义未完时,才会触发跨页缝合。

第二关:300页复杂财报,数字精确到分

针对财务、法务场景中常见的跨页表格和数字错误问题,测试生成了一份300页、包含3000笔流水的酒店经营总账,其中暗含176笔负数冲销。

处理后,模型自动剥除并合拢了各页重复表头。经脚本核对,3000条记录无漏项、无重复,9000个数字字段与176笔负数冲销均无串列。重新求和后的总净额为9,258,968.05元,与原始账本完全一致。

第三关:15页英文报告,攻克复杂版面

最后测试针对学术论文、竖排古籍及多栏折页等复杂版面。使用百度发布的15页英文技术报告作为样本,其中第7页至第8页存在图文拦腰截断的情况。

模型成功将半页大图和图注单独提取,并将被挤到大图下方的后半句英文与前文无缝拼接。此外,报告中的门控注意力公式与算法伪代码被准确转换为可编译的LaTeX源码。

在双页非对称三栏折页测试中,尽管版面包含深色反白侧栏、跨页续表及6.8磅小字脚注,模型输出的阅读顺序依然清晰,60个表格单元格、行内公式和4条小字脚注均与原件逐一对应。

技术解析:为何百万上下文大模型难以处理长文档?

在MarathonDocBench基准测试中,文心Unlimited OCR 2以77.06分领先第二名(33.74分)两倍以上,而Gemini-3.1-Pro仅为26.97分,部分通用旗舰模型甚至在读取至第223页时中断。

问题的根源在于海量的「视觉Token」。在标准全注意力机制下,每翻一页会产生上千个视觉Token,模型在生成每个字时都需重算此前所有页面的视觉Token,导致计算量随页数增加呈二次方增长。文档从2页增至100页,单步解码延迟从3毫秒暴涨至27毫秒,致使模型在后半程「走神」。

核心创新:SR-SWA稀疏注意力与无限解码机制

基于人类阅读时「单页内信息高度聚合,跨页视觉关联极其稀疏」的直觉,百度团队推出了第二代核心技术。稀疏参考滑动窗口注意力(SR-SWA)通过两步降低计算量:

先圈范围,再挑重点

Page Gate(页面门控)负责缩小视野,将关注点从几千页收缩至少数候选页;Token Sieve(Token筛子)则在候选页中实时打分,仅抓取相关视觉块参与计算。这种端到端的路由打分机制,使得每步计算的视觉信息量保持在固定常数,不受文档长度影响。

无限解码机制

配套推出的「无限解码机制」(Unlimited-Horizon Decoding)解决了显存瓶颈。超长文档按窗口依序推进,相邻窗口间仅保留一页「交接页」复用KV缓存,确保断句与续表连贯。当前窗口转录完毕后,历史缓存立即释放,实现「边读边扔」。

这两项设计带来了显著性能提升:

  • 显存大幅降低:单序列峰值KV显存从47.00GB降至1.77GB,降幅达96.2%;
  • 吞吐率飙升:16路并发吞吐量从360 TPS提升至1,315 TPS,增幅3.65倍;
  • 解码提速:百页单步解码速度比标准全注意力快7.0倍,比一代R-SWA快5.6倍。

随着文档长度增加,通用模型准确率下降、延迟激增,而文心Unlimited OCR 2则保持准确率稳定且低延迟。

致敬经典:开启OCR 3.0时代

技术报告引言引用了一段改编自《Fate/stay night》「无限剑制」的咏唱:

Pixels are my body, and tokens are my blood. (像素为身,而Token为血。)

I have parsed over a thousand pages. (我已阅尽千余页文档。)

Unknown to KV cache , Nor known to context limits.(不为KV Cache所限,不为上下文长度所缚。)

So, as I pray: Unlimited OCR Works. (故而,我在此祈愿:Unlimited OCR Works。)

这段文字源自开发者Snarcy在HuggingFace评论区的创意,百度团队将其收录于2.0技术报告中,象征着文档解析迈入OCR 3.0时代。

初代模型曾展望「让模型学会自动翻页,读懂一整本书」。如今,凭借文心Unlimited OCR 2,无论是几百页的招股书、上千页的工程标书,还是五千页的传世长卷,均无需切碎即可完整解析,这一愿景已成为现实。

编辑:摩西 桃子


秒追ASI
点赞、转发、在看一键三连
点亮星标,锁定新智元极速推送!


【声明】内容源于网络
0
0
新智元
智能+中国主平台,致力于推动中国从互联网+迈向智能+新纪元。重点关注人工智能、机器人等前沿领域发展,关注人机融合、人工智能和机器人革命对人类社会与文明进化的影响,领航中国新智能时代。
内容 16678
粉丝 0
新智元 智能+中国主平台,致力于推动中国从互联网+迈向智能+新纪元。重点关注人工智能、机器人等前沿领域发展,关注人机融合、人工智能和机器人革命对人类社会与文明进化的影响,领航中国新智能时代。
总阅读481.0k
粉丝0
内容16.7k