百度开源 Unlimited OCR 2、一口气读完 5000 页、显存只占 1.77G

AI 读书不用一页页喂

10 月 27 日，百度文心团队开源了一个看起来有点无聊、实际上很凶的模型。

模型叫 Unlimited OCR 2，"OCR"就是图片转文字那个技术。你可能觉得这东西早就不新鲜了——把扫描件拍下来转成可搜索的文字，十年前就有了。

但这次的卖点是两个字：无限。

官方演示里，它一口气读完了 5026 页的《四大名著》合订本；《哈利·波特》七部共 3623 页，大约 1 小时 30 分钟读完，平均每页 1.5 秒。

而这一切跑在一张普通显卡上。

用人话说： 以前让 AI 读一份 500 页的合同，你得切成 500 段，一段一段喂给它，喂一次它忘一次，问后面要翻前面。现在它自己一口气看完，而且不用每次都从头看。

一句话总结

百度把"长文档 AI"的两个老大难——一次读不完、越读越占显存——用同一个思路绕了过去：只记住"当前该看的"那几页。代价是它对整本书的整体结构，感知得比以前更模糊。

一、卡住 AI 读长文档的，到底是什么

在讲百度怎么解决之前，先得说清楚问题本身。

一个 AI 模型读文档，本质上是在做"注意力"——每读一个词，都得回头看看前面写过的内容。这个回头看的成本，就是上下文窗口。

所以你用 ChatGPT 读合同，会遇到两件让人生气的事：

第一，读不到最后。 超过上下文长度它就断了，你要么精简，要么切段。

第二，读得越多越慢、越吃显存。 这就是所谓的 KV Cache——模型把"看过的东西"的中间状态缓存下来，读 500 页就要缓存 500 页。百度实测，这个数字原本是 47.00 GB。

用人话说： KV Cache 就是 AI 读文件的"临时记忆"。读一页记一页，读 500 页就得开 500 页的备忘空间。47GB 是什么概念？大概是你家那台主流显卡显存的两倍多。

更麻烦的是，这些临时记忆不能扔——因为下一页可能需要回头对照第一页。这就叫"读多少扔多少"做不到。

二、百度怎么绕过去的

百度这次的核心动作，是不把整本书都装进脑子里。

方法是 SR-SWA（稀疏参考滑动窗口注意力），官方给的比喻相当形象——像人抄书时只盯着当前这一页，需要时才翻回去。

拆开是两步：

第一步，页面门控（Page Gate）。 把"要参考的范围"从整本书缩小到少数几页候选，模型自己判断哪几页可能相关。

第二步，Token 筛选（Token Sieve）。 在这几页里再筛一遍，只保留相关性最高的一小撮视觉块——工作参考集固定在 512 个 token 左右（一个 128-token 的局部窗口，加上 16 块 × 32-token 的高相关块）。

配套还有 Unlimited-Horizon Decoding（无限视野解码）：按重叠的页块顺序读，相邻块共享边界页的缓存，读完一块就释放它的显存。

用人话说： 之前是"每读一个字，都把整本书在脑子里过一遍"，现在改成"每读一个字，只翻一下最可能相关的那几页"。单步的开销因此和书有多厚脱钩了。

效果是可以直接看数字的：

指标 · 旧方案 · Unlimited OCR 2 · 变化

峰值 KV Cache（百页单序列） · 47.00 GB · 1.77 GB · ↓ 96.2%

16 文档并发吞吐 · 360 tokens/s · 1315 tokens/s · 3.65 倍

百页单步解码延迟 · 27 ms · 基本恒定 · 与页数脱钩

单步解码速度（对比全注意力） · — · 快 7 倍 · 对比上代 R-SWA 快 5.6 倍

模型本身也不大：总参 3.34B，走的是 MoE 路线（64 个路由专家，每个 token 激活 6 个，外加 2 个共享专家），实际推理激活参数约 5 亿，BF16 权重 6 到 6.7GB。

许可证是 MIT。 意味着可商用、可本地离线部署，不需要给百度交授权费——这是它比很多"仅限研究"的开源模型实用的关键。

三、成绩单：拿下了，也留了短板

百度同时放出了成绩和一个新基准 MarathonDocBench（100 份、103 到 300 页的文档，20.5 万个标注元素）。

基准 · Unlimited OCR 2 · 对手

MarathonDocBench（新） · 77.06 · Kimi-K3 33.7 / Gemini-3.8-Flash 28.6 / Qwen3.8-Max 22.9

MPDocBench · 84.59 · Qwen3.8-Max 78.3 / Qwen3.8-Flash-Next 77.4

OmniDocBench v1.6 · 94.02 · TeleOCR 96.91 / OvisOCR2 96.47

这里必须说清楚两件事。

第一，所有榜单分数都是百度自报，只以图表形式发布，目前没有大规模独立第三方复现。按我们看这类发布的惯例，这个折扣要打。

第二，百度的分项分数暴露了它的真实短板：标题层级只有 48.2（是所有子项里最低的），表格 74.8。也就是说，它能把字一个不差地读出来，但读出来的结构关系不一定对。

百度自己在技术报告里也承认了三条局限：稀疏注意力无法完整保留全局文档信息，多级标题这类整体结构仍可能认错；图像编码和总运行时间仍随页数增长（"无限"只指单步开销恒定，不是真无限）；固定参考集本质上是有损压缩。

用人话说： 这套办法的代价很明确——它像一本只记得关键词索引的笔记本，随时能翻到某一页，但你要是问它"这本书一共分几部分、每部分讲什么"，它可能答得糊里糊涂。

它还做了一批抗干扰测试来证明自己不是"背书脑补"：在 240 页、17.3 万字的小说里埋 32 个陷阱（比如把"叶文洁"换成"叶文清"、把页码 742 改成 724），全部一字不差按纸面输出；300 页 3000 条财务台账里 176 条负数冲销全部正确，合计 9,258,968.05 分毫不差。

第一代 Unlimited OCR 累计在 Hugging Face 下载量已破 1000 万，GitHub 约 2.86 万 Star——这才是二代真正被期待的底气：它不是 PPT 模型，是有人真在用的模型。

四、对普通人意味着什么

能上车的地方：

第一，合同、财报、病历、论文这类"厚文档"，处理成本会明显下来。 以前要把一份 500 页年报喂给 AI，得先切分、再逐段提问、再人工拼接；现在可以整本丢进去，直接问跨章节的问题。

第二，MIT 协议 + 5 亿激活参数 + 6.7GB 权重，意味着普通人自己的电脑就能跑。 一张 12GB 显存的消费级显卡就能跑起来。对律所、医院、会计师事务所这类文件不能出内网的场景，这是硬门槛，也是这次开源最实际的价值。

第三，"页数不设限"会改变一类工作的形态。 以前做行业研究、尽调、案件梳理，人的时间大头花在"把材料拼起来"，而不是"分析"。这一块正在被削掉。

该警惕的地方：

第一，结构识别是它目前最弱的一环。 标题层级 48.2 分意味着，遇到复杂目录、编号混乱的扫描件，你还是得人工核对。别指望它把一份乱七八糟的扫描文档直接变成干净的表格。

第二，"无限"是个营销词，不是技术承诺。 百度自己承认总运行时间和图像编码成本仍随页数增长。5000 页能读完，不等于 5000 页读起来很便宜。

第三，自报分数要打折。 跟所有厂商自测一样，独立复现出现之前，这些数字只能当"官方说"来看。

写在最后

1、这次真正的突破点，不是"页数"，是"成本曲线"

过去两年，所有长文档模型的解法都是同一个：把窗口做大，把显存堆上去。代价是页数一多，账单就爆炸。

百度这次做的是把曲线掰弯：不管你读 100 页还是 5000 页，每一步的开销基本恒定。

用人话说： 以前是"按页数交电费"，现在接近"包月"。这才是让长文档 AI 真正能进到合同、财报、病历里的前提。

2、开源模型的分水岭，是有没有人真在用

Unlimited OCR 第一代下载破 1000 万、Star 2.86 万——这个数字比任何榜单都更能说明问题。

一个模型能不能改变行业，不看它发布时排第几，看的是半年后还有多少人在用它。所以第二代的真正观察点，是一年后它的下载量涨到了多少。

3、对普通人来说，最值得做的一件事

把手边那份"厚到懒得读"的文档，真的整本丢给它试试。 合同、年报、体检报告、租赁合同、判决书——以前你只能问"这一页什么意思"，现在你可以问"这份东西里有没有对我不利的条款"。

未来一年，当"AI 能读完整本书"变成常态，最先被淘汰的不是文员，是那些一辈子在人工搬运材料的人。 而学会把厚文档整本丢给 AI 的人，会比还在一页页复制粘贴的人，省下的是几年时间。

如果觉得这篇拆解对你有帮助，不妨点个关注和在看。

你的 AI 陪跑伙伴 【数字新奇点】 会继续关注开源模型、文档智能和推理效率的进展。

咱们下期见！

参考资料

文心 Unlimited OCR 2 开源发布，超长文档解析迎来"页数自由"

【开放公测】文心 Unlimited OCR 2 开源发布

KV Cache 被压成常数！OCR 开源新王：页数没上限，缓存砍 96%

3B 模型一口气读完 3623 页：本地 OCR 能干活了，但"第一"各有各的榜