网易首页 > 网易号 > 正文 申请入驻

刚刚,百度开源拿下全球第一!作者疑似DeepSeek出走大神

0
分享至


新智元报道


【新智元导读】百度开源Unlimited OCR!3B参数500M激活,一口气读完40页不失忆。作者疑似DeepSeek出走的OCR核心大神。

就在刚刚,百度闷声干了票大的!

最新开源的Unlimited OCR,总参数3B,实际激活仅500M——放在大模型时代几乎是个零头。

但就是这个小到离谱的模型,在OmniDocBench v1.5上拿下93.23%的综合分,v1.6更是达到93.92%,直接刷新了端到端SOTA。

什么概念?v1.5同台竞技的选手里,235B的Qwen3-VL拿了89.15,72B的Qwen2.5-VL拿了87.02,不公布参数量的Gemini-2.5 Pro也只有88.03。激活参数不到它们零头的选手,反手把它们全甩了。

更离谱的是,它还干了件之前没有OCR模型干成过的事:一口气解析40多页文档,不失忆、不降速,一次推理从第一页读到最后一页。

目前,模型和代码都已同步上线GitHub和HuggingFace。


GitHub:

https://github.com/baidu/Unlimited-OCR

Hugging Face:

https://huggingface.co/baidu/Unlimited-OCR

为什么所有模型都在「逐页失忆」

说到OCR,现在模型笨得让人意外。

它们会把一件原本连贯的长程任务,硬生生切成几十个互不相干的小任务,再靠一个外部调度器把结果勉强缝起来。就像在跑一个for循环,处理完一页就把记忆清空,再从头开始下一页。

能用,但本质上只是工程的权宜之计,离真正的智能还差着一大截。

究其原因在于,随着输出越来越长,标准注意力机制下的KV缓存像滚雪球一样疯涨——内存吃不消,速度越来越慢。

这才是逼着所有模型逐页处理、频频「失忆」的真正元凶。


但人类抄书,从来不是这么干的。

我们会维持一种连续的认知状态——眼睛盯着三个点:原书、刚写下的一小段、即将要写的下一个字。

早些写过的内容慢慢淡出脑海,最近的上下文用来盯住当前进度。

这种能力有个很妙的名字:「软遗忘」(soft forgetting)。

正是靠着这种「该忘就忘」的本事,人才能在极低认知负荷下扛住超长任务。比如,抄一本书、译几百页、连续转录数小时音频。

百度想做的,就是把人类这种「原文全局可见、记忆只保留最近几行」的注意力方式,搬进模型里。让OCR告别失忆。

R-SWA:把「抄书的秘密」写进注意力

顺着这个思路,百度提出了报告里的核心技术——参考滑动窗口注意力(Reference Sliding Window Attention,R-SWA),精确对应前面说的人抄书时的注意力模式。

具体来说,每生成一个token,R-SWA都会去看全部「参考token」,也就是整张图像的视觉token和提示词,保证模型始终「看得见」完整原文。

但在输出这一侧,它只回看前面128个token,就像你抄书时只瞄一眼刚写的那几行。

落到实现上,Unlimited OCR把所有注意力层全换成R-SWA,从而把KV缓存变成一个固定容量的队列。

每生成一个新token,最老的那个就被挤出去,大小始终不变。输出1万个token和10万个token,内存占用是完全一样的。


报告中Flash Attention v3的延迟测试也一目了然。

DeepSeek OCR的标准MHA随着解码步数增加,每步耗时稳步攀升;而Unlimited OCR的R-SWA从头到尾一条平线,纹丝不动。


一次推理,读完几十页

这里还有一个至关重要的配合:DeepEncoder。

这个最初在DeepSeek OCR中登场的编码器,能把一张1024×1024的PDF页面压缩到仅仅256个视觉token,压缩率高达16倍。

而且由于视觉token在R-SWA下不参与状态转移,因此无论文档多长,图像信息永远清清楚楚,不会随解码过程逐渐退化。

配合DeepEncoder的极致压缩和R-SWA的恒定缓存,Unlimited OCR在标准的32K上下文里,一次前向推理就能转录数十页文档。

结果显示,同时输入20页文档,转录与原文逐字比对的编辑距离仅0.057;即便输入40页以上,依然控制在0.11以下,衡量重复输出的Distinct-35高达97%——几十页一口气转录,几乎没有复读。


在OmniDocBench v1.5上,Unlimited OCR拿到93.23%的综合得分,比DeepSeek OCR的87.01%高出6.22个百分点。

文本编辑距离从0.073降到0.038,公式CDM从83.37飙到92.61,表格TEDS从84.97升至90.93。

在更新的v1.6上,同样以93.92%拿下端到端SOTA。


效率方面同样碾压。

输出达到6144个token时,Unlimited OCR的TPS是7847,DeepSeek OCR已经掉到5822,差距高达35%。


别忘了,这是一个500M激活的MoE小模型,在DeepSeek OCR基础上仅继续训练4000步的结果。

投入不算大,但效果拔群——R-SWA对解析任务是一种真正的「免费午餐」。

九大文档类型的细分对比中,PPT、论文、杂志、报纸无一短板,Unlimited OCR在文本和阅读顺序两项上全面超越DeepSeek OCR,且在七个类别中领先DeepSeek OCR 2。

一位神秘的技术总监

跑分说完了。但这份报告真正有意思的地方,是行文方式。

从副标题的语气到技术的叙事,读过DeepSeek那几份技术报告的人,几页下来就会觉得似曾相识。

末尾还断言R-SWA是通用解析机制,而OCR只是第一站。

一篇OCR报告,硬是写出了探索通用智能的味道。

然后,是那个最让人在意的地方——作者名单。

核心贡献者三位:Youyang Yin,Huanhuan Liu*(项目leader),YY†(技术总监)。

两个人用真名,唯独技术总监挂了个两字母缩写。有点意思。

虽然论文没多说,但GitHub致谢栏却把线索递了过来:Deepseek-OCR和Deepseek-OCR-2,排在致谢前两位。


顺着这条线往回找。DeepSeek OCR从一代到二代,核心作者始终三个人:魏浩然、孙耀峰、李宇琨。同一支小队伍,从无到有。

今年4月DeepSeek发V4,魏浩然名字后面多了星号——已离职。

三个人里,只有他已经公开离开。

再看履历。魏浩然,阶跃星辰出身,主导开发了端到端OCR最早跑通的开源标杆GOT-OCR2.0。到DeepSeek后,更是一手搭起整条OCR线,DeepEncoder、MoE解码器,一代到二代都是他的团队。

能力、时间线、署名方式,三条都对得上。

国内OCR圈不大,能做出R-SWA这种级别突破、还对DeepSeek OCR架构有「亲手做过」级别熟悉的人,一只手数得过来。魏浩然是其中最显眼的那一个。

如此一来,YY大概率就是魏浩然了。

百度,依然能打

过去几年,PaddleOCR几乎是国产OCR的代名词。开源、轻量,产业落地最广——从手机端到服务器到嵌入式设备,覆盖了最主流的应用场景。

不过之前百度更侧重产业应用。稳定性、部署成本、场景覆盖是强项,「用前沿研究理念重塑OCR范式」这个方向并非其叙事重点。

而魏浩然做的,恰好就是这件事。

从GOT-OCR2.0的端到端一次解析,到DeepSeek-OCR的视觉压缩,再到R-SWA——先想清楚OCR应该长什么样,再做出来。

一边是产业落地最成熟、场景覆盖最广的工程底座;一边是端到端长程解析最前沿的研究品味。两者叠加,补齐的不只是一个技术短板,而是一种「既能大规模铺开、又能持续引领范式」的完整能力。

百度今年把AIDU人才计划升级为集团级项目、薪酬不设上限。对一个想把研究做到落地的人来说,百度多年铺下来的产业底座,比单纯的高薪更有说服力。

魏浩然如果真的选了百度,逻辑就很清楚——这里有最成熟的产业底座,也有把研究推到前沿的空间和资源。

如果他真的把R-SWA推广到ASR和翻译,那百度手里握着的就不只是一个OCR模型,而是一套通用长程解析的技术框架。

论文展望里还留了一句:下一步,上下文窗口训到128K,构建prefill pool让模型学会自动翻页。

如果做到了,OCR就不再是识别一页文字,而是理解一整本书。

参考资料:

https://github.com/baidu/Unlimited-OCR

https://huggingface.co/baidu/Unlimited-OCR

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
耐人寻味!黄仁勋前脚卸任英伟达,刘强东后脚砸99亿买下欧洲1000家店,雷军同一天官宣巴黎,三件事同一天,真有那么巧吗

耐人寻味!黄仁勋前脚卸任英伟达,刘强东后脚砸99亿买下欧洲1000家店,雷军同一天官宣巴黎,三件事同一天,真有那么巧吗

老猫观点
2026-11-18 08:52:59
公交系统终于想通了:与其让一城人抢上车,不如让他们先举手

公交系统终于想通了:与其让一城人抢上车,不如让他们先举手

琴音缭绕回
2026-11-18 12:25:15
安徽一对夫妻杀人后潜逃20年,各自另组家庭,谁料,妻子成公司高管丈夫成大老板

安徽一对夫妻杀人后潜逃20年,各自另组家庭,谁料,妻子成公司高管丈夫成大老板

LULU生活家
2025-11-06 18:29:11
松口了!柯文哲:选前之夜应该不会为蒋万安站台

松口了!柯文哲:选前之夜应该不会为蒋万安站台

金牛传声
2026-11-18 07:31:34
马斯克曾预言:接下来全世界将面临一场危机,或只有中国是个例外

马斯克曾预言:接下来全世界将面临一场危机,或只有中国是个例外

瓦伦西亚月亮
2026-11-18 13:48:08
小心!欧洲被打服了,中东也不闹了,美国的目标只剩下东亚

小心!欧洲被打服了,中东也不闹了,美国的目标只剩下东亚

西府赵王爷
2025-03-22 15:47:18
陈羽凡现状:低调生活,50岁胖到认不出,17岁儿子1米8长得像妈

陈羽凡现状:低调生活,50岁胖到认不出,17岁儿子1米8长得像妈

三公子娱乐丫
2025-05-17 17:59:45
新加坡再度出手,917台服务器牵出41笔交易,芯片案仍未收场

新加坡再度出手,917台服务器牵出41笔交易,芯片案仍未收场

健身狂人
2026-11-17 14:56:34
一路走好,斯琴高娃去世,享年93岁,和大家想的不是一个人

一路走好,斯琴高娃去世,享年93岁,和大家想的不是一个人

马浵在解说
2026-11-18 12:05:56
李楠会用人!周琦新搭档场均16.7分,胜过曾凡博,杨鸣拿他当中锋

李楠会用人!周琦新搭档场均16.7分,胜过曾凡博,杨鸣拿他当中锋

体坛大事记
2026-11-18 16:12:02
两桶油急的是:油价他们说了不算,想降价不能降,销售量大幅减少

两桶油急的是:油价他们说了不算,想降价不能降,销售量大幅减少

侃故事的阿庆
2026-11-18 06:41:18
台湾飞行员黄植诚起义后娶了空姐,8年后她前往美国再也没回来,安全部门半夜围了住处,谁也没想到最后在卧室搜出了这个

台湾飞行员黄植诚起义后娶了空姐,8年后她前往美国再也没回来,安全部门半夜围了住处,谁也没想到最后在卧室搜出了这个

磊子讲史
2026-11-16 14:38:55
2-1夺冠后,U19国足主帅久尔杰维奇低调总结,而韩主帅却很沉重!

2-1夺冠后,U19国足主帅久尔杰维奇低调总结,而韩主帅却很沉重!

田先生篮球
2026-11-18 06:22:39
36岁女子只因拿不出五百房租,就被房东赶出房间,被朋友做局欺骗,负债百万,如今身上五十块都拿不出,在路边崩溃大哭!

36岁女子只因拿不出五百房租,就被房东赶出房间,被朋友做局欺骗,负债百万,如今身上五十块都拿不出,在路边崩溃大哭!

捣蛋窝
2026-11-16 15:56:18
不止卡芯片!黄仁勋如果来华,下一个被盯上的就是华裔科学家

不止卡芯片!黄仁勋如果来华,下一个被盯上的就是华裔科学家

林子说事
2026-11-18 12:51:04
从60跌到21暴跌64%,今天又20CM闪崩跌停,没走的股民全被一锅端

从60跌到21暴跌64%,今天又20CM闪崩跌停,没走的股民全被一锅端

财经智多星
2026-11-18 13:23:33
上层作孽,害死好人

上层作孽,害死好人

我是历史其实挺有趣
2025-08-02 08:59:00
台海观澜 | 倒计时10天,谁掌台北

台海观澜 | 倒计时10天,谁掌台北

经济观察报
2026-11-18 12:22:15
印度顶级制造商曝雷人言论:第六代战斗机即将出世,各国网友集体来嘲笑印度

印度顶级制造商曝雷人言论:第六代战斗机即将出世,各国网友集体来嘲笑印度

小徐讲八卦
2026-11-17 15:42:25
美以伊局势:美军再袭伊朗格什姆岛;特朗普:正认真对待伊朗或在华盛顿引爆脏弹的消息;伊朗称打击巴林的美军雷达系统,美军否认被击中

美以伊局势:美军再袭伊朗格什姆岛;特朗普:正认真对待伊朗或在华盛顿引爆脏弹的消息;伊朗称打击巴林的美军雷达系统,美军否认被击中

极目新闻
2026-11-18 07:16:44
2026-11-18 17:47:00
新智元 incentive-icons
新智元
AI产业主平台领航智能+时代
16711文章数 67239关注度
往期回顾 全部

科技要闻

离职后首份声明!黄仁勋认错愿回归

头条要闻

特朗普抵达深圳出席APEC会议 年内第二次访华

头条要闻

特朗普抵达深圳出席APEC会议 年内第二次访华

体育要闻

“中超卡里乌斯”,成了大连的夺冠英雄

娱乐要闻

认亲被嘲讽后郭德纲委托律师发声明

财经要闻

黄仁勋留下的高分成绩单,能延续吗?

汽车要闻

全新红旗H9最有意思的地方,是它开始有自己的豪华逻辑了

态度原创

教育
时尚
手机
亲子
本地

教育要闻

数学到底应不应该超前学呢?值得探讨

奶瓶界爱马仕,批量收割中产父母

手机要闻

苹果折叠屏陷入两难 博主:iPhone Duo 2外屏上Face ID 体验会很割裂

亲子要闻

潮州月子中心里新时代母婴会所的服务比别家好吗?

本地新闻

乌兰察布:以前种土豆,现在种Token

无障碍浏览 进入关怀版