网易首页 > 网易号 > 正文 申请入驻

PDF表格幻觉:99%幽灵表格被一个数学公式杀死,工程师揭秘上下文感知提取

0
分享至

如果你写过PDF解析脚本,一定经历过这种绝望:跑一遍通用文本提取器,原本整齐的表格变成一堵文字墙,所有列被暴力压成垂直堆叠。更糟的是换用表格提取器——它开始到处 hallucinate(产生幻觉)。加粗标题带下划线? parser 认定这是 1×1 表格。段落间的水平分隔线?砰,幽灵表格诞生。

问题根源在于大多数 PDF 解析器采用严格的顺序流水线。它们扫描所有线条,扫描所有文字,然后简单粗暴地混在一起。我受够了这种"机器式阅读",于是重新设计了提取流水线——让 parser 像人类一样"看见"文档。


这就是上下文感知 PDF 提取的数学原理。

盲目提取的灾难

我们之前的流水线是这样工作的:找出所有水平和垂直线段(H-segs 和 V-segs),丢进 LatticeReconstructor 找交叉网格,每个网格都当表格处理,再用严格的"点是否在框内"判断把所有文字塞进这些网格。

这种设计对图文混排文档是灾难。段落里一条装饰性下划线会让 LatticeReconstructor panic,强行造表。表格单元格里的文字因坐标抖动稍微偏移,"点-框检测"就失败,文字直接从输出里消失。

我需要 parser 理解上下文。

上下文分类器的介入

我构建了 contextClassifier。它不再把 PDF 当作形状和文字的容器,而是遍历文档,将每个元素归类到空间有界的类型区域:TABLE、PARAGRAPH、HEADING、LIST、IMAGE。

但机器怎么区分表格边框和装饰下划线?用邻近度数学。

代码逻辑很直接:遍历每条水平线段,计算其中点纵坐标 hY;遍历每个文字元数据,计算 hY 与文字基线纵坐标 tm.vy 的垂直距离 yDist。如果 yDist 在 -1 到 5 像素之间,且水平方向与文字重叠,这条线就是下划线而非表格边框。

在表格重建前标记并剔除这些下划线,99% 的幽灵表格被消灭。

文字作用域:告别碰撞

表格检测完成后,我们计算表格网格的精确边界框。contextClassifier 不再把整份文档的文字丢给表格构建器,而是只捞取物理上位于该边界框内的文字项。这种"物理居住"检查替代了粗暴的全局匹配,从根本上消除了文字错配和消失的问题。

这套数学框架的核心洞察很简单:PDF 不是几何图形的随机堆叠,而是人类视觉意图的编码。用像素级的邻近关系重建这种意图,机器才能停止幻觉,开始理解。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
新闻8点见丨外交部谈特朗普访华;北京“六环半”要来了

新闻8点见丨外交部谈特朗普访华;北京“六环半”要来了

新京报
2026-05-12 07:58:45
佛山一套法拍别墅带800平米花园,5800万元起拍,园内16棵树木估价76万元

佛山一套法拍别墅带800平米花园,5800万元起拍,园内16棵树木估价76万元

极目新闻
2026-05-12 23:57:32
曹操撩寡妇时说的金句,如今成了约会开场白,男人经常挂在嘴边

曹操撩寡妇时说的金句,如今成了约会开场白,男人经常挂在嘴边

掠影后有感
2026-05-11 11:31:38
特朗普应邀访华三天,中方准备了高规格礼遇,他想邀中方回访美国

特朗普应邀访华三天,中方准备了高规格礼遇,他想邀中方回访美国

忠于法纪
2026-05-12 17:29:09
缅怀!前NBA球员科林斯去世!年仅47岁!

缅怀!前NBA球员科林斯去世!年仅47岁!

柚子说球
2026-05-13 08:53:16
5年2亿!这就是湖人能给里夫斯的全部,另两队已准备挖墙角

5年2亿!这就是湖人能给里夫斯的全部,另两队已准备挖墙角

奕辰说球
2026-05-13 11:06:19
京沪高铁涨价,骂声一片

京沪高铁涨价,骂声一片

凤眼论
2026-05-12 16:53:49
一个东北人,在远东承包了1200亩地,种植来自东北的大豆

一个东北人,在远东承包了1200亩地,种植来自东北的大豆

正面连接
2026-05-12 17:55:48
领导的网名叫上善若水,我该叫什么才能压他一头?

领导的网名叫上善若水,我该叫什么才能压他一头?

摩登人类
2026-05-11 19:43:02
程维高并非被一撸到底,下台后享受副省级待遇,活了78岁

程维高并非被一撸到底,下台后享受副省级待遇,活了78岁

史不语
2026-05-13 08:10:10
起底 Token 中转黑色产业链:日赚 200 万美金!大佬扎堆入局,灰色套利套路碾压现金贷

起底 Token 中转黑色产业链:日赚 200 万美金!大佬扎堆入局,灰色套利套路碾压现金贷

新浪财经
2026-05-12 00:15:49
CBA赛场绝美女球迷意外走红!疑似东阳光老板娘,AI真假网友吵翻

CBA赛场绝美女球迷意外走红!疑似东阳光老板娘,AI真假网友吵翻

谭谈社会
2026-05-13 03:53:12
暴跌65%,中年人最爱的豪车也崩了!

暴跌65%,中年人最爱的豪车也崩了!

蒋东文
2026-05-12 21:16:35
美国对中国统一下达新结论:大陆只要按兵不动,越晚统一代价越小

美国对中国统一下达新结论:大陆只要按兵不动,越晚统一代价越小

华史谈
2026-05-13 08:49:26
海顿·潘妮蒂尔自曝18岁被迫与名人发生关系

海顿·潘妮蒂尔自曝18岁被迫与名人发生关系

娱圈观察员
2026-05-12 13:14:49
南京审计大学男子偷拍裙底事件:偷拍者为研究生,此前已公考上岸。

南京审计大学男子偷拍裙底事件:偷拍者为研究生,此前已公考上岸。

贴小君
2026-05-13 08:25:53
特朗普启程访华,鲁比奥、赫格塞思随行丨现场画面

特朗普启程访华,鲁比奥、赫格塞思随行丨现场画面

凤凰卫视
2026-05-13 09:57:06
CCTV5直播上海男篮VS北京队,5个位置球员对比,谁强谁弱一目了然

CCTV5直播上海男篮VS北京队,5个位置球员对比,谁强谁弱一目了然

体育大学僧
2026-05-13 10:09:51
妹子双腿诡异绷直,10年后绷到反向朝前弯?!原来大脑死机,会让身体这样...

妹子双腿诡异绷直,10年后绷到反向朝前弯?!原来大脑死机,会让身体这样...

英国那些事儿
2026-05-11 23:19:12
举世关注:今天正式进入“北京时间”!

举世关注:今天正式进入“北京时间”!

仕道
2026-05-13 09:15:05
2026-05-13 11:32:49
报错免疫体
报错免疫体
一名在需求评审和数据异常中反复横跳的产品运营。
2686文章数 26关注度
往期回顾 全部

头条要闻

中国驻美大使:“成为中国人”刷屏 大势不可阻挡

头条要闻

中国驻美大使:“成为中国人”刷屏 大势不可阻挡

体育要闻

14年半,74万,何冰娇没选那条更安稳的路

娱乐要闻

巩俐用中文宣布戛纳开幕,彰显国际地位

财经要闻

深圳夫妻囤芯片,身家飙涨320亿

科技要闻

谷歌剧透安卓重大升级 Gemini深度集成底层

汽车要闻

吉利银河“TT”申报图曝光 电动尾翼+激光雷达

态度原创

艺术
亲子
本地
家居
公开课

艺术要闻

这位女摄影师的航拍风景照片,简直太美了!

亲子要闻

奇奇怪怪的经验又增加了一些

本地新闻

用苏绣的方式,打开江西婺源

家居要闻

极简主义下的居住场域与空间

公开课

李玫瑾:为什么性格比能力更重要?

无障碍浏览 进入关怀版