网易首页 > 网易号 > 正文 申请入驻

3点崩掉的爬虫自己修,这个Python sidecar让工程师睡

0
分享至


凌晨3点,你的冲浪预警系统突然哑火。某个海浪数据源的CSS选择器失效,用户收不到警报,工程师被Slack叫醒——这种剧本每月重演。修复代码只要5分钟,但找问题、拉日志、走部署流程,2小时没了。

这不是算力不够,是摩擦成本太高。一个团队给这套流程起了个名字:Self-Healer。它的核心洞察很朴素——修爬虫这件事,本身就该自动化

选择器是定时炸弹,只是你不知道倒计时

生产环境的爬虫有个隐蔽的脆弱点:它们依赖的CSS选择器和XPath表达式,是针对第三方网站某一时刻的DOM快照写的。对方改个布局、换个类名、重构表格结构,你的选择器要么返回空,要么返回错的数据。

更麻烦的是这类故障的沉默性。系统不会报错崩溃,只是 quietly 返回 nil。等到用户投诉或数据异常被察觉,故障已经持续数小时。

文中提到的冲浪预警系统要监控几十个预报源。一个真实案例:上游网站把 tr.forecast-table__row[data-row-name="wave-heigth"] 里的拼写错误修正了——原来他们把 height 写成 heigth,现在改对了。你的选择器反而失效。

这种"对方修bug你踩雷"的场景,在依赖第三方数据的系统里几乎无法避免。

Self-Healer的闭环:从故障到修复,无人值守

系统的触发点很直接:Ruby 爬虫提取字段失败(比如 wave_height 返回 nil),就往 Redis 队列扔一个修复任务。

Python sidecar 消费这个任务,拉取当前 HTML,裁剪到符合 token 预算,然后向本地运行的 MLX 大模型发送定向提示词。模型输出新的 CSS/XPath 候选选择器,附带置信度和推理过程。

关键的安全闸在这里:每个候选选择器都要经过 BeautifulSoup 和 lxml 的实机测试。提取出的值还要过类型校验——比如浪高必须是 0.1-20.0 之间的浮点数。通不过就扔掉,通过就直接写入 PostgreSQL 的 data_sources.selector_overrides 表。

不需要重新部署。下次爬虫运行读取更新后的配置,当作什么都没发生继续跑。

整个闭环的设计哲学是:模型负责提议,代码负责裁决。LLM 的输出被当作"实习生提交的 PR"——值得一看,但合并前必须 review。

为什么必须本地跑模型,为什么还要类型校验

用 LLM 修爬虫听起来诱人,但有两个坑不得不防。

第一,模型的自信不等于正确。它能生成看起来合理的 XPath,实际匹配的却是表格的错误列——比如提取到表头文字"Wave Height (m)",而不是数值 1.8。类型校验在这里就是最后一道防线:字符串过不了 float:0.1-20.0,候选直接出局。

第二,没有沙箱环境,没有影子流量,没有 A/B 灰度。候选选择器的验证就在进程内完成,用和爬虫相同的解析库,对同一份 fetched HTML 跑测试。能过就生效,不能过就丢弃。这种"现场验货"的粗暴,反而规避了环境不一致带来的风险。

选择器覆盖表的设计也值得玩味。它不是修改代码仓库,而是运行时配置层的热更新。这让修复动作本身变得可观测、可回滚——出问题了直接删表里的记录,系统回退到原始选择器。

文中没提但隐含的一个细节:这套系统对 LLM 的调用成本极低。MLX 本地运行,没有 API 费用;HTML 裁剪控制 token 量;候选选择器通常 1-3 个就能命中。对比工程师 2 小时的夜间加班,硬件折旧几乎可以忽略。

Self-Healer 目前处理的是结构化数据的提取故障——表格、列表、特定字段。对于更复杂的场景,比如需要跨页面跳转、处理动态渲染、或者理解语义上下文的抓取任务,这套架构还够用吗?如果上游网站把关键数据从 HTML 搬到 JavaScript 渲染,甚至加上反爬验证,sidecar 的修复策略要怎么升级?

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
爆雷了!知名电商平台总部人去楼空,大量供应商被欠款

爆雷了!知名电商平台总部人去楼空,大量供应商被欠款

凤凰网财经
2026-04-04 20:41:42
NCAA冠军含金量拉满!康涅狄格四年三次打进决赛,剑指王朝!

NCAA冠军含金量拉满!康涅狄格四年三次打进决赛,剑指王朝!

田先生篮球
2026-04-05 12:03:46
A股:大家坐稳扶好了,从今天起,大牛市或将再次重演历史了!

A股:大家坐稳扶好了,从今天起,大牛市或将再次重演历史了!

夜深爱杂谈
2026-04-05 11:25:39
大家一定要做好心理准备,周边的局势已经越来越紧张了

大家一定要做好心理准备,周边的局势已经越来越紧张了

安安说
2026-04-05 11:23:47
曝宋宁峰早已签离婚协议!被小三包养花几十万,Q女士撞脸齐溪

曝宋宁峰早已签离婚协议!被小三包养花几十万,Q女士撞脸齐溪

仙味少女心
2026-04-04 21:38:21
浙江温州一住户窗玻璃被“白凤凰”白鹇撞破,房主:它在室内留下粪便后飞走了

浙江温州一住户窗玻璃被“白凤凰”白鹇撞破,房主:它在室内留下粪便后飞走了

台州交通广播
2026-04-05 21:10:16
李在明万万没想到,被判无期的尹锡悦,竟能比当总统还挣得多

李在明万万没想到,被判无期的尹锡悦,竟能比当总统还挣得多

策略述
2026-04-05 19:45:55
张雪因手掌太红被网友提醒及时就医!此前回应:肝没问题!医生提醒

张雪因手掌太红被网友提醒及时就医!此前回应:肝没问题!医生提醒

封面新闻
2026-04-04 00:47:37
不说话,不吃植入零食,偶像包袱又重,他上《五哈6》干嘛来了?

不说话,不吃植入零食,偶像包袱又重,他上《五哈6》干嘛来了?

往史过眼云烟
2026-04-05 16:45:07
终于有了结果,曾医生能保住医院的工作,最应该感谢的三位贵人!

终于有了结果,曾医生能保住医院的工作,最应该感谢的三位贵人!

凌风的世界观
2025-11-14 08:38:31
CBA最新消息!曝广东宏远签约2米13大外援,新疆男篮主帅格兰下课

CBA最新消息!曝广东宏远签约2米13大外援,新疆男篮主帅格兰下课

体坛瞎白话
2026-04-05 17:35:38
蒋介石孙子召开发布会,提出“两蒋”移灵大陆,2句话让世人唏嘘

蒋介石孙子召开发布会,提出“两蒋”移灵大陆,2句话让世人唏嘘

老谢谈史
2026-03-18 18:33:35
不是特朗普在折腾!而是美国如今已经凑齐了金融危机的所有条件!

不是特朗普在折腾!而是美国如今已经凑齐了金融危机的所有条件!

次元君情感
2026-04-05 00:42:49
超级大富豪被拉黑,数千亿大案曝光了

超级大富豪被拉黑,数千亿大案曝光了

大猫财经Pro
2026-04-03 18:12:24
被成龙称为顶级美人,62岁高龄,220斤体重,却依旧美的不可方物

被成龙称为顶级美人,62岁高龄,220斤体重,却依旧美的不可方物

黎兜兜
2026-04-05 15:15:45
国家触发一级战备时,普通人千万要牢记这3条!保命切记别去抢购

国家触发一级战备时,普通人千万要牢记这3条!保命切记别去抢购

健身狂人
2026-04-05 12:39:10
队史第6次!活塞时隔19年夺东部常规赛冠军 前5次至少保底东决

队史第6次!活塞时隔19年夺东部常规赛冠军 前5次至少保底东决

醉卧浮生
2026-04-05 09:18:11
两架美国武装直升机 被伊朗山民击中 营救飞行员无望 美军试图灭口

两架美国武装直升机 被伊朗山民击中 营救飞行员无望 美军试图灭口

每日经济新闻
2026-04-05 09:42:48
空姐真的挺辛苦的

空姐真的挺辛苦的

微微热评
2026-04-05 10:10:26
破纪录!超越日本只是开始

破纪录!超越日本只是开始

中国新闻周刊
2026-04-04 16:15:41
2026-04-05 22:27:00
像素与芯片
像素与芯片
有态度网友ytd
1123文章数 3关注度
往期回顾 全部

科技要闻

花200薅5千算力,Claude冷血断供“龙虾”

头条要闻

网友晒图称曹操墓前摆满了布洛芬 高陵遗址博物馆回应

头条要闻

网友晒图称曹操墓前摆满了布洛芬 高陵遗址博物馆回应

体育要闻

CBA最老球员,身价7500万美元

娱乐要闻

王灿兮否认婆媳不和 晒与杜淳妈合影

财经要闻

谁造出了优思益这头“怪物”?

汽车要闻

家用SUV没驾驶乐趣?极氪8X第一个不同意

态度原创

艺术
时尚
数码
亲子
旅游

艺术要闻

王少伦 风景油画选刊

伊姐清明热推:电视剧《暴锋雨》;电影《我,许可》......

数码要闻

英特尔推出酷睿Ultra 7 251HX处理器:6P + 12E + 3Xe

亲子要闻

非洲小男孩竟然是这样洗澡的?

旅游要闻

看北京|将府公园二月兰开放,游人徜徉“紫色花海”

无障碍浏览 进入关怀版