网易首页 > 网易号 > 正文 申请入驻

网站被迫上工作量证明,AI爬虫把站长逼到这一步

0
分享至

你打开一个普通网站,看到的不是内容,而是一道数学题。浏览器要先算完这道题,才能进入页面。这不是什么极客彩蛋,而是站长们被AI爬虫逼出来的防御手段。

这个网站的管理员部署了Anubis,专门用来挡住那些疯狂抓取网页的AI公司。这些爬虫的抓取量太大,经常把网站拖到宕机,让正常用户也访问不了。Anubis的思路借鉴了Hashcash——当年有人提出用工作量证明来减少垃圾邮件,现在同样的逻辑被拿来对付AI爬虫。


核心逻辑:让单次访问几乎无感,让大规模抓取贵到肉疼

Anubis的设计很直接。普通用户偶尔访问一次,多出来的计算量可以忽略不计,页面照样秒开。但爬虫要抓的是几十万、几百万个页面,每个页面都要求算一道题,成本就会迅速累积。抓取规模越大,要付出的算力就越高,最终让批量抓取变得不划算。

这本质上是一道经济账。AI公司不是技术上解不开这些题,而是当抓取成本超过数据价值时,它们自然会收手。Anubis没有试图从技术上彻底封死爬虫,而是把对抗拉回了成本维度。

这只是个临时方案,真正的方向是识别无头浏览器

Anubis的定位很明确:一个占位解决方案。它争取的是时间,让网站管理员能腾出手来研究更精准的识别手段。比如通过字体渲染方式的差异,判断访问者到底是真人浏览器,还是AI公司批量运行的无头浏览器。


如果能准确识别无头浏览器,就不需要给每个用户都弹工作量证明页面。那些大概率是正常人的访问可以直接放行,只有可疑流量才需要做题。这样既保住了防御效果,又不会误伤普通用户。

JavaScript成了绕不开的门槛

Anubis有一个硬性要求:必须启用JavaScript。它依赖现代JavaScript特性来完成验证,像JShelter这类会禁用脚本的隐私插件,反而会让验证无法通过。想访问这个网站,就得先关掉这类插件。

站长对此也很无奈。AI公司已经改变了网站托管的社会契约——过去网站默认开放给所有人访问,现在却要先验证访问者是不是机器人。一个不需要JavaScript的解决方案还在开发中,但眼下,没有脚本就过不了这道关卡。

这件事折射出的问题比技术本身更值得琢磨。当AI公司把公开网页当成免费训练语料库,网站运营者被迫在开放与生存之间做选择。工作量证明只是第一道防线,它背后是互联网内容生态正在被重新划分边界。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
难怪朱倩老公这次下手这么狠,这女人的聊天记录,实在是太野了

难怪朱倩老公这次下手这么狠,这女人的聊天记录,实在是太野了

皮蛋儿电影
2026-09-02 10:26:48
付费飞机餐走红,有的344元!网友:航空餐还能免费多久

付费飞机餐走红,有的344元!网友:航空餐还能免费多久

南方都市报
2026-09-08 17:28:20
1075亿,江西双胞胎姐弟IPO了

1075亿,江西双胞胎姐弟IPO了

融资中国
2026-09-08 11:20:37
应急管理部原党委书记、部长王祥喜严重违纪违法被开除党籍和公职

应急管理部原党委书记、部长王祥喜严重违纪违法被开除党籍和公职

上观新闻
2026-09-08 17:04:06
墙皮都烧卷了,值班员还在电话里“走流程”:“领导咋整?”

墙皮都烧卷了,值班员还在电话里“走流程”:“领导咋整?”

小鹿姐姐情感说
2026-09-08 05:34:56
斯瓦泰克难过流泪,不仅仅是因为败给郑钦文,还因为以下五点

斯瓦泰克难过流泪,不仅仅是因为败给郑钦文,还因为以下五点

慕雨遥长p
2026-09-08 09:43:08
苹果9月9日发布会终极曝光:比折叠屏更炸的,也来了

苹果9月9日发布会终极曝光:比折叠屏更炸的,也来了

ZAKER科技
2026-09-07 10:23:29
马斯克重大决定,战场风云突变,乌克兰无人机要开炸了?

马斯克重大决定,战场风云突变,乌克兰无人机要开炸了?

不甜的李子
2026-09-08 07:23:59
郑钦文取胜后加练发球,斯瓦泰克回应遭翻盘,凯斯发文遭球迷调侃

郑钦文取胜后加练发球,斯瓦泰克回应遭翻盘,凯斯发文遭球迷调侃

排球黄金眼
2026-09-08 06:17:02
李途纯二婚老婆是她,曾是湖南知名主持,如今丈夫去世她低调生活

李途纯二婚老婆是她,曾是湖南知名主持,如今丈夫去世她低调生活

娱说瑜悦
2026-09-08 18:36:41
桑乔有望重返英超自救!两家俱乐部已接触这位26岁自由球员

桑乔有望重返英超自救!两家俱乐部已接触这位26岁自由球员

星耀国际足坛
2026-09-08 21:22:12
井柏然否认“割双眼皮”,只是“年纪大皮松了”,整形外科专家揭秘:他从标准内双变大宽眼皮,有三个原因

井柏然否认“割双眼皮”,只是“年纪大皮松了”,整形外科专家揭秘:他从标准内双变大宽眼皮,有三个原因

都市快报橙柿互动
2026-09-08 14:51:56
服!意大利主教练大赞中国女篮1人:对她准备了3套方案 全失效了

服!意大利主教练大赞中国女篮1人:对她准备了3套方案 全失效了

体育哲人
2026-09-08 11:00:46
查尔斯致信明确哈里梅根“私人公民”身份,夫妇称事先未获任何预警

查尔斯致信明确哈里梅根“私人公民”身份,夫妇称事先未获任何预警

追星雷达站
2026-09-08 19:48:48
“人口警报”拉响!有专家提出:全面放开四胎,有条件的家庭多生

“人口警报”拉响!有专家提出:全面放开四胎,有条件的家庭多生

阿纂看事
2026-09-08 12:48:58
万亿资产归零,全国第四大保险集团破产,1.5万亿保单怎么样了?

万亿资产归零,全国第四大保险集团破产,1.5万亿保单怎么样了?

米果说识
2026-08-17 19:17:49
宋丹丹的幸福又升级了!本以为两个孙子随宋姓已圆满,没想到巴图直播翻身买大平层,儿媳比闺女还贴心

宋丹丹的幸福又升级了!本以为两个孙子随宋姓已圆满,没想到巴图直播翻身买大平层,儿媳比闺女还贴心

背包旅行
2026-09-06 14:09:53
油耗2.1L的新一代HEV来了,为何慌张的不是纯电?

油耗2.1L的新一代HEV来了,为何慌张的不是纯电?

侃故事的阿庆
2026-09-08 07:54:31
黄金还能囤吗?欧洲宣布突破人造黄金技术,每秒产出8.9万金原子

黄金还能囤吗?欧洲宣布突破人造黄金技术,每秒产出8.9万金原子

旧史新谭
2026-09-07 16:26:14
过去车队敢怒不敢言,这次直接掀桌子,国内赛事的甲乙方要复位了

过去车队敢怒不敢言,这次直接掀桌子,国内赛事的甲乙方要复位了

天天热点见闻
2026-09-08 06:27:22
2026-09-09 00:12:49
闪存猎手
闪存猎手
全网蹲好价的野生捕手,算力与羊毛都不可辜负。
250文章数 74关注度
往期回顾 全部

科技要闻

小米再次背水一战

头条要闻

太子奶创始人李途纯去世 其子难掩悲痛:我没有准备好

头条要闻

太子奶创始人李途纯去世 其子难掩悲痛:我没有准备好

体育要闻

韩旭:我一定会再次走出去

娱乐要闻

郭德纲被处罚,郭麒麟被曝恋情瓜

财经要闻

智谱六连跌失守1000大关,发生了什么?

汽车要闻

领克20 领克的纯电小钢炮这次更运动了

态度原创

教育
房产
艺术
旅游
军事航空

教育要闻

汤家凤当年为什么苦学英语?汤家凤为什么学不好语文?

房产要闻

真快啊!海口这个超级城更,又有大动作!

艺术要闻

吴冠中 一次画了六张富春江,这张1437.5万

旅游要闻

3000万元!这个秋天,广东将开启一场全新文旅盛会

军事要闻

胡塞武装用自行生产的导弹袭击沙特军车

无障碍浏览 进入关怀版