网易首页 > 网易号 > 正文 申请入驻

Cloudflare放弃一刀切,AI爬虫管控进入“三分法”时代

0
分享至

都2026年了,Cloudflare突然觉得“一键屏蔽所有AI爬虫”这功能太粗糙了。两年前他们还给所有人一个痛快按钮,现在反而拆成三个选项,逼着你做选择。这到底是细化服务,还是在给网站主出难题?反正免费用户也得跟着适应。

Cloudflare给所有客户甩出一套新工具,把原来那个“全屏蔽”开关劈成了三类:搜索、训练、代理。搜索管搜索引擎收录;训练管那些扒数据去喂AI模型的;代理专治帮用户干活的bot,比如ChatGPT那种。从一锅端变成三选一,网站主终于不用在“放全部进来”和“全部挡掉”之间头疼了。


更厉害的是,从2026年9月15日起,只要你的页面挂了广告,训练类和代理类爬虫默认就会被拦在门外。逻辑很简单:你既然指着广告赚钱,肯定希望真人来看,那就不该让AI训练和代劳的机器人白白吸流量。搜索爬虫暂时安全,毕竟还得靠它们被搜到。要是遇上谷歌那种既搜内容又拿去训练的“多面手”,对不起,按最严的规矩来。这一刀切在广告页面上,等于替内容创作者先表明态度。

Cloudflare这波操作,摆明了在逼着bot运营方把自家爬虫按用途拆清楚。CEO马修·普林斯去年就点名谷歌,说你们把搜索蜘蛛和AI训练爬虫捆一块儿,装什么无辜。到2026年6月,他又扔出一组数字:互联网上机器流量头一回干掉了人类流量,比他之前预估的2027年底提前了一年半。这下连借口都没了,拆分爬虫的动作必须提速。

企业客户手里还多了一张底牌:BotBase。这是一个直接嵌在控制面板里的可搜索机器人数据库,收录了所有已知bot,且亮出每个家伙是怎么分类的、拿你的内容干什么——是只贴个链接,还是整页复制走。以前可能只能靠猜,现在相当于有了一份bot成分说明书。

验证过的机器人也别想再靠“免检”标签混日子了。以前只要带上Verified标记,自动通行。如今不行了,类别决定你能不能进门。那个小绿标不再管用,运营方得自证身份属实,还得保证不滥用权限。等于说,Cloudflare在bot审核上加了道信任背书的重考。

整件事看下来,Cloudflare这套新规像在给AI时代的流量秩序强行立规矩。从“一键屏蔽”到“三类分治”,表面是多了几个按钮,实则把内容主权悄悄推还给了网站主。免费用户跟企业版一起上车,说明这不再是少数人的高端权限。就是不知道那些被逼着拆家的爬虫运营方,会不会真老老实实照着规矩来。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
这一扒越来越不对劲,韩红基金会相关企业被翻出来了!评论区炸锅

这一扒越来越不对劲,韩红基金会相关企业被翻出来了!评论区炸锅

草莓解说体育
2026-07-07 01:49:44
6个月确诊“婴儿渐冻症”,医生说最多活18个月,外公外婆9年陪伴,如今上二年级,考全班第一

6个月确诊“婴儿渐冻症”,医生说最多活18个月,外公外婆9年陪伴,如今上二年级,考全班第一

婚姻与家庭
2026-06-30 09:25:25
日本没想到,暴涨签证费,没等来中方取消制裁,赴日航班量反腰斩

日本没想到,暴涨签证费,没等来中方取消制裁,赴日航班量反腰斩

冰语历史
2026-07-05 22:34:34
悲惨!因辅导作业,情绪失控,母女相继跳楼,双双坠亡!

悲惨!因辅导作业,情绪失控,母女相继跳楼,双双坠亡!

闲侃闲侃
2026-06-25 07:43:49
ESPN资深记者:NBA球队担心詹姆斯将在自由球员市场上选择骑士队

ESPN资深记者:NBA球队担心詹姆斯将在自由球员市场上选择骑士队

好火子
2026-07-07 02:17:37
我估分718分,班花笑我只配当她裙下臣,成绩揭晓时她当场傻眼

我估分718分,班花笑我只配当她裙下臣,成绩揭晓时她当场傻眼

晓艾故事汇
2026-07-05 10:42:46
陌生号码一律不接,中国社会正在支付一笔隐形信任税

陌生号码一律不接,中国社会正在支付一笔隐形信任税

小陆搞笑日常
2026-06-25 11:30:41
法国主裁勒泰西耶执法阿根廷vs埃及,阿根廷球迷和媒体不满

法国主裁勒泰西耶执法阿根廷vs埃及,阿根廷球迷和媒体不满

懂球帝
2026-07-07 01:35:06
非夫妻开房,民警直白提醒:不碰这条红线,没人管你是不是夫妻

非夫妻开房,民警直白提醒:不碰这条红线,没人管你是不是夫妻

皓皓情感说
2026-07-01 09:05:51
巨浪借道日本上空,八千公里外精准命中,这一枪其实是隔山敲虎

巨浪借道日本上空,八千公里外精准命中,这一枪其实是隔山敲虎

音乐时光的娱乐
2026-07-07 09:20:27
为什么去过朝鲜回来就沉默的人,不是隐瞒,是真的说不出

为什么去过朝鲜回来就沉默的人,不是隐瞒,是真的说不出

老特有话说
2026-05-12 15:41:08
美国大满贯落幕,国乒2大赢家和4大输家,王曼昱奥运会又悬了

美国大满贯落幕,国乒2大赢家和4大输家,王曼昱奥运会又悬了

南海浪花
2026-07-06 11:24:14
知名男星被曝新恋情,逛街拍女友屁股好亲昵,手机屏保早已露端倪

知名男星被曝新恋情,逛街拍女友屁股好亲昵,手机屏保早已露端倪

往史过眼云烟
2026-07-06 19:33:34
内塔尼亚胡:解除哈马斯武装前绝不允许重建加沙,特朗普施压以色列不要对黎巴嫩真主党地道采取行动是“假新闻”

内塔尼亚胡:解除哈马斯武装前绝不允许重建加沙,特朗普施压以色列不要对黎巴嫩真主党地道采取行动是“假新闻”

扬子晚报
2026-07-05 22:59:33
“关注点错了!”高三妈妈晒女儿成年礼服,被劝减肥才是头等大事

“关注点错了!”高三妈妈晒女儿成年礼服,被劝减肥才是头等大事

林林先生
2026-07-07 09:05:03
167cm的G灯女神,暗黑界的顶级秘书御姐

167cm的G灯女神,暗黑界的顶级秘书御姐

吃瓜党二号头目
2026-07-07 10:45:58
星爷《功夫女足》定档首条预告引发热议,20秒的画面观感一言难尽

星爷《功夫女足》定档首条预告引发热议,20秒的画面观感一言难尽

娱乐故事
2026-07-06 16:52:48
普京1亿超级游艇突发北逃!两艘军舰死死护航,北约全线跟踪

普京1亿超级游艇突发北逃!两艘军舰死死护航,北约全线跟踪

一曲一场談
2026-07-04 16:25:26
勇哥说餐饮被抖音封了!

勇哥说餐饮被抖音封了!

红色少女主播
2026-07-04 23:38:44
超强台风“巴威” 正趋向我国!一旦登陆将造成巨大灾害,其体型堪称巨无霸

超强台风“巴威” 正趋向我国!一旦登陆将造成巨大灾害,其体型堪称巨无霸

珠江时报
2026-07-06 13:08:03
2026-07-07 12:28:49
野生运营
野生运营
懂点产品,懂点AI,正在努力给平淡日子搞点新花样。
273文章数 57关注度
往期回顾 全部

科技要闻

Claude说话前 脑子里可能先亮起了这些概念

头条要闻

媒体:特朗普搬起石头砸自己脚 拖垮美国队全队心态

头条要闻

媒体:特朗普搬起石头砸自己脚 拖垮美国队全队心态

体育要闻

世界杯最强17岁,贝林厄姆主动和他交换球衣

娱乐要闻

司晓迪再爆鹿晗,称两人已睡过

财经要闻

百万粉丝主播的减肥“生意”

汽车要闻

试驾全新坦克300 Hi4-Z/激光雷达/全场景NOA

态度原创

本地
房产
家居
旅游
公开课

本地新闻

国内足球之旅?这座小城给你高分答案

房产要闻

洋浦,大量卖地!

家居要闻

2026建博会(广州) 公装联探展交流活动

旅游要闻

宛如水墨长卷!石台白石岭古村落现绝美云雾景观

公开课

李玫瑾:为什么性格比能力更重要?

无障碍浏览 进入关怀版