快手遭自动化攻击：网络安全进入工业化对抗时代 | 新京报专栏

这次事件或将导致公众对全人工审核的浪漫想象彻底破产，“AI对AI”的治理逻辑将被接受。

▲12月22日晚，众多网友反映快手直播间出现大量色情内容，包括播放淫秽影片、主播擦边低俗表演等。图/九派新闻

|信海光

12月22日晚，快手平台出现大量违规直播内容，平台随后回应称系遭遇黑灰产攻击，并已报警处理。

表面看，这是一次突发的内容安全事故，但若将其放入更大的技术与产业背景中，则警示着，伴随技术的迅速迭代，AI可能被用来“作恶”的一面开始显露，互联网平台的安全对抗逻辑也正在面临重大转变。

据媒体报道，此次黑灰产突袭发生在晚间22点左右，在快手平台上，大量直播间在短时间内被恶意注入色情、低俗等内容。峰值时段约有1.7万个被控“僵尸账号”同步开播，形成刷屏效应。涉事直播间观看人数最高接近10万，评论区充斥着不堪入目的留言。

更严峻的是，此阶段部分用户举报功能短暂失效，显示黑灰产在投放违规内容的同时，还对平台处置通道实施了干扰。直到一小时后，平台才基本清除违规内容，将涉案账号全部冻结。此事导致快手股价在次日产生剧烈波动。

警惕“系统性风险”

回顾互联网发展史，如此规模的恶意网络攻击事件实属罕见，背后操纵者如此大张旗鼓，似乎并非只是为了盗取利益，而更像一次凶相毕露的“示威行动”。这是国内首次在头部平台上出现的由AI驱动、自动化、短时间爆发式的违规内容攻击事件。

在这次攻击中，黑灰产不是依赖零散账号、人工操作，而是通过自动化工具批量注册、控制账号，在极短时间内完成内容生成、发布与扩散。它突破了平台的常规安防与监管措施，造成了巨大的负面影响。

所谓道高一尺魔高一丈，自从有互联网以来，网络攻击便随之而生，而且攻击手段的提升也与网络技术的进步高度同频。

此次攻击“自动化”特征非常明显：攻击者借助自动化工具批量注册、操控僵尸号在同一时段集体开播，实现违规内容的秒级发布与扩散，这种规模化攻击完全超出人工审核的应对极限，造成短时间内的安全破防。某网络安防企业对此评论称，这是网络黑灰产利用AI技术发动的有组织、有预谋的攻击，标志着网络攻击已经进入全新的工业化阶段。

目前尚无法得知攻击者使用了什么样的AI技术，但AI技术的使用本身，使这次事件的警示意义已经超出了网络安全层面。AI的崛起一直伴有担忧与争议，但大多数是情绪层面和宏观层面，比如担心AI未来会统治人类，AI取代人类工作等。

而在此次快手事件中，公众并不太会因此突然担心“AI有了自我意识”，却会面对一种更现实，也更危险的新现象：AI正在帮助把作恶行为变成低门槛、可复制、可规模化的事情。

在此之前，人们接触的利用AI“作恶”主要是带来个体风险和伦理风险，比如换脸、盗窃、假视频、假直播、算法歧视、隐私侵犯、知识产权等，这些问题虽然也很严峻，但总归是在短期可控之内。

但在快手事件中，当违规内容在AI技术的操弄下像洪水一样涌来，公众感受到的不再是个别技术问题，而是一种秩序被撕裂的失控感，目睹上万个账号违规内容的刷屏，就像围观一种网络奇观。

如果技术先进的互联网平台企业都被攻破，那么未来，当互联网和AI成为社会基础设施，更强大的攻击是否会引发相应的系统性风险？我们是否已经有所准备？

秉持“AI对AI”治理逻辑

此次事件警示，必须立即开始直面AI技术正在成为新的放大器型风险源的可能。当它被滥用时，谁真正能按下刹车？

在以往公众的认知中，潜意识里对平台企业有一种兜底性的信任存在，总以为平台能够通过技术手段以及人力监管把潜在危害及时掐灭，但此次快手事件中平台的“破防”揭示了另外一种可能。进而引发一种担心，如果平台都扛不住，那普通社会系统呢？

无疑，此次事件的发生，各大平台都被剧烈震撼，其在安全运营领域将普遍面临从单一防御向系统性治理转变的新课题与新挑战。但面对挑战的，绝不仅仅是平台企业，而是全社会。

AI作为技术大潮势不可挡，这类事件的出现也势所难免，而它一旦真的出现，不会导致社会否定AI，只会强化监管共识的加强。以前很多监管讨论偏抽象，比如“AI向善”“算法透明”，今后则会逐渐走向实战，这实际上对监管层提出了更高的要求。

平台所肩负的责任也将升级，在大力宣扬AI的同时，平台也需证明自己能否驾驭AI，有没有自动化防御能力，是否有极端场景演练，是否设定熔断、降级、止损机制？同时，这次事件或将导致公众对全人工审核的浪漫想象彻底破产，“AI对AI”的治理逻辑将被接受。

快手事件虽然严重，但还没到天塌下来的地步，它更像一个触发器，引出一个未来已来的现实风险：如果作恶方未来进化到工业化、自动化、AI化，治理方是否做好了足够的准备呢？

来源：新京报评论微信公众号