刷榜刷量的“内容农场”还在升级，安全治理怎么防？

21世纪经济报道记者肖潇 北京报道

AI 重塑了我们的上网日常，也正在重塑黑灰产的运作方式。“未来 5-10年，人类每天接触的信息将有超过 50% 来自 AI。写评论、领券、下单，都能够被AI精准模拟，而简单的验证码甚至人脸识别的防御手段都不再稳妥。” 在12月11日的“数美 2025 AI 风控大会”上，数美科技 CTO 梁堃指出，对互联网安全和风控行业来说，AI既是技术革命，也是一场风险革命。

21记者在现场看到了“内容农场”的演示：桌面上几十台手机，通过预设脚本在百度中自动搜索同一词条。另一台机械臂反复点击着两台手机，不间断下滑抖音视频，自行点赞、收藏和评论。

工作人员介绍，黑产设备成本已经非常低廉，这台机械臂的购入价格在1000元左右，而电商平台购入的两台真机只用300～400块。

依托这些设备运转起来的“地下经济”，利润主要来自两类业务：诈骗和作弊返利。数美科技新零售咨询总监叶扬解释，他们观察到，诈骗团伙需要大规模社交触达以筛选目标，而薅羊毛团队则围绕批量刷榜、冲量、注册拉新场景展开，盯准平台激励机制的缝隙。

已经攻防十几年的互联网黑灰产不算太神秘。支撑这两种业务的，通常是三类基础资源：账号、设备和网络。

账号主要通过“猫池”“卡池”获取，是黑灰产最关键的底座。据介绍，一台典型的笔记本大小的“猫池”就可接入大约512 张卡池，手机卡号用来自动接收验证码、收发短信，向上对接网络接码平台，向下用于短信轰炸、诈骗、批量注册等操作。

有了账号还需要设备。叶扬尤其提到，云手机的出现改变了游戏规则。“过去黑灰产作弊，还得去买一批真机，不管新旧都要投入硬件成本。而现在有了云手机，他们只需要花很低的成本批量租用设备，就能跑脚本、多开群控、模拟点击。而且现在云手机质量越来越好，效果甚至堪比真机。”

网络资源是黑灰产的第三类必需品。叶杨表示，黑灰产最中意的一类叫“隐形衣”。比如秒拨 IP， 可以做到每秒切换 IP 地址，还有可以将 IP 地址伪装成全球各地流量的IP魔盒。在这些手段面前，基础级的 IP 防护策略往往难以发挥作用。

比较棘手的是，生成式AI 还在被黑灰产进一步主动吸收，充当更聪明的大脑。

叶杨分享了一个智能客服环节的典型案例：眼下许多电商平台为了降低人工成本，上线了 AI 客服，并赋予它们一定权限。当用户表达强烈不满时，AI 客服便会自动发放红包或优惠券。而黑灰产团队发现这一机制后，开始批量复制话术，只需要简单的提示词攻击，就能榨干商家优惠。

提示词攻击的手段新颖、门槛低、扩散快，正在成为新的风控场景之一。不过对抗从不是单向的，风控侧也在用 AI 补上的风险敞口。

梁堃提到，目前公司在用AI大模型做深度行为分析，包括对一个账号的行为序列分析，对团伙的挖掘分析，以此组建“AI蓝军”。让 AI 主动演练各种攻击方式，以此实现“用 AI 防 AI”。

内容风控的工作流也在改变。21记者了解到，数美是小红书、B站等多家互联网平台的服务商，内容审核方面，互联网平台长期沿用的是“机审 + 人审”的标准流程：先机器大规模筛查，将可疑内容打上标签，再由人工复审。但人工审核成本高、耗时长，审核员长期暴露在暴力、色情、仇恨等不健康信息中，而且在规模放大和对抗更激烈的背景下，这套模式已难以跟上防御节奏。

梁堃对此表示，这一风控流程正在尝试升级为“AI机器审核 + 大模型审核 Agent + 专家决策”的三角链路，用大模型审核替代一部分人审环节，提升对复杂风险的研判能力。