重庆
1月13日，抖音发布“2024网络黑产治理盘点”。数据显示，抖音前置拦载款诈信息，全年封禁违规账号400万个；精准识别网络水军，全年封禁违规账号110万个；升级视频关键帧识别能力，阻断违规外键导流风险，全年封禁违规账号超120万个。过去一年平台持续打击网络黑色产业链，通过升级AI大模型技术、迭代风控策略、优化举报机制等系列举措，加强对网络黑产的识别和治理能力，并向相关部门提供涉嫌违法犯罪的线索，全力守护用户的用网安全。
前置拦截欺诈信息 多渠道提醒用户谨防被骗
2024年，仿冒领导、亲友和官方客服是最受关注的欺诈类型，尤其是仿冒抖音客服的黑产，用广撒网方式拨打电话、发送短信、即时通讯软件拨号等方法，与受害人直接联系，一步步引导对方共享屏幕或者下载第三方app，从中获取用户银行卡账户信息、诱导用户不断转账等。
刷单诈骗、购物诈骗也是2024年平台重点打击的欺诈类型。刷单诈骗黑产以招工、兼职、致富为由，或伪装成单身交友人设，诱导用户下载第三方软件进行欺诈；另一类黑产链路则以售卖演唱会内部门票、赠送小马宝莉卡、低价转游戏皮肤等噱头，锁定目标用户去第三方平台进行交易欺诈。
平台根据黑产作弊链路，在评论、建群、拉人等多个场景阻断黑产触达受害者，上线反诈客服“验证助手”，并根据黑产的特征每月迭代反诈策略200个以上，在站内外多个渠道发送反诈提醒，日均保护潜在受害人200万次。2024年，警方根据抖音提供的线索，打击诈骗团伙69个，抓获犯罪嫌疑人451名。
精准识别网络水军 重点打击四大类
售卖水军服务、恶意控评、流量造假、恶意举报，是过去一年抖音重点打击的四类水军行为。黑产在站内售卖刷粉刷赞、招募水军等违规服务，或有组织、有目的地批量发布评论，错误引导用户认知，利用作弊手段伪造虚假流量、炒作热度，甚至利用平台举报规则牟利，恶意举报导致他人账号受影响。
2024年，抖音搭建刷手、买手用户模型，精准识别风险账号，并实施拦截异常操作，阻断水军造假途径；通过大模型技术提升识别能力，对机器账号和受骗用户差异化处置。一年来抖音日均拦截违规信息6200万次，共封禁账号110万个，并将涉嫌违法行为的线索上报相关部门。过去一年，根据抖音提供的线索，警方抓获水军黑产犯罪嫌疑人90名。
升级视频关键帧识别能力 阻断违规外链导流风险
除了欺诈和水军，黑产集中的另一方向是违规外链。黑产组织通过作弊手段绕过平台风控策略，在多种渠道插入二维码、联系方式、图片、网址等，引导用户点击跳转至第三方违规、违法网站，这些第三方网站则大多以提供色情、赌博等违法服务为主。
为应对黑产新手法，抖音风控团队在前置识别的基础上，新增了自动黑样本库，通过AI技术可自动识别、归类违规行为并进行处置；结合黑产行为模式，升级视频截取关键帧模型能力，可第一时间定位黑产在视频中植入的违规页面；新增弹幕场景模型，有效运行该场景的违规拦截策略。2024年，抖音封禁相关违规账号超120万个，同时警方根据抖音提供的线索，打击违规导流团伙8个，抓获嫌疑人40名。
上游新闻 马亮
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
