净网:网警破获“AI换脸”侵入系统案

利用AI换脸

通过互联网平台验证系统

神不知鬼不觉

就能篡改企业法定代表人信息

9月9日

武汉网警侦破一起

利用AI换脸技术

非法侵入计算机信息系统的案件

抓获阿成(化名)等4名犯罪嫌疑人

图片

“你们公众号怎么开始推荐投资理财APP了？这靠谱吗？”6月10日，某机构工作人员像往常一样打开公司公众号评论区，却被一连串的粉丝留言惊出了一身冷汗。

工作人员急忙查看公众号文章，惊讶地发现原本精心运营的账号，不知何时竟发文称即将停更，并号召粉丝关注另外一个投资理财类的账号。工作人员尝试登录账号后台，密码已被修改，甚至连公司法人代表信息都被篡改。

武汉网警迅速成立专案组，通过技术人员分析研判发现：被盗的社交媒体账号不仅认证信息被篡改，登录密码也已被更换，背后操作痕迹指向一套成熟的“AI换脸”技术。顺着线索层层追踪，专案组很快锁定了犯罪嫌疑人阿成。

7月17日，3名民警赶赴潍坊实施抓捕，对其住所搜查时，办案民警发现大量AI 换脸视频素材。有了这些破解人脸识别系统的关键证据，阿成还想狡辩。

“我就是个美工，帮人做点图而已，怎么就违法了？”面对民警的审讯，阿成辩解自己只是“按上线要求干活”。然而，民警很快掌握了相关证据，同时，发现其账户内价值40余万元来自AI换脸“接单”的非法获利。

面对证据，阿成终于交代了犯罪事实。该团伙中，阿成负责完成AI换脸验证操作，而阿明(化名)、阿斌(化名)、阿华(化名)等3名上线则负责承接“人脸代过”需求、转交人员信息，并从中牟利。

据警方介绍，在灰产链条中，犯罪团伙在受害人不知情的情况下，篡改企业法人信息，对企业进行非法控制。

目前，阿成、阿明、阿斌、阿华等4人均被依法采取刑事强制措施，案件正进一步侦办中。

警方提示

01

技术必须升级，安全不能“假面”

各大互联网平台要强化认证系统，采用活体检测、动态验证等防伪技术，杜绝一张静态照片或一段视频就能蒙混过关，筑牢安全第一道防线。

02

强化验证机制，守护账号安全

公司企业以及个人在使用互联网平台登录账号时，尽量开启并使用多重验证机制，例如将密码+短信验证码+人脸识别相结合，强化账号登录的安全性。

03

敬畏法律红线，法律底线不可逾越

掌握人工智能及相关技术的专业人员，切勿因一时贪欲走上违法犯罪的道路。利用AI技术从事违法犯罪活动，必将受到严惩。

04

注意个人隐私，保护个人信息

谨慎在公开的社交平台发布清晰的正脸照片、动态视频等，严格设置查看权限，防止个人信息被不法分子窃取和利用；时刻牢记凡是涉及个人信息被泄露或篡改以及涉及资金转账的，就必须提高警惕，主动核实。如遇可疑情况，立即报警处理。

素材：湖北武汉网警

来源：公安部网安局