上海
随着AI生成技术飞速发展，“视频换脸”、“形象克隆”等黑灰产业链迅速滋生，人脸识别验证的安全性正受到挑战。近日，山东一个AI诈骗犯罪团伙落网，警方查获AI合成的摇头、眨眼等动态人脸视频5万多条，这些视频被电诈团伙用于进行虚假实名认证。
普通人可能认为这是一种远离生活的“高科技犯罪”，但事实上，类似的视频人人都能做，相关工具甚至在一些平台明码标价。记者在主流电商平台检索发现，眼下不少商家正在兜售一种集成了“图片生视频”功能的AI工具，声称只需一张大头照就能精准复刻摇头、张嘴等动作，并将生成的画面伪装成手机摄像头拍到的实时画面。此类软件本身的售价大多在百元以内，而视频生成的成本在5秒2元左右。至于工具的具体用途，这些商家统一避而不谈，表示能干什么、能用于哪些平台都要买家“自己测试”，任何应用项目和卖家无关，而软件资料均通过网盘和微信渠道交接。
更令人心惊的是，AI生成的这些人脸识别视频，确实可能骗过平台检验系统。去年7月，南京的符某非法获取超195万余条个人信息后，通过AI换脸进行人脸识别，登录了23名被害人的支付账户并盗刷银行卡消费上万元，最终被判处有期徒刑4年6个月。AI时代，人脸识别验证的“防线”会不会逐步失效？普通人是否有必要担忧，又如何防范其中风险？
对此，上海人工智能研究院AI算法工程师马容与介绍，传统的人脸识别验证思路只靠眨眼、张嘴和转头来判断活体，这种方案的安全边际确实正在缩小。如今，更有效的检测机制可以对整段视频的帧率、时序、设备可信度和行为风控等多个因素进行审核，从而提高面对AI的辨识力，这也对平台提出了更高的抗伪造能力要求。对于普通网民，专家建议尽量避免暴露身份证件、高清正脸视频等高风险信息，谨慎进行人脸采集授权，并在进行重要资金操作时优先选择短信密码、动态令牌、人工复核等复合型验证方式，以免成为AI攻击的“素材”。
必须明确的是，非法盗用面部照片、音频等敏感生物识别信息，可能涉及侵犯公民个人信息罪，相关信息收集方也需承担侵权责任。对此，法律专家建议，除了平台方强化审核之外，更应在立法层面细化AI生成内容标识标准、侵权责任划分，执法层面强化备案与处罚力度，及时堵住人脸识别防线“漏洞”。
编辑: 卫思冰
责编: 黄黛玉
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
