利用“AI换脸”生成活体认证视频牟利，法院：技术中立不是侵害个人信息的“挡箭牌”

杭州中院｜来源

当“一张照片即可解锁人脸识别”成为黑灰产的牟利工具，我们该如何在技术浪潮中守护“数字面容”？近日，浙江省杭州市中级人民法院审结全省首个涉AI技术伪造人脸通过活体认证的公益诉讼案，明确技术滥用必须承担法律责任，为“AI换脸”行为划出司法红线。

一、AI换脸视频攻破人脸识别 技术滥用谁之责？

只需一张他人照片，即可通过“AI换脸”技术生成动态活体认证视频，轻松绕过平台人脸识别系统——这并非科幻情节，而是黑灰产的真实作案手段。案涉“AI换脸”技术通过深度学习的算法，去识别目标人物照片中的人脸要素信息，不断提取该些人脸要素信息进行训练建模，实现换脸的效果。

胡某甲、胡某乙为牟利，通过境外渠道获取他人手机号、头像、身份证等信息，利用上述AI换脸技术制作虚假活体认证视频，再通过植入虚拟相机程序，在平台人脸识别时自动播放预制的换脸视频，从而非法登录他人账号，获取收货地址、购物车信息等数据并出售获利。此外，二人还提供有偿虚假实名认证服务。浙江省杭州市人民检察院就此提起民事公益诉讼，要求二人在国家级媒体上公开赔礼道歉，并支付侵害社会公共利益的损害赔偿款。

二、法院判决：技术中立不是“挡箭牌”

法院经审理认定，人脸信息属于敏感个人信息，受法律严格保护，处理人脸类的生物识别信息除必须获得个人的单独同意外，还需遵守相关法律法规的特别规定。胡某甲、胡某乙未经同意，利用“AI换脸”技术伪造活体认证视频，非法处理多人个人信息，不仅侵害不特定主体的个人信息权益，威胁公民人身财产安全，更破坏了社会信任秩序，损害社会公共利益，构成侵权。二被告虽称活体认证视频系由AI技术自动生成，但法院明确指出：技术的工具属性不改变行为的违法本质。技术是中立的，但技术的应用须受到法律规制，技术的使用者也必须对其滥用技术造成的后果负责。

双重责任：技术使用必须恪守法律与伦理

该判决明确了AI技术应用中的双重责任边界：

一是合法处理义务。在数字化时代，人脸、指纹、声纹等个人生物识别信息属于高度敏感的个人信息，一旦泄露或者非法使用，可能导致个人的人格尊严受到侵害或者人身、财产安全受到严重危害。处理人脸等生物识别信息，必须依法取得个人单独同意，并遵守法律法规的相关规定。任何组织或个人未经同意，不得私自收集此类信息，侵害他人个人信息权益。此案中，二被告未经授权收集、使用他人人脸信息制作虚假认证视频，违反了《中华人民共和国个人信息保护法》等相关法律法规。

二是技术向善义务。技术的研发与应用必须恪守法律与伦理底线。“技术向善”并非一句空洞的口号。技术发展应当服务社会，而非沦为侵权工具。法律的界限即是技术的边界，道德的准绳即是创新的缰绳。拥抱技术进步的同时，必须坚决抵制侵害公民权利、侵蚀社会信任的行为，每一位公民都应自觉成为科技伦理的守护者和良好数字生态的共建者，审慎使用技术，尊重他人权利。“AI换脸”等技术在娱乐、创新等领域具有价值，但一旦用于非法突破安全验证、盗用身份，即背离科技伦理，必须受到法律制裁。

最终，法院判决胡某甲、胡某乙在《法治日报》公开赔礼道歉，并支付公益损害赔偿款，专门用于个人信息保护与AI技术滥用治理。

三、法官心语

技术有边界，法律有红线。杭州市中级人民法院副院长 一级高级法官 池海江认为，AI可以轻易“换”掉一张脸，但永远无法“换”掉法律责任与伦理底线。人脸信息不仅是个人身份的关键标识，更是社会信任体系的数字基石。本案中，法院并未否定“AI换脸”技术的本身价值，但当它被用于伪造他人身份、突破安全验证，将他人面部信息变成可交易、可伪造的数据商品时，技术的性质就发生了根本改变，不仅侵犯公民人格权与财产权，更动摇了数字社会赖以运行的基本秩序。

技术的每一次飞跃，都不能脱离法律的轨道。每一位技术参与者都应当清醒地意识到：技术不是法外之地，技术中立更不是“挡箭牌”。技术本身虽无善恶，但其设计目的、应用场景与最终后果，却由人的意志与社会的规则所决定。真正的科技进步，其内核应始终指向对人之尊严的维护、社会公共福祉的增进，以及对未来可持续发展的推动。如果一项技术的发展，要以牺牲个人基本权利与社会信任基石为代价，那这种发展注定行之不远。

法院对“AI换脸”技术滥用的规制，正是对“技术向善”底线的司法重申。我们希望通过此案传递一个清晰的信号：推动创新与划定边界必须同步进行。唯有将“向善”的伦理要求，转化为具有约束力的法律义务与行业准则，方能引导人工智能等前沿技术行稳致远，真正服务于以人为本的数字文明建设。

╱ 往期精选 ╱

1.团队典型案例

2.原创合集

3.苹果税中国反垄断第一案