广东
不知道各位读者在文章或短视频有没有看到过“AI换脸”的相关消息呢？每样东西被制造出来都有双面性，“AI换脸”技术也是如此；让人们感受到科技进步的同时，不法分子也悄悄利用这技术实行诈骗等······
在2025年全国两会上，“AI换脸”技术的治理成为核心议题之一。人民网的报道中提到了雷军、靳东等代表委员热议AI换脸的问题。雷军提到现有的法律体系在处理AI侵权时存在不足，比如隐私权、肖像权等传统框架难以量化损失，导致维权困难；最高检的徐向春也提到私益诉讼难以有效治理这类问题，都在表达“AI”在现行法律的不足和治理的挑战。
一、技术滥用现状与典型案例
诈骗犯罪升级：
2023年上海静安区法院审理的假靳东诈骗案中，犯罪团伙利用AI换脸技术伪造靳东形象，通过直播互动骗取中老年女性信任，涉案金额超百万元。主犯最终被判处有期徒刑三年。同类案件中，香港某跨国公司因员工被深度伪造的“视频会议”诈骗2亿港元，陕西某财务人员被伪造老板视频指令转账186万元，均凸显技术滥用危害。
商业侵权泛滥：
短视频博主赵某发现某APP未经授权使用其肖像生成换脸视频，通过售卖会员非法牟利。法院判决该公司侵犯肖像权，需赔偿经济损失并公开道歉。更有企业利用AI生成《庆余年》侵权短视频，通过流量变现获利80万元，成为全国首例AI文生视频侵权案。
身份认证漏洞：
李某某团伙通过AI换脸技术伪造“眨眼”“摇头”等活体动作，突破某服务平台的人脸认证系统，非法修改用户信息并牟利120余万元，最终以非法获取计算机信息系统数据罪获刑。
二、治理难点与立法建议
现行法律局限：
①雷军指出，现有《民法典》将AI侵权嵌套在肖像权、隐私权等传统框架中，但“因AI谣言导致股价下跌”“被连续辱骂8天”等新型损害因难以量化而维权困难。
②最高检徐向春强调，此类案件受害者群体分散且不特定，私益诉讼难以实现有效治理。
三、综合治理策略
技术防御体系：
短视频平台已部署AIGC识别模型，对疑似AI生成内容自动标注警示。浙江大学团队研发的深度伪造检测技术，通过分析面部微表情与声纹特征，识别准确率达98%。
行业共治机制：
①平台责任：要求用户发布AI生成内容时必须声明，建立“AI内容黑名单”数据库。
②企业自律：小米等科技公司设立AI伦理委员会，对生成内容进行合规审查。
公众教育行动：
上海市消保委发起“AI防骗指南”项目，2024年累计开展社区讲座1200余场，覆盖老年群体超50万人次。反诈中心数据显示，科普后AI换脸诈骗识别率提升37%。
四、未来立法动态
全国人大常委会工作报告明确，2025年将加速《人工智能法》立法进程，重点规范深度合成技术应用。科技部透露，监管沙盒机制或于6个城市试点，允许企业在受控环境中测试责任规则。这套“专项立法+技术标准+行业公约”的多维治理框架，标志着中国AI治理从被动应对转向主动引领。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
