法治面｜我们如何避免被AI骗？

界面新闻记者 | 蔡星卓
界面新闻编辑 | 刘海川

2025年5月18日，孙俪工作室官方微博发布消息，称工作室近日发现有部分网络用户在自媒体平台发布与演员孙俪相关的虚假广告宣传视频。

微博补充，此类虚假视频通过技术合成的方式，把孙俪的形象和声音制作成虚假采访视频为某些商家的产品进行推荐。孙俪工作室警告此类虚假信息的发布者及传播者，立即删除全部虚假广告视频，并称工作室已保全相关侵权内容，将通过法律途径严格追究相关责任方的法律责任。

近些年，互联网平台所涉及的虚假宣传有愈演愈烈趋势。2025年3月，北京互联网法院召开新闻发布会，通报建院以来涉网络消费虚假宣传案件审理情况。通报称，2018年至2025年2月底，该院共受理涉网络消费虚假宣传案件6734件，案件数量整体呈上升态势。另外，涉诉主体范围广泛，案件类型较为集中。在此背景之下，利用人工智能生成内容（AIGC）进行虚假宣传更成为不可避免的关注焦点。

AI虚假宣传，本质是传统交易下的衍生问题

针对孙俪夫妇的案例，北京西东律师事务所律师杜明怀分析，虽然其虚假视频由AI生成，在视觉等方面更为“逼真”，但本质上还是涉及到个人肖像的使用问题，以及网络个人数据的保护问题。他认为，就法律法规层面来说，AI虚假宣传本质上还是商家与消费者之间发生的问题。

杜明怀告诉界面新闻，从法律层面来说，AI虚假宣传首先是虚假宣传，其次才考虑生成的方式。“本质上，AI虚假宣传是传统模式交易衍生出来的新问题，其涉及到以下几个层面的法律法规。首先，AI虚假宣传本质上涉及到交易问题，因此受制于《民法典》。其次，其涉及电子交易，因此还与《电子商务法》、《网络交易监督管理办法》有关。考虑到消费者权益保护问题，此类问题还会涉及《消费者权益保护法》、《反不正当竞争法》。另外，AI虚假宣传可能还涉及到网络安全与个人信息保护的问题。”

不过，虽然AI虚假宣传问题处于虚假宣传的大框架之下，其仍具有特殊性。以孙俪此次的事件为例，当肖像遇上AI技术，其产生的问题并不只涉及肖像本身，还涉及AI加工后新的数据产品。“在孙俪的案例中，权利主体主要有3方：孙俪本人、拍摄其原始素材的摄影师、虚假宣传视频的制作人（商家或广告商）。而AI虚假宣传涉及到的责任主体主要有AIGC平台、AIGC平台的使用人（即商家或广告商）和互联网平台。”

杜明怀介绍，针对AIGC的具体规范，现行有2个相关规定。首先是《互联网信息服务深度合成管理规定》。该规定已经2022年11月3日国家互联网信息办公室2022年第21次室务会议审议通过，并经工业和信息化部、公安部同意，自2023年1月10日起施行，其中明确规范了深度合成内容的数据和技术管理规范，以及监督检查与法律责任。

另外，杜明怀提到，2023年5月23日国家互联网信息办公室2023年第12次室务会会议审议通过《生成式人工智能服务管理暂行办法》，自2023年8月15日起施行。“不过，这两部法规都只对平台作出规定，消费者的权益还是要参照如《民法典》、《消费者权益保护法》中的相关规定。”杜明怀补充。

AI技术下的欺诈行为，为何更具迷惑性？

从2019年大卫·贝克汉姆“说”9国语言宣传“疟疾必死”，到2025年李在明“辱骂”妻子的深度伪造视频在网络流传，随着深度伪造技术（Deepfake）的发展，人们越来越惊叹于AI的伪造能力，不法分子的骗术也不断升级。

中南大学数字法治研究院兼职研究员、法原（杭州）科技有限公司总经理汪承昊分析，AI技术在多个方面都加深了欺诈行为。“简单来说，从过去的模拟信号时代到现在的数字信号时代，目前的技术已经非常成熟了。从视觉层面来讲，人们越来越难单纯通过肉眼来分辨视频是否真实。”

汪承昊向界面新闻介绍，AI技术在生物信息电子化方面进行了强化，因此可以伪造出更逼真的面孔和声音等。另外，人工智能技术还可以对欺诈的“剧本”设计进行强化。“实际上，这背后的原理是让被欺骗者的大脑过载，注意力更加分散，从而更容易被欺骗。”

除此之外，在破坏网络安全方面，AI也可以进行辅助。“以电诈为例，诈骗分子常‘黑入’某些号段的电话号码进行诈骗，因为这些号段可以支持高并发呼入。”汪承昊认为，诈骗是一个概率问题，AI手段可以使诈骗电话更加批量化，从而在并发规模上提高诈骗的得逞数量。

AI时代，普通人应该如何避免被欺诈？杜明怀认为，个人信息如何被有效保护是一个关键问题。“AI时代最明显的是大数据的使用问题，一方面，基于个人数据的新的生成内容，我们是不是有权利拒绝自己的数据被使用，或对谁使用了自己的数据保留知情权。”另一方面，杜明怀认为，在AI的选择之下，需要考虑个人是否可以拒绝接收到某些信息，或是保留选择权。

不过，在汪承昊看来，技术的迅速发展下，消费者并不会变得越来越弱势。“即便很多创新行为极具争议性，创新一直是被允许的。而犯罪层面的‘创新’属于‘恶性创新’，最终都会被识别出来。近20年来，我国的比如网络欺诈状况是呈下降趋势的，这说明我们在相关方面投入了足够的社会成本。”

在法律法规存在不足的地方，杜明怀认为，消费者应该调动自己的积极性。“如果个人对现行的法律法规有不满，可以积极地向立法机关或者其他相关部门去反映自己的诉求。特别是有一些新出台的规定，我们可以多关注它，对不完善的地方提出建议，这也是每个人的权利。”