与法同行丨快速识别！AI伪造名人带货的避坑技巧

薄晨棣 齐浩男

熟悉的主持人面孔在广告里推荐“神效”产品，你会信吗？近日，北京市海淀区市场监管局就查处了一起典型案例：某公司通过AI技术剪辑知名主持人视频，植入虚假口播内容，在自有网络视频账号上以短视频等形式发布普通食品“深海多烯鱼油”广告，宣称“可以解决头晕头痛”等医疗功效，最终因违反了广告法相关规定，已接受行政处罚。

随着AI技术的发展，合成影像、克隆声音已能以假乱真，不仅催生虚假广告，更成为诈骗犯罪的“新工具”——视频里的“家人”可能是陌生人，电话中熟悉的声音或许来自AI合成。公众该如何识别防范？打击AI技术滥用又需社会各方怎样协作？人民网就此采访了内蒙古自治区人民检察院第四检察部(知识产权检察办公室)检察官助理翟庆涛。

识别AI骗局：从“防信息泄露”到“辨技术漏洞”

翟庆涛认为，防范AI合成类诈骗，核心要做好“意识提升”和“细节辨别”两步。

首先，筑牢源头防范意识。保护好个人及家人的生物信息(如人脸、声音、指纹等)，不轻易在非正规平台留存。同时，不轻信非官方渠道的消息，从源头减少信息被AI窃取、模拟的可能。

其次，留意技术合成漏洞。AI克隆的面容、声音通常存在细节破绽。例如，AI合成声音缺乏自然的情感起伏和呼吸停顿，画面中的人物表情可能僵硬、眼神不自然，这些细微之处都可作为辨别依据。

再次，紧盯“钱财”核心目的。利用AI技术实施诈骗的根本目的是骗取钱财。翟庆涛强调，只要对方提出转账、提供银行卡信息等涉及钱财的要求，必须立刻提高警惕。同时，应摒弃“贪小便宜”“一夜暴富”的心态，树立通过合法劳动创造财富的价值观。

AI滥用的法律代价：或将面临民事、行政、刑事等责任

翟庆涛指出，AI技术的应用必须在法律框架内，滥用行为将面临多重法律制裁，具体可分为三个层面。

第一，民事责任。如AI换脸、克隆声音、合成他人指纹等深度合成他人生物识别信息，可能会侵犯他人肖像权、名誉权；利用AI技术生成论文等，可能会侵犯他人著作权。

第二，行政责任。按照反电信网络诈骗法等相关法律法规的规定，AI技术提供方负有安全评估、风险提示等义务，若没有履行应尽的义务，可能会面临警告、通报批评、责令暂停相关业务、停业整顿、吊销相关业务许可证或吊销营业执照、罚款等行政处罚。

第三，刑事责任。利用AI技术实施犯罪可能会触犯刑法规定的诸多罪名。如果直接实施诈骗行为，会被以诈骗罪严厉惩处；若明知他人利用信息网络实施犯罪仍为其提供AI技术支持，或利用AI技术为其提供广告推广等帮助，可能涉嫌帮信罪等。

治理AI滥用：需多方协作形成“共治合力”

要从根本上打击和治理AI技术滥用，翟庆涛建议社会各方协同发力。

第一，需加快专项立法进程。推动针对AI技术滥用的专项立法，明确技术滥用的界定标准及责任划分，为执法监管提供根本遵循。

第二，应强化监管执法能力。相关主管部门需加大监管力度，建立AI技术应用的行业标准，提升对技术滥用行为的识别和执法效率。

第三，要压实企业主体责任。督促AI技术提供方、应用企业及从业人员履行安全审查、风险提示义务，加强行业自律和技术伦理建设，确保技术开发与使用不触碰法律底线。