AI沦为诈骗工具？这类新型套路不得不防

3月15日，央视3·15晚会曝光了多起利用AI技术换脸、变声实施诈骗的案例，再次引发人们对AI应用的关注。

近年来，随着人工智能技术的进步，一些不法分子开始利用AI技术融合他人面孔和声音，制造非常逼真的合成图像来实施新型网络诈骗，这类骗局常常会在短时间内给被害人造成较大损失。那么，我们应该如何识别和防范这类新型骗局？让我们先来看看近期发生的“AI换脸”诈骗案例。

“AI换脸”诈骗横行

今年2月，香港警方披露了一起AI“多人换脸”诈骗案，涉案金额高达2亿港元。在该起案件中，一家跨国公司香港分部的职员，受邀参加总部首席财务官发起的多人的视频会议。并按照要求，前后转账多次，将2亿港元转账到5个本地银行账户内，其后向总部查询方知受骗。警方调查得知，这起案件中，所谓的视频会议中，只有受害者一人为“真人”，其余所谓参会人员，全部是经过AI换脸后的诈骗人员。

香港2亿港元诈骗案并不是个例。前段时间，陕西西安财务人员张女士与老板视频通话，被要求转账186万元到一个指定账号。被害人张女士称，“老板”让把这个款赶紧转过去，这笔款要得非常着急，因为“老板”声音还有视频图像都跟他本人是一样的，所以并未起疑。当然，这同样是一场骗局。

种种案件的发生，已经昭示着AI诈骗离我们不再遥远。电信诈骗不法分子通常会换脸成亲人、朋友、同事等，向受害人索取钱财，视频的方式看似可信度高，让受害人放松了警惕。

“AI换脸”的技术原理是什么？

“眼见不一定为实”的时代已经来临。AI技术革新催生了花样繁杂的诈骗手段，对于普通人来说，了解技术背后的原理，才能“知己知彼”。

事实上，AI换脸背后的技术逻辑并不复杂。中国网络空间安全协会人工智能安全治理专委会专家薛智慧介绍，“AI换脸”过程主要包括人脸识别追踪、面部特征提取、人脸变换融合、背景环境渲染、图像与音频合成等几个关键步骤。

首先通过视频的采集，追踪定位图片里人的面部；第二步，做一个面部特征点的采集和提取，主要包括嘴、鼻子跟眼睛的特征；第三步就是把这张原始的照片，做一个变换跟融合。

其背后最核心的包括为三个部分，首先，利用深度学习算法精准地识别视频中的人脸图像，并提取出如眼睛、鼻子、嘴巴等关键面部特征。其次，将这些特征与目标人脸图像进行匹配、替换、融合。最后，通过背景环境渲染并添加合成后的声音，生成逼真度较高的虚假“换脸”视频。

“AI换脸”侵害肖像权吗？

AI技术飞速发展，相信不少人也会有产生以下疑问：AI换脸技术将面部进行更换，仅保留装饰装束、身体形象及场景环境等，构成肖像侵权吗？倘若运营者擅自将含有肖像权人肖像的视频存储在应用程序中作为可供用户选择使用的合成视频要素模板，责任应当如何认定？

去年，江苏省南京市江北新区人民法院审结了一起肖像权纠纷案件。原告林某系某短视频平台网红，某天发布了一段自己身穿古风汉服、带着完整古风妆容出镜的视频。之后不久，林某在被告南京某公司运营的一款“AI视频换脸”微信小程序中，发现了含该短视频中外部形象的视频要素合成模板。不特定用户付费成为小程序会员后，即可将该视频模板中林某的面部进行替换，形成面部特征不同但其他内容与原视频相同的“AI换脸”视频。林某认为被告的行为侵害其肖像权，请求法院判令被告赔礼道歉并赔偿损失。

南京江北新区人民法院经审理认为，对比原告发布的短视频素材，结合“AI换脸”视频中未被修改的装饰装束、肢体动作及场景细节等要素，可以识别出视频中身体形象所对应的主体系原告，故原告对该身体形象享有肖像权。被告未经原告同意，擅自将含有原告肖像的视频存储在“AI视频换脸”微信小程序中作为供不特定用户选择使用的视频要素合成模板，系利用“AI”信息技术手段编造或者伪造他人肖像的行为，侵害了原告的肖像权，应承担相应的侵权责任。结合被告侵权行为的持续时间、影响范围及后果，综合考量原告的网络知名度及商业价值，法院判决被告书面赔礼道歉并赔偿原告经济损失。

对此，南京师范大学法学院教授、博士生导师陈爱武表示，本案判决明确了“AI换脸”等深度合成技术应用场景下肖像权延伸保护的认定方式，有利于保护被侵权人的人格利益，也有利于督促技术开发者在投入使用相关应用时充分考虑法律风险和市场风险，促使技术健康合规发展，造福人类。

如何识别和防范AI诈骗？

骗子利用AI人脸换声技术实施诈骗的套路层出不穷，令人防不胜防。那么，让我们一起看看AI诈骗的各种套路，不要让不法分子有机可乘。

最后，为了更好地防范AI诈骗，我们也需特别注意：不要接奇怪的陌生来电，不随意在网络上暴露个人信息，保护好自己的人脸、声纹、指纹等生物特征数据。不明平台发来的广告、中奖、交友等陌生链接，一定要不轻信、不点击，防止病毒侵入。需要转账时，一定要谨慎，最好将自己的个人账户，设置为延迟到账。

来源：人民网科普、央视财经、中国电信、央视新闻客户端、最高人民法院新闻局、北京商报

编辑：董敏炜

审核：刘肖勇