AI换脸“真假难辨”？微信最新公告：账号关闭！永久封禁！

近日，有人用AI（人工智能）技术假冒知名医生张文宏带货的消息冲上热搜。

12月15日，微信“珊瑚安全”公众号发布消息称，微信从速从严打击了一批利用AI仿冒知名人士进行不当营销、恶意博取流量的违规行为，并针对相关情况开展专项治理，截至目前，累计处置内容532条，关闭账号209个。

微信近期处理的部分违规账号

张文宏并非首个被AI技术冒名顶替的受害者。近年来，名人被AI仿冒的现象已屡见不鲜。“假靳东”迷倒一众大妈，“假雷军”辣评世间百态……这些乱象不仅给当事人带来了诸多困扰，更有可能引发诈骗案件。

此外，不少短视频上演了AI魔改经典影视作品的戏码。例如，《甄嬛传》中的宫斗情节被篡改为激烈的枪战场景，《红楼梦》中的林黛玉则化身为拳击手与贾宝玉对打，甚至《西游记》中的唐僧也对妖精频频“示好”。

针对这一现象，12月7日，广电总局网络视听司发布了《管理提示（AI魔改）》，明确指出这些视频为了博取流量，毫无底线地篡改经典作品，与原著精神内核背道而驰，且涉嫌构成侵权行为。同时，《管理提示》也提出了具体的管理要求，包括督促短视频平台排查清理AI“魔改”影视剧的短视频，并严格落实生成式人工智能内容审核要求等。

随着AI技术的飞速发展，

AI生成的信息愈发难以分辨真伪。

那么，作为普通人，

我们该如何识别AI换脸的破绽并进行防范呢？

相关专家指出，尽管AI换脸技术已经相当成熟，甚至能够实现视频通话的实时换脸，但只要我们稍加留心，还是能够发现其中的破绽。

例如，在视频通话时，我们可以仔细观察对方的面部轮廓是否存在异常模糊的情况，以及光线是否正常。如果有必要的话，还可以要求对方快速大幅度地抬头、点头或转头，以观察面部轮廓在动作过程中是否有异常模糊的现象。

对于AI换脸变声的辨别，专家建议：一方面要检查面部特征，观察表情、动作以及声音和口型的匹配度；另一方面，要核实信息来源，可以通过让对方用手遮住面部或进行其他面部动作来判断画面是否连贯。

此外，预防个人隐私信息泄露也是至关重要的。

AI换脸的数据基础是被模仿人的照片、视频等，个人公开在外的照片、视频越多，AI算法参考的数据越多，生成的“数字人”也就越真实。

为了预防个人信息泄露，

我们还可以采取以下四招：

1.不连未知WiFi

公共场所的免费WiFi往往暗藏风险。不法分子常设虚假热点，一旦连接，个人信息便岌岌可危。

2.警惕钓鱼链接

一些不法分子会假冒银行、学校等机构给用户发送短信或邮件，以“通知”“账户验证”等名义诱导用户点击其中的网址链接。

3.拒绝不明二维码

在扫描二维码前，务必确认其来源和真伪，避免手机中毒或信息泄露。

4.谨慎分享信息

社交媒体上的分享需谨慎，尤其是包含个人敏感信息的机票、照片、证书等。一旦泄露，可能引发严重后果。

记者：陈洁

图片：网络截图、图虫创意

编辑：梁慧

转载请注明来自上海静安官方微信