315曝光AI换脸诈骗：“借我借我一双慧眼吧”

图片来源：1993年315主题曲《雾里看花》MV截图

来源|多知

作者|冯玮

又是一年315，今年的晚会以“共筑诚信 共享安全”为主题，着重关注消防安全、食品安全、金融安全、数据安全等领域。

今年穿插了一小段有关AI换脸诈骗的科普宣传。

这在AI可以让有语言障碍的人发声，可以让外国明星说出东北口音，可以让人在家里获得自己在不同场景下的精修照片的当下来说，也让我们再次不得不慨叹正沉浸于技术带来的光明与阴暗之间，缓缓前行。

01

AI换脸

正在“围猎”大众

先来看315现场的几个案例：

四川泸州陈女士某天正在睡觉时突然间接到了“女儿”的电话，“女儿”一开始哭得很凶并表达自己被绑架了，陈女士还没来得及和“女儿”说上话，电话就被抢走并有另一个声音表示她的孩子在自己手上。

陈女士报警后，警方确认这个孩子并没有被绑架，实际上是诈骗分子利用虚拟技术伪装电话号码再利用AI拟声技术实施的诈骗行为。

（截图来源：央视频财经）

浙江温州陈先生收到国外“好友”求助，对方表示买机票遇到了难题，由于国际漫游限制，让陈先生帮忙转账给航空公司。

由于涉及到钱的事情，陈先生本来并不相信，但对方拨打了视频电话过来。从视频中，陈先生确认是“朋友”本人，而对方也借口国外网络不好，非常快地挂断了电话。

（截图来源：央视频财经）

挂断电话后，对方发来一张转账截图，表示已将钱转至陈先生银行卡，24小时即将到账。陈先生在骗子的指导下加了所谓“航空公司经理”的微信并垫付了49000元机票费，直到后面的聊天才发现自己被骗。

陕西西安的张女士接到“老板”的视频通话，要求称转账186万元到指定账号。

张女士回忆称，视频中的“老板”表现地非常着急，要求快速转账。视频电话中的声音和图像与老板本人一致，并未发现异样，便转账过去。

（截图来源：央视频财经）

在张女士后来上传电子凭证给公司财务时，才发现老板本人既没有视频通话也没有下达过转账的指示，意识到被骗的张女士紧急报警，在警察与银行的紧急冻结下，保住了其中的156万元……

现场的介绍到此结束，值得思考的是，我们在面对1对1的视频对话时或许可以保存的一定的戒心，但如果是在1对多的对话环境下呢？

比如今年春节后的那则爆炸新闻——某跨国公司香港分公司被AI换脸技术骗走了 2500 万美元（约 1.8 亿元）。

起因是一位财务职员收到了来自英国总部“CFO”的邮件，邀请他参加一场涉及“秘密交易”的视频会议。视频会议中有“CFO”还有几位他曾熟悉的“同事”。

实际上，是骗子下载了公开视频，通过Deepfake伪造真人的脸和声音，再套用到视频会议之中。为了避免露馅，“CFO”单方面下指令，“同事”们没有和受害人交流，整个视频也很快挂断。

视频结束后，骗子通过邮件等方式继续和这位财务职员联系并最终套取2500万美元。

当骗子开始恶意利用AI技术，在人脸、声音等方面进行伪装模仿，我们的世界也有了“眼见的就不一定为实、耳听也不一定为虚”的状态。

02

觉得可疑？

摸摸鼻子，捏捏脸！

315现场，公安机关提醒到：不论是AI拟声还是虚拟视频的过程都很短，仅仅为几秒钟时间就会被骗子要求结束。这种视频通话往往是被骗子提前制作的仿冒视频，目前的技术条件下想要在点对点的实时通话过程中实现仿真程度极高的AI换脸较难。

警方也提醒，在视频通话时如果觉得可疑，可以要求对方摸脸、按鼻子，因为这些动作会造成对面目数据的干扰，使得伪造的图像抖动闪现等。

这对熟悉网络环境的年轻人来说已经不算容易，更何况对网络环境陌生、听力和视力或多或少有所退化的老年人，也艰难得多了。

不知道该说什么，分享一首歌，那姐的《雾里看花》。

1993年央视“3·15”晚会的舞台上，《雾里看花》唱出了消费者对于真假难辨的市场环境的无奈与期许：

“借我借我一双慧眼吧，让我把纷纷扰扰看个清清楚楚，明明白白，真真切切”……这是对消费者的一种期待和呼吁，更是对整个社会诚信体系的一种呼唤和期待。

（网友称：“骗子请注意，没有良心，天打雷劈”）

《雾里看花》的MV也很经典，演员张国立亲自操刀，在演唱到“借我借我一双慧眼吧”，雷电效果恰到好处。

本文作者：冯玮

《教育科技这一年·2022》+《培训行业这一年·2021》+《教育科技行业图谱2022-2023》，重磅发售！套装优惠价169元，闭眼入！迅速点击文末“阅读原文”购买，手慢无！