某公司遭遇AI换脸诈骗，被骗走两个亿！

大数据文摘受权转载自夕小瑶科技说

作者 | 王二狗

这年头，AI换脸不是个新鲜事了。

但是你敢信香港一公司因此被骗了两亿港元？

事情究竟是怎么一回事呢？

据香港文区报2月4日报道，香港警方披露首宗多人换脸AI诈骗案，一家总部在英国的跨国公司的香港分公司被AI换脸技术骗走2亿港元（折合约1.8亿人民币）。

具体如何骗的？

据警方透露，骗子先是搜集了该公司英国高层在YouTube上公开的影像，然后再利用人工智能「Deepfake」技术伪造英国高层的面部和声音。而且骗子为防止漏出破绽，着重伪造了平日与香港分公司有密切工作关系的英国总部首席财务官（CFO）的面部和声音，仿真度极其高。

准备工作做完后，今年1月，骗子开始下手了。

骗子先是以「英国总部CFO」的名义，向香港分公司的财务职员发消息，声称公司要进行一项「机密交易」，并邀请香港职员上网召开多人视频会议，你猜怎么着?

令人叫绝的是，在视频会议上，骗子一下子伪造了包括CFO在内的4到6名英国总部高层人员！这场面谁来了不得迷糊？

会议期间，CFO要求香港分公司的财务职做了简短自我介绍，接着其他高层简短讨论了公司的交易决策，让CFO跟进香港分公司汇款事宜，牛的是，这个“高层发言”讨论其实是利用AI按剧本制作的短片。香港职员一看这么多和真人一模一样的的高层，也没有发现异常。

之后该CFO通过即时通讯软件向香港分公司的财务职下达汇款指示，让其一个星期内分15次，将总计两亿元港币存入5个本地银行账户作为机密交易的资金。

最后，香港分公司直至日前向总部查询才发现上当受骗。

事实上通过目前的AI技术，为某个人进行Deepfake图片造假或者声音造假已经非常简单了，美国明星泰勒.斯威夫特经常成为受害者。

就在前不久，国外社交平台上充斥了泰勒.斯威夫特的大量虚假“不雅照片”，而且浏览量已经高达上千万。

Deepfake网红成为万人迷

有时候你甚至可能根本没意识到你关注的是美女一个AI！这可不是开玩笑！最近在Instagram上大受欢迎的模特艾米莉，就是个例子。

她以匀称的身材和一头长长的棕色头发，在短短四个月内就在Instagram上吸引了超过19万粉丝。这些粉丝包括足球明星、亿万富翁、MMA格斗家和网球运动员等，很多人都梦想能和她约会。她的魅力不仅吸引了普通大众，也让各界名人为之倾倒，而且绝大部分人都未曾发觉她AI的身份，私信询问有没有男朋友。

真是太惊艳了！不过谁能想到她其实是个AI呢？

艾米莉的创作者这样描述她的诞生：“我问ChatGPT什么样的女孩才是大多数男性的梦中情人，它告诉我是长发加长腿。我就根据这个建议设计了她，目的是让她受欢迎且有魅力。”

在Fanvue这个内容创作平台上，艾米莉的创造者已经通过她赚到了将近1万美元。“一开始，我每天得花14到16小时才能精确地捕捉她的面容和身材。现在终于可以轻松些，每周只需工作8小时。”

网友们猜测，Emily的形象是通过换脸、deepfake和精心修饰结合而成的。即便是在AI创作变得越来越普遍的今天，她的制作质量也依然被认为是“上乘之作”。

最近，艾米莉的集美也登场啦！艾米莉的创作者又为她设计了一个名叫菲奥娜的姐妹。到现在为止，菲奥娜在Instagram上已经吸引了大约3万粉丝。

国内AI诈骗屡禁不绝

国内这种类似的AI诈骗事件经常发生。

陕西西安民警曾接到保安，一公司财务诈骗分子冒充公司领导，通过AI换脸技术与张某视频对话要求转账，张某信以为真将公司钱款转了过去。最终通过多方努力，民警仅用9分钟成功拦截被骗资金156万元。

央视记者报道，在一家为公安机关提供技术支持的科技公司里看到，一个高配置的电脑，合成一段10秒的换脸视频只需要一两分钟。而随着技术的发展，视频聊天的实时变脸也不是难事了，相似度可以达到80%。

不久前，江阳北城派出所接到报案，陈女士声称接到"女儿"的电话说自己被绑架了，随后一男子在电话中威胁：“准备80万，否则先捅几刀，然后再……

好在陈女士没有上当受骗，而是第一时间选择报警。经警方调查，陈女士遭遇的是“AI拟声”“AI换脸”诈骗，诈骗分子利用虚拟号码伪装其女儿的电话号码，同时利用AI合成的方式模拟其女儿的声音实施诈骗。

最后，面临AI换脸、拟声诈骗，请大家提高警惕，不要泄露自己的个人信息，不要轻易转账！

参考资料

[1]https://www.wenweipo.com/a/202402/04/AP65be9db1e4b0ad360070a7e8.html

租！GPU算力

新上线一批4090/A800/H800/H100

特别适合企业级应用

扫码了解详情☝