香港一公司遭遇“AI换脸”视频会议，被骗2亿港元

多知网2月5日消息，根据香港文汇报等媒体报道，香港发生了一起涉及到2亿港元的AI“深度伪造(DeepFakes)”诈骗案，这起“AI变脸”案例涉及金额巨大，且也是首次涉及AI“多人变脸”的诈骗案。

据了解，被骗的是一家总部设在英国的跨国公司，在香港设有分公司。诈骗集团事先在网上搜集该公司英国总部高层的面部和声音数据，透过深伪技术将骗徒换上多名公司高层的面貌和声音，再按剧本预制“高层发言”短片，继而以总部首席财务官名义发出钓鱼信息，邀请香港公司财务职员参加线上“视像会议”，听取“机密交易”汇款指令。

由于与会高层都被集体“变脸”，“熟口熟面”加上声音相似，香港职员没有察觉到是诈骗，于是按“最高指示”分多次将合共两亿港元转账至5个本地银行户口，直至日前向总部查询才知道受骗。

警方认为，骗徒在设置AI“变脸”骗局前，可能用“钓鱼”软件或其他网上途径，掌握到公司内部人员架构及运作模式等资料，然后设计好行骗剧本，令受害人以为是日常商业操作。

香港警方认为这起诈骗案有以下特点：

1、骗徒用“深伪技术”伪冒多人多角色脸谱，看起来多人“参会”，实际上真人只有受骗人;

2、骗徒用真人换上英国高层的面部和声音后，实际上是他们的录像在发言，即是提前拍好写好的，所以，会议上不能与香港职员有对话互动，也不给香港职员提问机会;

3、为免露出破绽，“视像会议”在短短数分钟内结束;

4、所谓总部高层现身直接下指令，只是要给香港公司职员营造一个“最高指示”的场景，令职员深信是真实决策。

这件诈骗案给企业敲响了警钟。当下，网上已经“眼见不一定为实，有图有片亦不一定是真相”。企业需要给员工进行培训，教育员工学会识别钓鱼邮件、信息和电话以及视频的特征，提高他们对这类诈骗行为的认知。

此外，普通大众也要提高防骗意识。

遇到此类“视频”场景，可以要求对方在镜头前做指定动作，留意对方在荧光幕上影像有否变异，以测试是否利用人工智能技术假冒他人样貌;当有人在视频或录音中提出汇款要求时，要提高警惕，必须致电或从其他渠道一再核实。

“深度伪造”本是人工智能“深度学习”技术进步的产物，它有许多有价值的应用，例如出于教育目的而制作历史人物的音频或视频。但是，“深度伪造”也可能有恶意的用途。如何正确使用人工智能技术正成为一个全球课题。(多知网 Penny)

《教育科技这一年·2022》+《培训行业这一年·2021》+《教育科技行业图谱2022-2023》，重磅发售！套装优惠价169元，闭眼入！迅速点击文末“阅读原文”购买，手慢无！