一秒识破“AI换脸术”明星变脸、换脸诈骗都无处遁形

IT时报记者 孙妍

AI换脸术大家或多或少都接触过，换脸App“ZAO”一夜爆红，因为上传一张照片就能变身剧中人，与梁朝伟、刘德华、杨幂等明星同台飙戏，但也因为泄露人脸信息的风险一夜退败。不久前，“蚂蚁呀嘿”让静态照片动起来的特效在短视频平台走红。

这些网红应用基于深度伪造（Deepfake）技术，虽然也被应用于影视后期、虚拟偶像等场景中，然而这种技术的负面威胁已经被放大。

如何辨别视频中的人脸是真是假？在2021世界人工智能大会上出现了一秒识别“AI换脸术”的神器——DeepReal深度伪造内容检测平台。

天下武功，唯快不破。30毫秒，就能检测一帧画面。一秒钟，就能认出假脸。

这就是“AI换脸术”的克星，由清华大学人工智能研究院孵化企业北京瑞莱智慧科技有限公司（下简称RealAI）研发的DeepReal深度伪造内容检测平台。

它的检测准确性有多高？测试结果显示，DeepReal在学术数据集和ZAO等主流方式生成的网络数据中，准确率已达99%，远超Facebook此前举办的Deepfake检测挑战赛所公布的最好成绩。

DeepReal“吃”下的数据已达千万级，数据集已覆盖三大类，包括学术深伪数据集、网络深伪数据集和自研深伪数据集,通过结合贝叶斯学习框架和深度神经网络来估计模型在预测新样本时的不确定性。

RealAI副总裁唐家渝认为，未来在网络虚假内容甄别、人脸资料审核以及影像物证真实性检验等场景中，DeepReal都能快速落地应用。

法律层面，2020年，禁止利用信息技术手段伪造的方式侵犯他人的肖像权和声音等已经写入了《民法典》，给深度伪造技术下了“紧箍咒”，那么在技术层面，该如何源源不断地研发出高质量的检测、破解工具呢？

制定标准是第一步。

RealAI与国家工信安全中心联合制定了我国人脸模型算法自身安全相关的第一个标准《信息安全技术人脸比对模型安全技术规范 》，作为第二编写单位与信通院在工信部网安局指导下联合编制了《人工智能安全框架（2020年）》蓝皮书。RealAI目前也参与包括机器学习算法安全相关的国家标准以及人工智能合成音视频、人工智能生物特征识别相关的行业标准等多项标准的制定工作中。

越来越多的机构参与到AI的检测和标准制定中，“我们正在制定人工智能的各项标准，今年上海市已批准‘公共场所人脸识别分级分类应用规范’地方标准的立项。”上海计算机软件技术开发中心人工智能治理研究所执行所长陈敏刚对《IT时报》记者表示，人脸识别将成为AI标准和检测工具的高地。