眼见不一定为实？这项技术竟让美国2020大选慌了……

过去，很多人为了证明清白，在辩驳的时候常常说： 要是有视频记录下这一切，就可以还自己一个清白了。 可见视频信息的真实性在人们的印象中根深蒂固。

但事实真的如此吗？

使用“深度伪造”技术制作的视频。

2018年4月，一段主角为“美国前总统奥巴马”的1分钟视频，在推特上获得200多万次的播放和5万多个点赞。 “奥巴马”在视频中抨击“特朗普是个彻头彻尾的笨蛋”，引发关注。

这段视频乍一看，好像美国前总统奥巴马正在发表讲话，然而事实却不然。 视频实际上是由美国喜剧演员乔丹·皮尔来模仿奥巴马的声音而制作的。 但令人震惊的是，当视频中的“奥巴马”在说这些话时，其嘴巴会随之而动，表情、口型、声音和真正的奥巴马一模一样，让人难以看出破绽。

计算机科学专家法里德介绍，人工智能系统合成了奥巴马的嘴，使其与音频流保持一致，让视频看起来像是奥巴马总统在说他之前从未说过的话，这叫作唇同步深度伪造。

这段视频的走红，让“深度伪造”技术进入了更多公众的视线。

什么是“深度伪造”技术？

“深度伪造”（Deepfake），是指运用人工智能深度学习技术训练机器，使其具有造假能力，从而生成逼真图像和视频的一种技术。

它能“以假乱真”，实现换脸、模仿真人语言和动作，创造出不存在的人物及活动，甚至被用于伪造裸照。这一技术，正在挑战人们“眼见为实”的传统认知。

近来，“深度伪造”技术发展迅猛，使用门槛不断降低，使用范围日益扩大，被视为人工智能应用中最突出的安全风险之一。

“深度伪造”为何引发担忧？

1

国家安全、公共安全受到威胁

“深度伪造”技术在美国，因多次被应用于伪造针对官员的恶搞视频而广受关注。除了上述案例，特朗普还曾多次“躺枪”。

2018年5月，美国总统特朗普宣布中止全球气候变化协议，随后被比利时某政党利用“深度伪造”技术篡改，做出一个“特朗普宣告比利时政府也应退出”的假视频，引起比利时民众的公愤。

2019年1月，福克斯旗下的西雅图电视网播放了一段经过“深度伪造”的特朗普演讲视频。 画面上，特朗普满脸通红，不时做出滑稽动作，引发不良影响。

左：特朗普演讲原视频；右：经过“深度伪造”技术篡改的视频。

除了破坏领导人形象，损害政治权威，美国国防部认为，这一技术可能会被运用到信息战中，并将造成难以预测的后果。 美国2020年总统大选在即，有关部门很担心该技术可能会被运用到选前宣传战中，从而对选举结果产生影响。

想象一下，在伪造的视频中，总统候选人发表不当言论，警察局长煽动暴力行为，或者士兵犯下战争罪，结果会如何？ 政治家和商界领袖等知名人士面临的风险尤其高，因为他们的录音大多数是公开的。

今年6月13日，美国众议院情报委员会召开关于人工智能深度伪造的听证会，公开谈论了“深度伪造”技术对国家、社会和个人的风险及防范和应对措施。 美国外交政策研究所研究员克林特·瓦茨认为，“深度伪造”技术对美国2020大选具有潜在威胁——若放任伪造视频扩散，则会对美国民主选举产生不良影响，挫伤选民的积极性。

委员会主席亚当·希夫表示，“深度伪造”技术让立法者、新闻媒体和公众穷于辨别真假，即便事后确认音视频是杜撰的，接触者可能永远也无法抹去其所带来的的负面印象。

2

给个人或企业带来损害

制作虚假的色情视频也是“深度伪造”技术常见的运用方式之一。 利用该技术能实现将一些公众人物的脸移转到色情明星的身体上，伪造逼真的色情场景。 这些虚假的色情视频一经传播，受害人的名誉将严重受损，个人隐私还随时有可能受到侵犯。

对于普通人来说，尤其是女性，这项技术使“色情报复”成为可能，即使没有真实的裸体照片或视频存在。 一旦一段视频在互联网上疯传，几乎无法控制。 “深度伪造”技术还可能被用来实施诈骗、敲诈勒索等违法犯罪活动。

此外，“深度伪造”技术制造出的假消息可能会煽动暴力冲突，从而深刻威胁公民的生命安全。近年来，因假消息引发的暴力现象并不鲜见。 2018 年，印度就有 20 多人因为在 WhatsApp 社交平台上被谣传绑架小孩或涉及其他罪案而遭受暴力致死。

3

引发社会忧虑和信任危机

“深度伪造”技术可让虚假信息以高度可信的方式呈现给社会公众，从而操纵公众情绪反应，引发社会广泛的不信任，逐渐让公众在真真假假中迷失自我。

专家认为，“深度伪造”技术可能会加深公众对政府的不信任感。随着公众意识到“深度伪造”的危害，他们会对一般的真实视频产生怀疑，更容易把真实视频当作虚假视频，迷失在真假信息之中，对官方澄清也会持有怀疑态度。

4

给现有法律体系带来挑战

“深度伪造”技术能够自动生成高可信度的假视频和假音频，如果被别有用心的人利用，将给现有法律体系尤其是取证领域带来很大的挑战。法律讲究证据，而录像和录音材料常常作为重要的举证支撑。如果没有足够的技术手段来区分假视频、假音频等“深度伪造”产品的真实性，就可能带来诸多风险：

犯罪分子为了嫁祸他人利用“深度伪造”技术进行诬陷，可能带来冤假错案；

犯罪分子为了逃避法律制裁，坚称原告提供的举证材料是利用“深度伪造”技术制作的虚假材料，而如果没有办法证伪其观点，可能会使犯罪分子逃脱法网制裁；

现有法律尚不能约束“深度伪造”产品在社交媒体上的广泛传播，对于造成重大负面影响的匿名假视频、假音频制作者也无法进行有效追责。

“深度伪造”技术离我们远吗？
尽管“深度伪造”在我国还未被滥用，但是这一技术离我们并不遥远！

今年8月30日，一款名为“ZAO”的AI换脸软件突然爆红。 在这个软件上，用户只要上传一张自己的正脸照，就能将电影片段中演员的脸换成自己的脸，从而在熟悉的影视作品中，与明星偶像同台“飙戏”。 一时间，朋友圈里被各种“换脸”视频刷屏。 不到24小时，这款APP就以火箭般的速度在各应用商店免费应用排行榜中蹿升。

而“ZAO”所依托的AI技术，正是“深度伪造”。
一夜爆红之后，它迅速引来了公众的质疑与担忧。 根据“ZAO”最初的用户协议，要求用户“同意或者确保肖像权利人同意授予‘ZAO’及其关联公司全球范围内完全免费、不可撤销、永久、可转授权和可再许可的权利。 ”
换言之，很大程度上这意味着把自己的肖像权完全让渡给了该公司，用户一旦上传自己的换脸视频之后，就无法再删除里面的照片，哪怕删除应用也不行。
面部信息是非常重要的生物特征，尤其是在当下已经跟自己的身份证明、金融账户密切相关，安全性会不会有风险？更别说会不会将用户照片交给很多黑色产业链？

有网友称：“细思极恐，说不定自己哪天就成情色电影主角了！ ”也有人担忧： 我的个人信息会不会被不法分子利用，通过人脸支付盗取财产？ 还有不少网友喊话应“清除数据库”。
“ZAO”存在的隐私协议不规范、及数据泄露风险等网络安全问题，引起了监管部门的关注。
9月3日，工信部网络安全管理局对北京陌陌科技有限公司相关负责人进行了问询约谈，要求其严格按照国家法律法规以及相关主管部门要求，组织开展自查整改，依法依规收集使用用户个人信息，规范协议条款，强化网络数据和用户个人信息安全保护。
9月18日，在国新办新闻发布会上，国家网信办对“ZAO”涉嫌侵权进行回应：已会同有关部门制定法规标准。据介绍，国家网信办还组织开展了APP违法违规收集使用个人信息专项治理，保护用户个人信息和个人隐私，维护用户合法权益。
11月4日下午，工信部信息通信管理局组织召开APP侵害用户权益行为专项整治工作启动部署会，将重点对违规收集用户个人信息、违规使用用户个人信息、不合理索取用户权限、为用户账户注销设置障碍四个方面的8类问题 开展规范整治工作。
“ZAO”之类APP的出现，让人们意识到，原本以为“高高在上”的“深度造假”技术，其实使用门槛已经非常低。轻点几下，几秒之内，任何人都可以将“李鬼”变成“李逵”。

如何应对“深度伪造”技术的潜在风险？

“深度伪造”技术背后的深度学习技术是一把“双刃剑”。不可否认，它可以为电影实现完美配音，可以让博物馆的艺术品“复活”，还可以合成真实医学影像，用于治疗疑难杂症……但“深度伪造”不仅是技术问题，更关乎个人隐私、司法公正、国家和网络安全。

当“眼见未必为实，耳听未必为真”，我们又该怎么办？

专家建议，可从技术工具、法律监管、公民教育以及国际合作等方面建立相应的治理框架，从而最大限度地化解风险，最大程度运用人工智能维护国家安全和人民福祉。

法里德介绍，“我们应对这一问题的方式是，建立了软生物识别模型。 这些生物特征指的是像指纹、虹膜、面部。 它没有那么独特，但其目的是捕捉微妙的面部表情、头部移动，这些每个个体独有的，但在假视频制作时被打乱了的特征。 ”

法里德说，首先我们会测量各种头部移动和面部表情，你可以在这个视频里，看到我们正在捕捉蓝色盒子，正在捕捉他的头部在三维空间里如何转动。 红点是在定位他的面部表情，实际上我们可以看到他何时会抬起眉毛，何时会张大嘴巴。 当然，他眼睛里的绿色激光会告诉我们他在看哪里。 整个视频中的每一帧画面，我们都会对他的面部表情、面部动作、头部动作做一些测量，之后我们用这些建立软生物识别模型。

法里德感叹，制作假视频的人越来越多，造假技术发展非常迅速，而相比之下，打假队伍的力量显得落后而薄弱。

应对“深度伪造”技术潜在风险，深信科技创始人杨子江建议，可建立全网“数字水印或签名”系统，所有播发的视频、图片等在播发前，须打上数字水印或签名，如果被伪造篡改，这些印记会被破坏，从而立刻被标注为虚假信息。
据悉，美国国防部今年推出了“媒体法医”项目，开发用于鉴别和定位伪造图片和视频的技术。 但仅仅事后鉴别是不够的，有必要将识别能力部署在传播渠道的前端，禁止其发布或者至少提出警告。 比如，强化传播媒介尤其是社交媒体的法律和社会责任，提升审核能力，禁止上传可能危害国家安全或造成负面社会影响的假消息。

另有专家指出，在以技术制约技术的同时，应及时完善立法，不断加强执法。明确“深度伪造”产品生产主体的法律责任，从源头上防止假消息的出现。

来源：学校共青团（ID：tzyxxb），综合整理自央视网、新华网、半月谈、北京日报、腾讯研究院、《信息安全与通信保密》杂志，转载请注明来源

策划 | 卢冠琼

编辑 | 郁惠颖 张正

校审 | 王一然

责编 | 赵勇 卢冠琼