“眼见不一定为实”，人工智能带来技术操控，美军要用“深度伪造”进行信息战？

据报道，尽管美国政府一直警告“深度伪造”（deepfakes）所带来的风险，并宣称其致力于开发应对“深度伪造”的工具，但美军特种作战司令部（SOCOM）正计划利用“深度伪造”等技术，开发新一代“军事信息支持作战”工具，进行互联网信息操纵、宣传和欺骗活动。据介绍，深度伪造技术的最常见方式是AI换脸，此外还包括语音模拟、人脸合成、视频生成等，效果非常逼真。

据报道，SOCOM在2020年发布了一份清单，列出了该部门认为特种部队所需的新一代作战工具。这份清单在去年10月发布了更新版本，增加了“用于‘军事信息支持作战’（MISO）的先进技术”部分。报道指出，这实际上就是美国国防部企图进行全球宣传和欺骗的一种委婉说法。

↑SOCOM正计划利用“深度伪造”等技术，开发新一代“军事信息支持作战”工具 图源：央视新闻

被曝传播虚假消息

SOCOM还企图“变本加厉”？

有报道称，SOCOM曾说服了社交平台推特，让其违反推特内部政策，通过一个虚假账户传播一个虚假新闻，其中包括伊朗政府在窃取阿富汗公民器官这种消息。报道称，其在推特上宣传时，并没有用到“深度伪造”技术，但研究人员发现，五角大楼的承包商使用了相关技术生成的头像，让这个虚假账户看上去更具有真实性。

更具有挑衅性的是，SOCOM还企图“变本加厉”，希望通过使用“深度伪造”技术伪造出假视频在互联网进行欺骗。报道称，特种部队将利用伪造的录像，通过“非传统渠道传播信息并以此影响行动”。根据一份文件显示，SOCOM此前已经在寻求技术用以检测通过“深度伪造”进行的互联网活动。而现在，SOCOM希望通过监视目标受众的互联网连接设备，对其宣传进行调整。据悉，一个被描述为能“接管物联网（loT）”的设备将用于收集民众数据和相关信息，在收集后通过筛选，细分出那些容易受欢迎或被接受的信息。

报道称，虽然“深度伪造”技术目前大多被用于色情娱乐等内容领域，但其也能在政治军事等领域造成较大影响。去年3月，俄乌冲突爆发之初，有一条关于乌克兰总统泽连斯基的深度伪造视频在社交平台广为流传。在这条后来被证明为假视频的视频中，泽连斯基公开接受了俄方提出的要求，并督促乌克兰人在俄国人面前放下武器。（详见红星新闻此前报道《“泽连斯基宣布放下武器”造假视频背后：科技是把双刃剑》）

↑一条“泽连斯基宣布放下武器”的视频被认为是“深度造假”视频

专家呼吁：

五角大楼“不应该以毒攻毒”

报道指出，“深度伪造”必然有能力造成社会危害。随着技术的发展，用户未来可以很轻易地“伪造”出一些完全虚假的视频，届时，“眼见不一定为实”，全球所有公众可能都不能再相信自己的眼睛。国际社会也会对“深度伪造”视频和数字欺骗感到焦虑。也正因如此，SOCOM对部署“深度伪造”的信息产生了兴趣。

据了解，五角大楼已对加强数字宣传能力表现出强烈兴趣，而SOCOM或将发挥关键作用。在2018年4月军事委员会的一次听证会上，陆军特种作战司令部的肯尼斯·托沃将军向与会的参议员们保证，美国特种部队正在努力缩小宣传差距。他当时称，已经开发出了能处理社交媒体分析等问题的工具，这些工具已经由特种作战司令部投入使用，能评估舆论趋势，再利用工具“潜移默化”影响网络环境。

↑美国华盛顿，一名记者在自己的办公桌上观看一段利用人工智能操纵的“深度伪造”视频 据视觉中国

报道指出，鉴于互联网的流动性和互通性，五角大楼传播的“深度伪造”内容可能也将对美国本土造成反噬。美国布鲁金斯学会人工智能和新兴技术倡议负责人克里斯·梅瑟罗尔认为，涉及到虚假信息时，五角大楼“不应该以毒攻毒”。 梅瑟罗尔指出，当全球进入数字宣传时代时，美国应该加强对信息真实度的把控。“深度伪造”只会让人们慢慢对所有内容和信息的可信度产生怀疑。

报道称，从战争出现开始，就有了军事宣传。而“深度伪造”一度被认为是一种技术风险，其存在将会给现代文明带来巨大威胁。正如佛罗里达州参议员马尔科·鲁比奥所说，“深度伪造”将给美国及西方国家带来冲击。

红星新闻记者 黎谨睿

编辑 何先锋 责任编辑 魏孔明