ROTC学生积极应对军方挑战，抵御人工智能深度伪造技术

这张图片展示了基辅市中心炸弹爆炸后火焰柱和浓密黑烟的情景。一则声称来自CNN的新闻报道引发了纽约锡拉丘兹市一系列无人机目击事件的警报，造成社区恐慌。

在这个变化和不确定的时代，这些媒体报道的共同点是它们的可信性。它们完全是假的，实际上是锡拉丘兹大学合成媒体实验室生成的计算机产品。

这所学校并不是像许多敌对外国势力那样，利用这些深度伪造技术来欺骗美国公众；他们使用这些技术来构建工具，帮助包括美国军方在内的组织区分真相与谣言。而他们的工作得到了该校后备军官训练团学员的帮助。

这项工作可以追溯到2020年，当时S.I.纽豪斯公共传播学院获得了DARPA的83万美元分包协议，旨在开发对抗假新闻传播的工具。从那时起，这项工作不断扩展和继续，不过，教职员工表示他们无法提供关于工作范围或所支持的国防部实体的具体信息。

人工智能技术革命增加了挑战和对解决方案的需求，杰森·戴维斯（Jason Davis）说，他是该校的研究教授，也是深度伪造项目的共同首席研究员。

“人工智能的时代来了，我们说，哦，好吧，我们不仅仅是人类在创造这种信息，”他说。“人工智能、大型语言模型和图像生成器带来了自动化和规模，这正在改变信息生成的整个格局。”

“所以我们提升了技能，顺应大型语言模型和合成AI生成内容的潮流。我们如何以自动化的方式创建内容？我们作为人类如何与这些工具进行交互，以及我们如何对这种新威胁和传统威胁进行建模？然后我们在此基础上继续提升我们的能力。”

现在，根据共同首席研究员Regina Luttrell（Newhouse的高级副院长）表示，该实验室拥有超过20种工具，帮助检测和创建深度伪造，以进一步研究和识别合成媒体和真实媒体之间的差异。

Davis说，ROTC学生在2021年左右加入了这项工作，他联系了ROTC项目并向他们解释了这项工作。ROTC小组一直很小，目前只有三名学生，教职员工表示，但这项工作不仅有意义，对未来的职业也很有帮助。Davis说，第一批小组的四名学生中，有两名获得了军事网络岗位的首选分配。

“我们在培养他们的技能，让他们能够立即在感兴趣的国防部领域发挥作用，所以这对他们和国防部来说都很有益，”他说。“我们希望能继续保持这个进展，并在有可能的情况下进一步扩大。”

目前的一名学员，20岁的格伦·米勒，正在领导一个专门的项目，专注于深度伪造视频检测，目标是开发工具以识别某人在视频通话中是否使用了面部替换或其他身份掩蔽机制。

米勒希望以工程军官的身份进入军队，他表示他目前正在向他的计算机模型输入一系列自己的视频，希望能创建一个有效的“我检测器”，以防止被数字伪造所迷惑。这是一项要求很高的工作，需要和其他优先事项，比如ROTC的任务和课堂作业，协调进行，但他也已经可以看到这项工作将对他未来的军事生涯产生影响。

米勒说：“我觉得[人工智能]对我们和军方理解信息来说是非常重要的。”他是一名2027年毕业的三年级学生。“我认为这将是最关键的地方，如何解读信息，让它真实可信，并确定该信息的质量是人工智能在未来非常关键的方面。”

目前的协议使实验室与国防部在接下来的两年内进行合作，教职工表示。现在优先进行的工作集中在建立人类对所接触的人工智能代理和工具的信任上——例如，开发检查和安全措施，以确保协助在线购物的聊天机器人不是恶意代理，试图窃取他们的数据和诈骗他们。

军方的任务也帮助研究人员避免在各种竞争的需求中“追逐蝴蝶”，戴维斯说。

他说：“对我来说，有时候这里就像是感官过载的空间，但考虑到这个关键任务和来自国防部的高优先级目标……这确实给我们提供了一个明确的方向。”他补充道：“而且，我们会继续把它作为下一步工作的指引。”