深度伪造与恶意软件：AI武器库助长网络威胁

人工智能在短时间内显著改进了众多技术。遗憾的是，这些技术也正被各种恶意行为者武器化。

语音钓鱼领域的问题日益严重，这是一种基于电话或视频的欺诈手段，攻击者冒充可信人员。实时AI变声软件在GitHub等开源代码库中免费提供，安全研究人员对这些工具的有效性感到震惊。

GetReal Security的汤姆·克罗斯在CypherCon会议上谈及凭证重置问题。

一直以来人们认为语音生物识别技术能帮助区分真假，但据GetReal Security威胁研究负责人汤姆·克罗斯的个人测试结果，情况可能并非如此。

"它不仅听起来像我，在我们测试过的最先进的语音生物识别系统中都像我，"克罗斯说道。"人们根本不理解现在什么是可能的。"

针对凭证重置的攻击

克罗斯在本周密尔沃基举行的网络安全研究人员和首席信息安全官聚会CypherCon上展示了他的研究成果。这次活动让业内人士了解到一些国内顶级安全专家在不断演变的威胁环境中所看到的情况。

情况并不乐观。克罗斯详细介绍了他最近评估凭证生命周期攻击的工作结果，指出AI推动了欺诈性语音和面部工具的显著增长。

凭证重置目前是恶意行为者使用的主要方法，这一趋势因2020年新冠疫情带来的远程工作现实而加剧。以前员工需要亲自到办公室证明身份以重新获得凭证，而疫情后时代导致更多人根本不踏进办公室。

"完全远程工作的人数增加了一倍多，"克罗斯指出。"我们正在把人转换成私钥。"

涉及凭证重置的重大黑客事件之一发生在2023年，MGM度假村和凯撒娱乐公司遭到勒索软件攻击。这次由名为Scattered Spider的网络犯罪集团实施的攻击，通过社会工程学攻击针对第三方信息技术供应商，说服服务台工程师为高权限用户重置身份验证因子。

克罗斯警告说，基于AI的工具使网络犯罪分子更容易生成令人信服的社会工程学攻击，类似于三年前在拉斯维加斯瘫痪老虎机和预订系统的攻击。他建议组织尽快实施多项控制技术，包括要求两名服务台员工共同批准凭证重置，与请求者进行禁止虚拟背景或模糊处理的视频会议通话，以及让组织架构中的经理加入通话或为其担保。

"他们选择了一名在IT部门工作的员工，此人拥有超级管理员权限，"克罗斯说。"利用公开可获得的信息针对这一流程并不需要太多信息。"

利用深度伪造视频工具

不断增长的AI深度伪造工具库也扩展到视频领域。据Quilligence首席信息技术官兼佛罗里达网络联盟教育主管詹姆斯·麦奎根介绍，"数字逮捕"骗局目前正在印度蔓延。

他描述了恶意行为者如何使用伪造电话号码通过WhatsApp视频频道发送虚假逮捕令。AI生成的视频在用户屏幕上显示数字化制作的人员，在某些情况下冒充真实法官，出现在可信的法庭环境中，威胁因各种犯罪而逮捕，除非付款。

"他们让受害者保持在线状态，这样他们必须付钱，否则就会被逮捕，"麦奎根说。"我们看到这些虚假逮捕骗局在印度和其他亚洲国家发生。如果我们在未来六个月甚至更早开始在美国看到这些情况，我不会感到惊讶。"

AI视频工具的快速发展无疑将使威胁行为者更容易实施此类攻击。麦奎根展示了他制作的一个30秒真实深度伪造视频，模仿当天会议上的一位前发言人，只用了四分钟就完成。更令人震惊的是他在台上展示的一个名为Decart Video AI的工具，该工具使用他的手机摄像头实时传输全身动作。视频中是别人的面孔和身体。

"创建这些深度伪造并不需要太多努力，特别是当你有现成的服务时，"麦奎根对CypherCon观众说。"有些只需要几美元。"

自编码恶意软件的出现

虽然深度伪造是恶意行为者使用AI提升攻击能力的可见表现，威胁研究人员也对一类在数字阴影中悄无声息运行的新软件发出警报。

根据谷歌Mandiant最近的威胁报告，多态AI恶意软件开始出现在自主和自适应攻击中。该恶意软件使用AI模型应用程序编程接口在执行过程中按需生成恶意代码，能够改变其特征和行为以逃避传统的基于特征的检测系统。

谷歌Mandiant研究人员在俄罗斯政府支持的对乌克兰攻击中发现了该恶意软件的版本。在关于多态AI的演示中，安全研究员斯蒂芬·萨姆表示，虽然该恶意软件在"即时"自修改能力方面不同寻常，但仍必须遵循基本的编程规则，这最终使发现成为可能。

"内存中没有文件支持的持续读写是一个明显信号，"萨姆指出。"即使是自编写恶意软件最终也必须接触磁盘。我们正处于军备竞赛中，但这并非毫无希望。变形者快速且聪明，但他们仍必须遵守不变的规则。"

当今网络安全专业人员面临的挑战是，虽然编码协议可能迫使一些威胁行为者遵守规则，但他们长期内不太可能这样做，而且他们现在可以使用强大的AI工具阵列使防御者的生活更加艰难。这最终可能导致安全观念的转变，从业者必须减少像防御者那样思考，更多地像黑客一样思考。

自称"黑客CISO"的米沙尔·汗就是这种思维方式的例子，他以道德黑客行为帮助他人而建立了声誉，利用网上随时可获得的信息。汗的方法被称为开源情报（OSINT），在解决ParkMobile无现金停车应用程序泄露等黑客事件中发挥了作用，较小规模的调查揭露了跟踪者、性勒索者和网络炸弹威胁背后的人员。

在本周CypherCon的主题演讲中，汗描述了一种哲学，这可能为许多寻求对抗AI武装对手围攻网络和普通公民的人们指明前进方向。

"互联网上的许多线索为你创建了一个档案，"汗说。"我觉得我在赋能并武装人们使用他们的技能做好事。我们承担着正确行事的重大责任。这是一项重大任务。事情变化很快，我们需要相应地行动。"

Q&A

Q1：AI变声软件现在有多厉害？

A：实时AI变声软件已经发展到连最先进的语音生物识别系统都无法识别的程度。GetReal Security的研究显示，这些工具不仅听起来像目标人员，甚至能够欺骗最复杂的语音生物识别技术。

Q2：数字逮捕骗局是什么？

A：数字逮捕骗局是指恶意行为者使用AI生成的视频，冒充法官等权威人员，通过WhatsApp等平台威胁受害者，声称如不付款就会被逮捕。这种骗局目前在印度等亚洲国家盛行。

Q3：什么是多态AI恶意软件？

A：多态AI恶意软件是一种新型恶意软件，能够使用AI模型在执行过程中按需生成恶意代码，并改变自身特征和行为以逃避传统检测系统。谷歌Mandiant在俄罗斯政府支持的网络攻击中发现了此类软件。