社会工程学网络攻击的特点是自动化、自适应性和针对性。
AI 已被用来进行社会工程网络攻击，骗取个人和公司数百万美元。
应对这一问题需要采取协调一致的措施，以跨部门合作为核心。
尤其是生成式人工智能 (GenAI) 和大型语言模型 (LLM) 已经风靡全球。该技术已显示出巨大的潜力，可以自动化各种日常任务，从基本的 IT 帮助台请求到复杂的用户行为分析。这种任务自动化通常由 AI 代理执行- 旨在执行任务和执行操作的自主软件。值得注意的是，各行各业的企业越来越多地采用 AI 工具来提高效率并降低成本。
然而， AI 模型的兴起也导致了有效利用 AI 的新网络攻击的出现，即基于 AI 的攻击。这些攻击的特点是自动化、自适应性和针对目标量身定制。这些攻击的兴起为网络安全开辟了一个新领域，并正在改变网络安全格局。事实上，MITRE 推出了MITRE ATLAS框架，作为广泛使用的MITRE ATT&CK框架的扩展，以应对 AI 系统中的对抗策略。
AI和网络安全
尽管 AI 技术发展迅速，令人兴奋，但其滥用也引发了重大担忧。事实上，世界经济论坛的《2024 年全球风险报告》将错误信息和虚假信息列为与 AI 技术相关的最大风险。 AI 利用先进的模型，改变了网络安全威胁格局，并可能造成毁灭性 影响。基于 AI 的攻击具有推理和行动的能力，使传统防御技术失效。这一发展为新兴复杂威胁铺平了道路，其速度和规模远远超出了人类的能力。
近年来，基于 AI 的攻击浪潮一直占据着新闻头条。Deepfake技术以使用 AI 生成欺骗性内容而闻名。在香港，该技术被用来欺骗一名财务人员向诈骗者支付 2500 万美元；诈骗者在视频电话会议中冒充该公司的首席财务官。这类由 Deepfake 驱动的骗局对威胁者来说成本微不足道，预计会加速发展，威胁到所有企业。
AI 驱动的社会工程攻击
随着个人数据在线足迹的不断增长以及基于 AI 的攻击日益复杂，威胁行为者现在能够开发更加个性化和欺骗性的攻击。其中一种攻击是社会工程攻击，即操纵个人泄露机密信息或执行危害其安全的行为。强大的 AI 模型（尤其是 LLM）的出现，使得历史上能力较弱的威胁行为者能够开发社会工程攻击。例如，骗子使用的声音模仿技术让一位 15 岁女儿的母亲陷入了可怕的境地，骗子声称绑架了她的女儿，而实际上女儿是安全的。
数字欺骗技术取得了长足进步，为社会工程攻击开辟了新领域。社会工程攻击对数字资产的影响是严重的，包括财务损失和隐私泄露。这些攻击可以通过不同的媒介进行，例如电子邮件、钓鱼网站、短信、语音或视频通话和社交媒体平台。一般来说，社会工程攻击主要依赖于利用以人为中心的漏洞，而不是数字基础设施安全的缺陷。
虽然针对基于 AI 的攻击的可靠防御技术仍在研发中，但涉及 AI 技术的网络安全事件数量已大幅增加。基于 AI 的攻击变得越来越强大，而且往往非常成功，其能力迅速增强，使保护环境的任务变得更加困难。但这并不意味着诈骗者和黑客已经获胜。
解决与基于 AI 的攻击相关的担忧
解决 AI 攻击问题可以通过三种方式实现。首先，必须充分了解当前网络安全控制对新兴 AI 网络攻击的有效性。在 AI 攻击进一步发展之前，各组织之间可以立即进行对话和交换信息，这有助于制定全球对策。
其次，保护我们的关键资产取决于改进当前的安全措施、开发针对这些新兴攻击的坚实防御措施以及教育和提高社区对新形式技术的认识。此外，重新审视现有框架并更新它们以应对新的基于 AI 的攻击是保护宝贵资产的重要一步。
最后，包括政府和领先的技术参与者在内的整个生态系统应该协同支持专注于 AI 和网络安全交叉领域的研究中心、初创企业和中小型企业。这项投资是一个关键驱动因素，有可能发现突破性的解决方案——就像 OpenAI 在任何老牌参与者之前彻底改变了 AI 一样。这迫切需要在全球舞台上采取更多合作举措，以确保网络安全防御的发展速度快于这些新的基于 AI 的攻击不断上升的威胁。
免责声明：
本文所发布的内容和图片旨在传播行业信息，版权归原作者所有，非商业用途。如有侵权，请与我们联系。所有信息仅供参考和分享，不构成任何投资建议。加密货币市场具有高度风险，投资者应基于自身判断和谨慎评估做出决策。投资有风险，入市需谨慎。
交流更多AI/Web3/Meta相关知识
⬇️点击下图⬇️
关注我们，一起探索AWM！
2024-10-13
2024-10-14
AI 模型越复杂，撒慌的可能性越大
2024-10-1
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
