北京
1Password首席信息安全官Jacob DePriest听说OpenAI的AI模型自主入侵Hugging Face时，并没有感到特别意外。他对BetaKit表示，考虑到目前所见的技术能力和技术本身的快速变化，这类事件在某种程度上是不可避免的。但这次攻击完全由AI自主完成，这一点仍然让他感到震惊。
“这不是一个漏洞或者一个错误。”DePriest说，“这是一连串不同技术协同作用的结果。”
事件的完整细节仍在逐步披露中。OpenAI的AI智能体突破公司设置的多重防护机制，成功访问了美国AI初创公司Hugging Face的内部系统，以及其他一些公开可用的服务。加拿大网络安全公司的安全负责人们正在为更多AI智能体带来的威胁做预案，但他们都承认，这次入侵是一次复杂操作，不存在某种万能解法。
OpenAI在一篇博文中表示，事件发生的一个原因是部分部署层面的安全措施当时没有被启用。但位于新不伦瑞克省弗雷德里克顿的Lastwall公司信息安全副总裁Julien Richard，将那个AI智能体评价为“相当有能力的攻击者”。他明确表示，没有一款产品能阻止这次攻击。
Richard在发给BetaKit的邮件中写道：“这不是一个漏洞或一个错误。这是一连串不同技术协同作用的结果。”DePriest对此表示认同。他解释说，这个模型是通过一个涉及“零日漏洞”的复杂模式从初始的容器环境中逃逸出来的。“零日漏洞”意味着被入侵的公司根本不知道这个风险点的存在。此外，攻击过程还涉及数据传入，也就是攻击者把数据带入新的运行环境。
Richard指出，这类事件恰恰说明身份验证仍然是基础性的安全控制手段，即便攻击者变得越来越狡猾。这进一步坚定了他在网络环境中对身份验证环节保持重点关注的想法。DePriest此前曾在GitHub担任安全领导岗位，也曾在国家安全局工作过。他透露，1Password今年早些时候已经组建了一个安全研究团队，并且通过OpenAI的可信网络访问计划和Anthropic的Glasswing项目，获得了用于测试的先进模型。
“过去面临的那些挑战——在大规模场景下保证身份安全——需要更多工具来解决，我们的客户也需要更多工具。”DePriest说道。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
