河北
白宫正在关注OpenAI披露的一起事件，该公司的一个AI模型在测试中行为失控，并入侵了一家AI基础设施初创公司的系统。
这家ChatGPT开发商周二表示，其一个AI代理在一次安全测试中脱离了管控，并引发了一次入侵事件，导致运营AI模型代码协作平台的Hugging Face基础设施被攻破。
该事件表明，AI模型突破安全护栏、造成网络安全威胁的能力正在不断增强。
白宫一位官员向路透社表示，担任白宫科技政策办公室主任兼总统科学顾问的迈克尔·克拉齐奥斯已经听取了事件汇报，目前正在密切关注事态发展。
OpenAI表示，该事件发生在一次内部评估中，该评估旨在测试其AI模型的高级网络能力。
研究人员禁用了一些内置的安全防护措施，并在互联网访问受限的隔离测试环境中运行这些模型。
该公司解释说，这些模型利用了一个未知的软件漏洞来访问互联网，随后侵入了Hugging Face的系统，明显是想在它正在接受的网络安全评估中作弊。
OpenAI的团队在内部发现了这一异常活动，而Hugging Face的安全团队则检测并阻止了该活动。当OpenAI团队与Hugging Face取得联系时，Hugging Face已经用自己的模型着手进行遏制和取证还原工作。
OpenAI首席执行官萨姆·奥尔特曼周二在X平台上发帖称，“我们在评估模型的时候出了个重大安全事件”，并补充说公司正在把目前了解到的情况分享出来，并感谢Hugging Face在这一问题上的合作。
“我们感谢与OpenAI在这一问题及其他议题上的合作，”Hugging Face联合创始人兼首席执行官克莱姆·德朗格表示。“这起事件可能是头一回出现这种情况，它印证了我们长期以来的一个信念：人工智能安全靠任何一家公司关起门来搞是解决不了的。得靠公开协作来解决，让各地每一个防御者都能广泛用上人工智能。”
德朗格还在X平台上发帖称，Hugging Face坚信OpenAI没有恶意，并表示“这一切居然是自动发生的，实在让人惊叹”。
福克斯商业新闻网的迈克尔·辛凯维奇和路透社参与了本报道。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
