广东
近日，全球最大的AI开源社区Hugging Face披露了一起由自主AI Agent发起的网络安全事件。官方披露显示，OpenAI的AI模型在一次内部关于网络攻击能力的测试中，模型在评估中为了“作弊”拿到高分，突破沙盒隔离，入侵了AI开源平台Hugging Face的生产系统。OpenAI将此定性为“前所未有的网络安全事件”。
据OpenAI披露，涉事模型为GPT-5.6 Sol以及一款能力更强的预发布模型。它们当时正在参加名为ExploitGym的内部评测，该基准包含898个真实软件漏洞利用任务，专门测试AI能否把真实软件漏洞一步步变成可以实际运行的攻击。
在攻击发生后的事后追查阶段，安全团队需要分析超过1.7万条攻击日志、恶意代码及攻击指令，以重建攻击路径、识别受影响资产并完成事件取证。
Hugging Face在官方复盘中提到，其最初尝试使用商业模型API进行分析，但由于日志中包含真实攻击指令、恶意代码和C2（Command&Control）等内容，请求受到安全策略限制，未能完成相关分析。
随后，Hugging Face团队转而在本地基础设施部署开源模型智谱GLM-5.2，由GLM-5.2遍历全部攻击记录并完成取证分析，将数天的工作压缩至数小时，完成了整个取证分析流程。官方同时指出，这样做还有一个额外优势，那就是攻击数据及涉及的凭证始终保留在本地环境，没有离开企业基础设施。
这一案例反映出，随着AI逐步进入企业核心业务流程，企业对基础模型的关注点也在不断丰富。除了模型能力本身之外，在真实生产环境中的部署能力、工程可用性以及完成复杂任务的能力，正成为越来越多企业关注的重要因素。
Hugging Face在复盘中建议，企业应提前准备能够在本地基础设施运行的模型，以便在安全事件等关键场景下开展分析工作，同时保障敏感数据留存在企业环境内。
业内人士表示，从开发、编程到安全运维，大模型正越来越多地参与真实业务流程。模型价值不仅体现在能力表现，更体现在能否稳定融入企业工作流、解决实际问题。这类来自真实生产环境的实践案例，也为企业部署AI提供了新的参考。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
