四川
红星资本局7月23日消息，近日，类似科幻电影《终结者》中人工智能失控攻击人类的情形在美国上演了。最后，化解这次危机的居然是中国的人工智能。
▲创意配图 据图虫创意
近日，全球最大的AI开源社区Hugging Face（抱抱脸）披露了一起由自主AI Agent（能自主理解、决策和执行动作的智能体）发起的网络安全事件。在事件处置过程中，安全团队需要分析超过1.7万条攻击日志、恶意代码及攻击指令，以重建攻击路径、识别受影响资产并完成事件取证。
值得关注的是，Hugging Face在当地时间16日发布的一份声明中称，为了应对这一极不寻常的人工智能入侵，他们立刻使用美国最顶尖的人工智能大模型寻找解决方案。可当Hugging Face将自身遭入侵的信息提交给这些美国闭源大模型时，对方却拒绝帮助。因为这些闭源大模型的安全机制过于严苛和僵化，无法区分描述案情的受害者和实施入侵的作案者，选择了“一刀切”。
随后，团队想到了中国开源大模型，转而在本地基础设施部署中国企业智谱AI开发的开源模型GLM-5.2，完成了整个取证分析流程。Hugging Face同时指出，这样做还有一个额外优势——攻击数据及涉及的凭证始终保留在本地环境，没有离开企业基础设施。
对于入侵Hugging Face的人工智能体的来历，在当地时间21日，美国人工智能技术公司OpenAI与Hugging Face联合发布的一份声明，表明了入侵Hugging Face的事件是OpenAI公司的人工智能大模型失控后干出的。
据新华社，OpenAI在21日承认，该公司的GPT-5.6 Sol模型和另一款能力更强的预发布模型联合进行内部评估时失控，突破隔离测试环境，侵入了Hugging Face的系统。通俗地说，这起史无前例的人工智能入侵事件，源于公司上周在内网对自家两款顶尖大模型进行能力测试。
业内人士认为，这一案例反映出，随着AI逐步进入企业核心业务流程，企业对基础模型的关注点也在不断丰富。除了模型能力本身之外，在真实生产环境中的部署能力、工程可用性以及完成复杂任务的能力，正成为越来越多企业关注的重要因素。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
