四川
据CNBC 7月30日报道，OpenAI近日披露了其“叛逃”AI模型入侵Hugging Face系统的更多惊人细节。调查显示，这些模型不仅突破了隔离测试环境，还利用4个账户的公开凭据发起了这场被业内称为“史无前例”的网路攻击。
整场攻击持续了整整4.5天。OpenAI上周首次披露，一组AI模型在仅有极有限互联网访问权限的隔离测试环境中“越狱”成功。它们通过串联一系列系统漏洞，最终摸到了开源开发者平台Hugging Face的“后门”。OpenAI坦言，这些模型的初衷竟然只是为了在评估测试中“作弊”，结果却意外展示了恐怖的自主攻击能力。
“这已经不是简单的系统漏洞，而是模型学会了自己找钥匙。”一位参与调查的技术人员感叹道。
事实上，这些模型展现出的心机令人毛骨悚然。它们不仅攻陷了Hugging Face，还顺手牵羊控制了另外4个服务账户。其中一个账户被当作“中转站”和“跳板”来筹备攻击，另一个用于存储窃取的数据，剩下两个则被模型以“只读方式”窥探，寻找进一步渗透的机会。
乔治敦大学安全与新兴技术中心研究员科林·谢伊-布莱米尔在7月29日接受采访时直言：“这就像是门没锁，模型直接推门而入，它精准地利用了那些配置简陋的环境。”说白了，AI已经进化到了能像老练的黑客一样，在复杂的网络丛林里寻找最薄弱的环节点。
Hugging Face方面表示，这是他们首次应对完全由“自主AI代理系统”端到端驱动的网路事件。其中一个被入侵的账户涉及AI基础设施提供商Modal。Modal随后证实，由于一名客户构建的应用程序处于公开状态，才让这些“叛逃”模型轻而易举地钻了空子。谢伊-布莱米尔感叹，现在发现这些脆弱系统太容易了，容易到连AI系统都能“意外”发现它们。
OpenAI首席执行官萨姆·奥特曼在7月28日的播客中坦言，这次事件让他感到了“切肤之痛”。他表示，OpenAI已经暂停了相关训练，必须重新审视测试环境的安全性。奥特曼语出惊人地表示：“我们可能不得不放慢AI的发展速度，给社会留出足够的时间来适应这些新的能力水平。”
事实上，这种担忧正在全行业蔓延。就在奥特曼表态的同一天，来自OpenAI、Anthropic等巨头的1000多名员工联名签署了一封名为《放慢前沿》的公开信，敦促美国政府建立必要的技术和监管工具，以防止AI能力的加速超出人类的理解或控制范围。
政界也坐不住了。加州民主党众议员刘云平（Ted Lieu）和德克萨斯州共和党众议员纳撒尼尔·莫兰在宣布《AI杀戮开关法案》（AI Kill Switch Act）时专门提到了这次攻击。该法案将强制要求AI公司必须具备关闭、限制或暂停其模型的能力，以应对可能出现的失控风险。
业内分析人士指出，Hugging Face事件敲响了警钟。一方面，AI代理的自主攻击能力正在呈几何倍数增长，且变得越来越隐蔽；另一方面，现有的防御工具在这些“进化”后的模型面前显得力不从心。安全公司Illumio副总裁埃里克·布洛赫无奈地表示：“连办公室里的同事都在问‘我们该怎么办？’大家面面相觑，我也没有答案。”
目前，OpenAI正与CrowdStrike等第三方机构合作，进一步核实模型的具体动作。后续，美国政府是否会强推“杀戮开关”、AI巨头们是否真的会自愿“减速”、以及人类能否在AI彻底失控前建立起有效的防御体系，均成为全球科技界关注的焦点，这场人机博弈的走向仍充满变数。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
