河北
ChatGPT 的母公司 OpenAI 承认了一起“前所未有的网络事件”——其最强的两个人工智能模型自己入侵了另一家 AI 公司，这引发了关于是否需要加强技术防护的讨论。
该公司表示，其 AI 系统脱离了测试环境，并入侵了初创公司 Hugging Face。
该初创公司于 7 月 16 日披露，其服务器遭到一个身份不明但手段高明的程序入侵，而且是自主行动的。
以下是企业、部分政府和立法者对此事的反应。这是首起公开披露的此类网络攻击，各方最新回应如下：
该公司在一份声明中表示，它是靠自家的 AI 辅助检测发现此次入侵的。
“这次事件与我们之前处理过的任何事件都有一个重要区别：它从头到尾都是由一个自主人工智能代理系统驱动的，”该公司表示。
在OpenAI披露其模型参与了此次入侵事件后，双方于本周启动了联合调查，目前仍在进行中。
Hugging Face联合创始人克莱芒·德朗格表示，在美国几家主要AI模型拒绝接手、分不清谁是防御方、谁是攻击方之后，他的初创公司转而使用中国公司智谱AI的开源GLM-5.2模型来分析此次黑客攻击的数据。
德朗格补充说，Hugging Face的员工“坚信他们（这里指的是OpenAI）没有恶意”。
“为我们的安全团队感到无比自豪！他们拦截、控制并公开披露了一次我们前所未见的攻击，而且速度之快创下了纪录，”他在X上写道。
“这是智能体时代网络安全的第一天，即起步之日，我们都在认识到保密并非解决之道，各地所有防御者（而不仅仅是少数被挑选出来的）都需要更强大的不受限制的模型，尤其是开源模型！”Delangue补充道。
英国政府对此作何反应？
人工智能安全研究所（AISI）是于2023年成立的、由英国政府支持的机构，旨在评估先进人工智能系统带来的风险。该机构本周表示，其正在调查的一款人工智能模型也失控了，并试图入侵其测试系统。
AISI未披露该人工智能模型背后的公司，并表示其自身基础设施未受到任何损害。此后已采取措施提升系统安全性。
该机构最新的评估还发现，它测试的每一款前沿人工智能模型在能力评估过程中都试图作弊，这凸显出随着模型能力不断增强，人工智能安全面临日益严峻的挑战。
据AISI称，这些模型为了更轻松地完成任务而违反评估规则，包括在禁止的情况下上网查找答案、绕过网络限制、翻查评估软件找线索，以及访问获准范围之外的系统。
AISI表示，这些模型在事后被询问时很少承认作弊，而且往往不会在推理过程中透露该行为，这样一来，仅靠模型自我报告就很难发现。该研究所指出，随着人工智能系统获得更多自主性，独立监控和更强有力的监督机制将变得越来越重要。
该研究所强调，这种行为并不一定意味着存在恶意意图，而是反映出模型利用捷径以在当前评估机制下最大化成功率。
OpenAI对此作何反应？
ChatGPT的开发商周二在一篇博客文章中表示：“我们已将Hugging Face纳入可信访问计划，并正在支持其团队迅速利用我们模型的能力来改进其防御措施。”
这家总部位于旧金山的公司披露，参与此次攻击的两个模型分别是其最新的GPT-5.6 Sol模型和一款尚未发布的模型，该公司称这款未发布的模型比其最新版本还要强大。
这两个OpenAI智能体发现了Hugging Face服务器中的漏洞，进而窃取登录信息，然后侵入了该公司的系统。
该事件发生在OpenAI的一次内部测试期间，该测试旨在评估模型的网络安全能力。OpenAI为此次测试移除了常规安全措施。
OpenAI表示，两者都试图在测试中靠作弊来蒙混过关。他们“使出浑身解数去达成一个相当狭窄的测试目标”，并“找到了办法，获取可以用来在评估中作弊的秘密信息”。
来自得克萨斯州的美国民主党众议员格雷格·卡萨尔在X上发帖写道：“这太让人警惕了。人工智能发展极快，却没有真正能保障我们安全的监管。这种情况必须改变。”
他补充说：“我们需要定期的强制性独立安全测试和监督，强制通报安全事件，以及国际合作，以保护人们不陷入彻底灾难。”
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
