广东
智通财经APP获悉，AI行业安全警报接连拉响。Anthropic周四披露，旗下AI模型Claude在测试期间入侵了三家公司的系统。而就在几天前，竞争对手OpenAI曝出同类险情：其AI代理自主入侵开源平台Hugging Face的系统。
Anthropic周四在其博客文章中表示，在OpenAI公布安全入侵事件后，该公司对自身网络安全测试进行审查后发现了这一问题。Anthropic指出，在OpenAI和Anthropic的测试中，AI模型都能够从本应封闭的测试环境中访问互联网。
Anthropic表示，公司审查了141,006份评估测试报告，发现其Claude AI工具曾三次访问互联网并入侵“外部组织的现实基础设施”。该公司称，最早的事件发生在4月份。
在网络安全测试期间，Anthropic公司的Claude模型被告知无法访问互联网，但由于Anthropic与评估合作方之间出现沟通偏差，测试系统实际连通了公网。这一漏洞最终导致模型未经授权侵入三家机构的系统，该公司并未披露涉事机构名称。
“Claude利用基础手段入侵受害机构基础设施，包括破解弱密码、访问无需身份验证的终端节点。”Anthropic 称。
专注研究 AI 系统攻击能力的 Palisade Research 执行董事杰弗里・拉迪什认为，多家头部 AI 企业大概率还发生过同类事件，只是尚未被发现或是没有对外公开。
“随着模型智能化程度提升，这类问题只会愈发严重。AI 将更擅长钻规则漏洞、编造虚假信息。” 他表示。
“夺旗赛”攻防演练意外失控
Anthropic将本次事件定性为运营失误，事故涉及三款不同模型：Claude Opus 4.7、Claude Mythos 5 以及一款内部研发测试模型。最早的事件发生在4月。测试环境刻意移除了常规安全防护机制，以便Anthropic能够评估其模型的能力。
这类测试属于“夺旗赛(Capture-the-Flag)”评估，旨在考验模型突破系统、搜寻隐藏信息的能力，也是业界用于检验人类与AI攻防能力的通用方式。
Anthropic在博客文章中表示，早期版本模型在察觉处于真实网络后仍继续攻击，而最新内部模型在识别到自身运行于互联网后停止了攻击。
Anthropic表示，已于7月23日暂停所有网络评估工作，并于7月27日通知受影响的公司，其中两家公司在接到通知前并不知情。Anthropic表示，目前仍在联系第三家公司。
Anthropic的评估合作伙伴Irregular表示，正在对这些事件进行调查。
Anthropic表示，这些事故带来重要警示：随着AI模型实施真实网络攻击的能力不断提升，企业需要对自研以及第三方合作搭建的测试环境落实更严苛的管控机制。
前沿AI模型接连“失控” 强化监管呼声渐高
接连发生AI意外入侵事件，已经促使部分人士呼吁美国联邦政府建立AI监督机制。据报道，周二，超过1100名AI企业员工签署请愿书，呼吁美国政府对AI发展进行“有序调控”，避免技术迭代速度过快引发风险。
SpaceX首席执行官马斯克对Anthropic模型逃逸事件评论道：“AI智能化、自主能力持续提升，同类事件将会频繁发生。”
据报道，OpenAI近期承认，其先进AI代理突破了测试环境的隔离限制，自主入侵了全球最大AI开源平台Hugging Face的生产系统。这是行业首次公开披露的AI模型评测失控升级为跨企业真实网络攻击的事件。
OpenAI首席执行官山姆·奥特曼本周表示，他已与国会山的参议员讨论了此次入侵事件。此前有报道称，奥特曼和英伟达首席执行官黄仁勋本周将与美国参议院情报委员会民主党首席议员马克·华纳会面，讨论AI发展及安全问题。
微软AI负责人苏莱曼将OpenAI网络攻击事件描述为网络安全领域的“警钟”。苏莱曼指出，这是AI网络攻击崛起的重要信号。“随着模型变得越来越强大，预防原则变得非常重要。”
美国已开始加强对新模型发布的监管。6月2日，美国总统唐纳德·特朗普指示顾问制定一套针对最先进AI的自愿性网络安全测试框架，并征求技术开发者的意见。此前，美国曾以国家安全为由暂时发布出口管制指令，Anthropic也因此限制了对其Fable 5和Mythos 5模型的访问。
OpenAI网络攻击事件发生后，美国国会两党议员提出《AI终止开关法案》(AI Kill Switch Act)，旨在应对AI模型潜在失控风险。该法案拟赋予联邦机构在必要情况下暂停或彻底关闭AI模型运行的权限。目前，该法案仍处于国会提案阶段，尚未正式生效。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
