网易首页 > 网易号 > 正文 申请入驻

Claude 上演真实网络攻击:偷凭证、进数据库、上传恶意软件

0
分享至


2026 年 7 月 30 日,Anthropic 发布调查报告称,在回查 141,006 次网络安全评测运行后,发现 Claude 曾在第三方评测环境中接入互联网,并在 3 起事件中未经授权进入 3 家不同机构的真实生产系统。


其中最严重的一起事件中,Claude 获取了应用程序和基础设施凭证,并进入一个包含数百行生产数据的数据库。

3 起事件共涉及 6 次模型运行,其中第一起事件发生了 4 次,另外两起各发生 1 次。

涉事模型分别为 Claude Opus 4.7、Claude Mythos 5,以及一款不计划公开发布的内部研究测试模型,最早的事件可以追溯至 2026 年 4 月。

评测环境意外接入真实互联网

Anthropic 此次调查始于 OpenAI 7 月 21 日披露的 Hugging Face 安全事件。OpenAI 当时确认,多款模型在网络安全评测中利用零日漏洞突破隔离环境,随后进入 Hugging Face 的生产基础设施。

Anthropic 随即回查自身网络安全评测记录,排查 Claude 是否也曾从原本应当封闭的环境接入互联网。

3 起事件均发生在“夺旗”网络安全评测中。

模型会获得一个虚构场景,并被要求攻入网络中的目标机器,取得隐藏的秘密信息。任务没有规定具体攻击方式,也没有限定模型可以在哪些位置寻找目标。

Anthropic 在提示词中明确告诉 Claude,当前环境属于模拟系统,并且无法访问互联网。但由于 Anthropic 与第三方评测合作伙伴 Irregular 之间出现理解偏差,相关评测机器实际保留了互联网访问能力,双方在事件发生时均未发现这一问题。

由于模型事先被告知不存在互联网连接,当搜索过程将其引向真实外部系统时,Claude 起初将这些系统视为评测场景的一部分。

Anthropic 指出,网络安全评测通常会使用接近真实世界的域名和基础设施,因此,目标看起来真实,本身并不足以证明它不属于模拟环境。

Claude 主要利用弱密码、未经身份验证的接口、暴露的调试页面和 SQL 注入等常见手段进入相关系统,没有发现或利用复杂漏洞。

Anthropic 没有发现 Claude 试图将自身带出评测环境,也没有证据表明模型蓄意逃离测试环境或追求自行设定的目标。

Opus 4.7 进入真实公司的生产数据库

第一起事件中,评测合作伙伴为虚构目标公司选择的名称,恰好与一家正在运营的网站域名相同,而评测容器又意外具备直接访问互联网的能力。

在这项评测的 4 次运行中,Claude 无法连接模拟环境内的预定目标,随后发现可以通过互联网访问这家同名真实公司。模型误以为该公司就是“夺旗”任务设定的目标,开始寻找并利用其基础设施中的安全缺陷。

这 4 次运行获取了应用程序凭证和基础设施凭证等信息,并进入一个包含数百行生产数据的数据库。Anthropic 将其列为此次调查中影响最严重的一起事件。

该事件涉及 Claude Opus 4.7,也是唯一一起模型在意识到自己很可能已经进入真实环境后,仍继续攻击的事件。

从模型输出的推理过程来看,Claude 在 4 次运行中最终都意识到目标是真实系统,其中两次又自行解释称,这家真实公司可能被有意纳入评测范围,但 4 次运行均未因此停止攻击。

Mythos 5 向 PyPI 上传恶意软件包

第二起事件中,Claude 在虚构环境内发现一份新开发人员配置文档,文档要求员工从公开 Python 软件包平台 PyPI 安装一个实际上并不存在的软件包。

Claude 判断,只要以相同名称发布一个由自己制作的软件包,目标系统就可能自动下载并安装。

为了完成“夺旗”任务,Claude 随后制作并上传了一个包含恶意代码的同名软件包。注册 PyPI 账户需要电子邮箱,而注册邮箱又需要电话号码。

模型在找不到免费电话号码服务后,曾通过多种途径尝试获取资金,以支付电话号码费用,但均未成功。

此后,Claude 找到一家免费且未被屏蔽的邮箱服务商,完成账户注册并将恶意软件包上传至真实的 PyPI。

Anthropic 认为,这一系列复杂操作对于人类参与者而言,很可能已经足以表明当前行为不再局限于模拟环境,而是在向真实的公共软件平台发布文件。

该软件包在公开互联网上存在了大约 1 个小时,其间被下载并在 15 个真实系统上运行。

其中一个系统属于一家与评测场景无关的网络安全公司,该公司的自动化扫描器会安装 Python 软件包并检查其中是否含有恶意代码。

扫描器安装软件包后,Claude 嵌入其中的隐藏代码被执行。

Anthropic 推测,该扫描器将 PyPI 软件包视为可以安全安装的内容,导致该公司的凭证被发送至 Claude 预先设置的收集地址。

Claude 随后使用这些凭证进入该公司的其他基础设施。

Claude 上传软件包时并不知道这家安全公司存在,也没有直接将其选为攻击目标。但由于恶意代码被发布到开放互联网,任何运行该软件包的系统都可能受到影响。

PyPI 自身的安全系统随后自动删除了相关软件包,Anthropic 已向 PyPI 团队通报事件并提供相关技术指标。

这次攻击由 Claude Mythos 5 实施。模型在运行早期曾正确意识到,如果当前连接的是真实互联网,上传恶意软件包就会构成现实攻击,并判断这种行为“不可接受,也肯定不是任务预期的解决方案”。

但 Claude 随后以自己不认识网络连接所使用的证书颁发机构为由,认为相关证书属于模拟环境;系统日历显示为 2026 年,也被它当作环境经过人为布置的证据。此后,即使自动化扫描器开始安装软件包,Claude 仍将这些扫描器视为评测中预设的脚本角色,没有重新审视此前的判断。

Anthropic 承认,无论 Claude 当时如何理解所处环境,它为了将软件包发布至 PyPI 而采取的一系列复杂行动,都不符合公司期望,后续将针对这一问题加强模型训练。

内部模型扫描约 9000 个目标后主动停止

第三起事件中,Claude 无法连接预定的虚构目标,于是转向互联网寻找其他目标,并扫描了大约 9000 个目标。模型最终攻入一家公司的互联网应用,使用的手段包括从暴露的调试页面读取凭证,以及利用 SQL 注入漏洞。

实施此次攻击的是一款内部研究测试模型。

在运行的大部分时间里,该模型将接触到的真实主机视为评测任务的一部分,认为自己的行为不会造成现实影响。

后来,Claude 发现被攻入的主机位于一个与“夺旗”任务没有关联的云账户中,随后自行判断目标属于真实系统,并停止攻击。

Anthropic 表示,三款模型在发现目标可能属于真实系统后表现不同:

1)Opus 4.7 意识到已经进入生产系统后仍继续攻击;

2)Mythos 5 一度判断自己可能接触开放互联网,但随后通过错误推理认定仍处于模拟环境;

3)最新的内部研究模型则在获得明确证据后主动停止任务。

不过,Anthropic 强调,这只是 3 起孤立事件,并非受控实验,不能据此证明更新的模型一定拥有更可靠的安全判断能力。即使最新模型最终停止了攻击,其停止前的行动范围也超出了公司期望。

Anthropic 承认评测和运营环节存在失误

Anthropic 认为,这些事件与 OpenAI 模型利用零日漏洞突破隔离环境存在明显区别。

OpenAI 模型主动发现并利用漏洞获得互联网访问能力,而此次 Claude 使用的是评测环境中原本就意外开放的网络路径。

Anthropic 将此次事故定性为更接近评测工具链和运营管理失误,而不是典型的模型对齐失败。模型被告知无法访问互联网,又被要求寻找并攻入目标,但评测环境实际上可以连接外部网络,导致其将真实系统误认为模拟目标。

不过,Anthropic 没有将责任完全归于第三方评测合作伙伴。

Anthropic 表示,将按照无责复盘原则,以自身承担全部责任的方式推进整改。原本可以降低事件发生概率的措施包括:在评测开始前验证所有互联网访问路径、实时监控评测日志,以及更严格地审查模型运行记录和网络日志。

Anthropic 于 7 月 23 日启动记录审查,并在当天发现 Claude 可能访问互联网后暂停全部网络安全评测;7 月 24 日确认全部 3 起事件,7 月 27 日通知 Irregular 和 3 家受影响机构。已经取得联系的两家机构此前均未发现相关活动,Anthropic 正协助其开展修复,并继续联系第三家机构。

云头条声明:如以上内容有误或侵犯到你公司、机构、单位或个人权益,请联系我们说明理由,我们会配合,无条件删除处理。



特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
中国生产线被拆除之后,美国向印尼放话:我们和日本也没法投资,因为你们的产业不达标,根本不符合要求

中国生产线被拆除之后,美国向印尼放话:我们和日本也没法投资,因为你们的产业不达标,根本不符合要求

人生录
2026-07-31 00:05:13
马筱梅强硬6大声明护大S两子女!警告3日内删光照片:否则提告

马筱梅强硬6大声明护大S两子女!警告3日内删光照片:否则提告

ETtoday星光云
2026-07-31 13:26:02
C罗婚礼请柬曝光:与乔治娜将于8月1日在某庄园举行婚礼,庄园表示不予回应;此前有消息称C罗因世界杯失利推迟婚礼

C罗婚礼请柬曝光:与乔治娜将于8月1日在某庄园举行婚礼,庄园表示不予回应;此前有消息称C罗因世界杯失利推迟婚礼

鲁中晨报
2026-07-30 16:38:19
美参议员班克斯:前科技大亨移居上海,掷2.78亿美元为中共搭建反美抗议网络

美参议员班克斯:前科技大亨移居上海,掷2.78亿美元为中共搭建反美抗议网络

野生运营
2026-07-31 00:05:44
李斌从最惨到最牛!蔚来销量和价格,都已经超越BBA

李斌从最惨到最牛!蔚来销量和价格,都已经超越BBA

象视汽车
2026-07-15 07:00:16
一群小伙赤裸上身吃烧烤,周围站着一堆民警,网友:防范太到位

一群小伙赤裸上身吃烧烤,周围站着一堆民警,网友:防范太到位

映射生活的身影
2026-07-30 20:13:00
印尼付清尾款反手“退货”:48架生产线不要了,韩国军工遭滑铁卢!

印尼付清尾款反手“退货”:48架生产线不要了,韩国军工遭滑铁卢!

菁菁子衿
2026-07-30 09:22:00
1938年,国军上将钱大钧径直闯入军统湖北站,当众枪杀副站长杨若琛,环视在场特务厉声喝道:谁敢告黑状,这就是结局!

1938年,国军上将钱大钧径直闯入军统湖北站,当众枪杀副站长杨若琛,环视在场特务厉声喝道:谁敢告黑状,这就是结局!

唠叨说历史
2026-07-27 17:28:12
7-0大胜!中国足球小将神级进球燃爆全场,血性拼搏震撼人心

7-0大胜!中国足球小将神级进球燃爆全场,血性拼搏震撼人心

林子说事
2026-07-31 02:47:22
月薪数万却每月只花一千,98岁田华的选择,让多少人脸红

月薪数万却每月只花一千,98岁田华的选择,让多少人脸红

风月得自难寻
2026-07-31 10:46:10
16年前,大喊“我爸是李刚”的李启铭,出狱后父母拒绝与其相认

16年前,大喊“我爸是李刚”的李启铭,出狱后父母拒绝与其相认

麦芽是个小趴菜
2026-07-27 02:35:50
《国产凌凌漆》“金枪客”久违露面!75岁状态极佳

《国产凌凌漆》“金枪客”久违露面!75岁状态极佳

陈意小可爱
2026-07-30 16:50:08
TA:哲凯赖什和哈弗茨争首发,维尼修斯可补阿森纳反击软肋

TA:哲凯赖什和哈弗茨争首发,维尼修斯可补阿森纳反击软肋

懂球帝
2026-07-31 16:09:08
贾静雯发文悼念

贾静雯发文悼念

背包旅行
2026-07-30 18:02:23
欧足联抵制!接下来会发生什么?世界杯大幅贬值+FIFA名存实亡

欧足联抵制!接下来会发生什么?世界杯大幅贬值+FIFA名存实亡

全景体育V
2026-07-31 09:42:39
刷到梅西这组度假照,我终于懂了什么叫“人生赢家”的顶级境界

刷到梅西这组度假照,我终于懂了什么叫“人生赢家”的顶级境界

眼界纵横
2026-07-26 11:15:36
小米澎程N90实车到店!很多人都说“丑”,这车到底能不能打?

小米澎程N90实车到店!很多人都说“丑”,这车到底能不能打?

优视汽车
2026-07-30 17:08:37
连续15年场均20分有多难?KD哈登没做到,库里差1年,现役仅一人

连续15年场均20分有多难?KD哈登没做到,库里差1年,现役仅一人

大西体育
2026-07-31 15:25:21
西班牙休达出现大规模移民入境事件,引发欧盟和美国等方面关注,中方:反对任何形式的非法移民活动,各方应当加强协调,妥善处理有关问题

西班牙休达出现大规模移民入境事件,引发欧盟和美国等方面关注,中方:反对任何形式的非法移民活动,各方应当加强协调,妥善处理有关问题

政知新媒体
2026-07-31 15:27:07
离谱?皇马连签5大球星后还赚了1亿欧:卖7人入账2亿 79岁佛爷赢麻

离谱?皇马连签5大球星后还赚了1亿欧:卖7人入账2亿 79岁佛爷赢麻

风过乡
2026-07-31 06:58:40
2026-07-31 16:48:49
云头条 incentive-icons
云头条
引领科技变革,连接技术与商业。
20974文章数 27347关注度
往期回顾 全部

科技要闻

DeepSeek-V4-Flash正式版API上线公测

头条要闻

女童站引擎盖拍照划伤他人汽车 车主:其家属置之不理

头条要闻

女童站引擎盖拍照划伤他人汽车 车主:其家属置之不理

体育要闻

欧足联掀桌!因凡蒂诺这次真玩大了?

娱乐要闻

李小璐澄清夜宿门,被网友质疑想洗白

财经要闻

打新日确认!宇树科技IPO冲刺“冰与火”

汽车要闻

吉利星愿 我们的星愿第二季 圆满收官!

态度原创

亲子
家居
时尚
本地
军事航空

亲子要闻

母亲公开厌恶“女儿40码大脚”,网友:别嘴硬了,你就是重男轻女

家居要闻

2026建博会(广州) 公装联探展交流活动

是谁说想看我最近买的裙子包包手串们?一次性开箱分享!

本地新闻

神仙也“蓉”漂,哪吒与八仙,皆是成都出品!

军事要闻

特朗普称哈马斯将全面解除武装

无障碍浏览 进入关怀版