网易首页 > 网易号 > 正文 申请入驻

又出事了!美国AI巨头宣布旗下大模型失控

0
分享至

据路透社等外媒报道,当地时间7月30日,美国人工智能公司Anthropic发布声明称,该公司发现,其AI模型Claude在隔离测试期间意外具备互联网访问能力,并访问了三家机构的系统。不久前,另一家美国人工智能公司OpenAI也承认,其AI模型在内部安全测试过程中失控,入侵了其他公司的系统。


Anthropic发现其AI模型入侵其他组织的系统 图源:外媒

Anthropic声明称,相关情况是在审查网络安全评估记录时发现的,涉及3个不同模型:Claude Opus 4.7、Claude Mythos 5以及一个内部研究测试模型。三起事件均发生在“夺旗”(Capture the Flag,CTF)演练期间。当时,AI模型被告知测试环境为模拟环境,且无法访问互联网。但由于与评估合作伙伴之间存在沟通误解,测试环境实际上连接到了公共互联网。

声明称:“Claude利用一些简单技术,例如弱密码和未进行身份验证的端点,对受影响机构的基础设施实施了入侵。”Anthropic表示,公司于7月23日暂停所有相关网络安全评估,并于7月24日确认上述三起事件,于7月27日通知受影响机构,但未公布这三家机构的名称。其中两家机构在Anthropic联系前并不知晓相关情况。

7月28日,OpenAI更新发布“AI模型失控入侵”事件调查结果称,包括GPT-5.6 Sol在内的多个AI模型曾入侵运营人工智能开源平台的美国抱抱脸(Hugging Face)公司的系统,并访问了至少4个公开服务平台上的账户。

(环球时报)

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
罕见!马斯克,突发警告!

罕见!马斯克,突发警告!

数据宝
2026-11-22 17:29:51
产业原董事长被带走调查

产业原董事长被带走调查

地产微资讯
2026-11-22 20:00:47
爱惨了!露西娅AI女友走红:玩家砸钱定制太逼真

爱惨了!露西娅AI女友走红:玩家砸钱定制太逼真

游民星空
2026-11-22 11:07:20
事态彻底升级了!北约没想到,普京出手就是狠招,俄罗斯导弹打到波兰,特朗普介入,引发舆论热议!

事态彻底升级了!北约没想到,普京出手就是狠招,俄罗斯导弹打到波兰,特朗普介入,引发舆论热议!

林杰论事
2026-11-22 03:01:27
王菲躺进李嫣怀里自拍,手上鸽子蛋抢镜,婚讯猜测又来了

王菲躺进李嫣怀里自拍,手上鸽子蛋抢镜,婚讯猜测又来了

两只米老鼠
2026-11-22 16:13:39
华福证券发布有色金属研报 稀土价格上行 科达制造周涨8.16%

华福证券发布有色金属研报 稀土价格上行 科达制造周涨8.16%

观点机构
2026-11-22 21:54:26
卯兔:11.22日起三喜接连登门,第二喜最是难得,旁人求都求不到

卯兔:11.22日起三喜接连登门,第二喜最是难得,旁人求都求不到

糖逗在娱乐
2026-11-21 02:09:54
美股遭遇恐慌性抛售 多家华尔街机构认为或只是牛市调整

美股遭遇恐慌性抛售 多家华尔街机构认为或只是牛市调整

财联社
2026-11-22 08:25:02
张檬小五夫妇逛街被偶遇,定居广州住顶级豪宅,出门带两个保姆

张檬小五夫妇逛街被偶遇,定居广州住顶级豪宅,出门带两个保姆

可乐谈情感
2026-11-22 11:43:33
好奇查了一下黄仁勋的出身,不查不知道,一查惊讶了,原来黄仁勋根本不是什么大富豪家庭,而是普通的知识分子家庭。

好奇查了一下黄仁勋的出身,不查不知道,一查惊讶了,原来黄仁勋根本不是什么大富豪家庭,而是普通的知识分子家庭。

回京历史梦
2026-11-15 06:35:06
东风-61洲际导弹列装,引发岛内震动!台专家:敲打美国,管好自己安排在第一岛链上的所谓“看门狗”

东风-61洲际导弹列装,引发岛内震动!台专家:敲打美国,管好自己安排在第一岛链上的所谓“看门狗”

每日经济新闻
2026-11-18 10:28:14
美军中央司令部:伊朗击伤美军F-16战机说法不实

美军中央司令部:伊朗击伤美军F-16战机说法不实

每日经济新闻
2026-11-21 23:46:41
蔡澜:一个家庭,如果做饭不用心,对吃的不讲究,甚至特别舍不得吃,那这个家庭,大概率是没有什么和气、财气与朝气的!

蔡澜:一个家庭,如果做饭不用心,对吃的不讲究,甚至特别舍不得吃,那这个家庭,大概率是没有什么和气、财气与朝气的!

深度知局
2026-10-22 22:14:28
U17世界杯疯狂一夜!国足惨败却等来出线希望

U17世界杯疯狂一夜!国足惨败却等来出线希望

林子说事
2026-11-22 15:25:36
网传电诈园区的办公室标语是:不忘初心砥砺前行感恩奋进,真荒诞啊!

网传电诈园区的办公室标语是:不忘初心砥砺前行感恩奋进,真荒诞啊!

黯泉
2026-11-21 17:27:58
德媒:穆西亚拉周一再次癫痫发作,拜仁担心其病情始终难控制

德媒:穆西亚拉周一再次癫痫发作,拜仁担心其病情始终难控制

懂球帝
2026-11-22 21:09:07
日本夫妻34cm反向身高差引热议!丈夫仅1米38,妻子1米72,丈夫十几年被嘲像“半个人”

日本夫妻34cm反向身高差引热议!丈夫仅1米38,妻子1米72,丈夫十几年被嘲像“半个人”

英国那些事儿
2026-11-21 01:14:34
光刻巨头CEO亲口表态:就算切断光刻机维护服务,中国芯片厂仍能正常运转

光刻巨头CEO亲口表态:就算切断光刻机维护服务,中国芯片厂仍能正常运转

互联鱼
2026-11-22 00:05:36
普京:我们从未发动过任何战争,我们只是在努力结束它

普京:我们从未发动过任何战争,我们只是在努力结束它

福建睿平
2026-11-22 10:03:46
4-0!尤文图斯“冰火两重天”,上半场像渡劫,下半场像“过年”

4-0!尤文图斯“冰火两重天”,上半场像渡劫,下半场像“过年”

汪星人哟
2026-11-22 21:29:29
2026-11-22 22:47:00
北青网-北京青年报 incentive-icons
北青网-北京青年报
北青网官方网易号
1225403文章数 856674关注度
往期回顾 全部

科技要闻

Anthropic收涨17.1%,市值一度破2万亿美元

头条要闻

疑因3年前的投诉男子收到辱骂短信 公司建议报警维权

头条要闻

疑因3年前的投诉男子收到辱骂短信 公司建议报警维权

体育要闻

全场挨打1比4溃败 阿隆索已过保质期?

娱乐要闻

杨颖姐弟烧香被偶遇,清秀少年变粗犷大叔

财经要闻

沪深交易所、中国结算推出一揽子降费措施

汽车要闻

旗舰纯电大六座 2027款岚图泰山将于广州车展预售

态度原创

时尚
亲子
手机
公开课
军事航空

这些才是适合50岁女性的穿搭!衣服不花哨、不老气,得体又自然

亲子要闻

能一步步把孩子带出来的家长,只简单的做到了一件事!

手机要闻

华为Mate70 Air线下上手:体验后,感觉Mate90 Air提升有限!

公开课

李玫瑾:为什么性格比能力更重要?

军事要闻

伊朗革命卫队称袭击美军在巴林两处基地防空雷达

无障碍浏览 进入关怀版