网易首页 > 网易号 > 正文 申请入驻

继OpenAI之后 Anthropic也承认其模型入侵了3家公司的系统

0
分享至

财联社7月31日讯(编辑 马兰)人工智能领军企业Anthropic周四在一份声明中表示,其人工智能模型Claude在测试期间入侵了三个组织的系统。

而在差不多十天前,Anthropic竞争对手OpenAI发布公告称,自己的人工智能恶意攻击了四个服务商的账户,引发了业内外的关注。一些专家警告,人工智能的失控事件反映出模型能力不断扩展后,同步升级的安全风险。

Anthropic公司表示,在网络安全评估期间,由于配置错误,模型能够从本应隔离的测试环境中连接到互联网,Claude因此获得了对系统的未经授权的访问权限。

该公司补充称,其在审查了141006次测试会话后发现了这些事件,这一流程是在OpenAI披露相关信息后启动的。但被入侵的三个组织并未发现此次攻击活动,Anthropic已经与受影响的组织取得了联系。


Anthropic如何看待此类风险?

Anthropic表示,此次事件涉及三个不同的模型:Claude Opus 4.7、Claude Mythos 5和一个内部研究模型。最早的案例可以追溯到4月。

这些攻击发生在所谓的“夺旗”演练期间。在演练中,模型的任务是在模拟网络中查找隐藏信息。Anthropic表示,其提示信息告知模型它们没有互联网访问权限,但由于与评估合作伙伴Irregular之间的误解,导致系统连接到了公共互联网。

Anthropic补充称,他们于7月23日开始审查评估记录,并在发现Claude可能访问过互联网的证据后,于当日暂停了所有网络安全评估。该公司在7月24日之前确认了所有三起事件,并于7月27日通知了受影响的机构。

Anthropic还强调,通过加强监控与管控,并持续投入资源确保人工智能与人类价值观保持一致,这类风险是可以克服的。

尽管Anthropic与其竞争对手OpenAI一样,都极力淡化了模型失控带来的影响,但两家领军公司接连披露此类安全事故足以引发行业警惕,并预示着测试流程方面存在着广泛的挑战。

(财联社 马兰)

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
22.5万起!比亚迪新车官宣:纯电续航850km

22.5万起!比亚迪新车官宣:纯电续航850km

DeepAuto车探
2026-11-17 00:41:23
北京八宝山,数万坟位期满却无人再缴,并非儿孙不孝,实在是家里兜不住了

北京八宝山,数万坟位期满却无人再缴,并非儿孙不孝,实在是家里兜不住了

扶苏聊历史
2026-11-04 18:20:53
最新夺冠概率正式出炉!联盟第一湖人无缘上榜,残阵雷霆位居第二

最新夺冠概率正式出炉!联盟第一湖人无缘上榜,残阵雷霆位居第二

兵哥篮球故事
2026-11-16 13:15:13
深圳一女子点外卖,骑手迟到40分钟还一直看手机,女子透过窗户觉得不对劲,下楼后意外发现骑手的“秘密”

深圳一女子点外卖,骑手迟到40分钟还一直看手机,女子透过窗户觉得不对劲,下楼后意外发现骑手的“秘密”

LULU生活家
2026-11-16 16:56:03
马斯克这次是彻底摊牌了。他在社交平台上公开叫板,直言只要美国政府一句话,他随时乐意签字取消 SpaceX 的所有合同

马斯克这次是彻底摊牌了。他在社交平台上公开叫板,直言只要美国政府一句话,他随时乐意签字取消 SpaceX 的所有合同

扶苏聊历史
2026-11-11 15:56:12
A股:午后突然加速跳水,信号已经非常强烈!周二将有三大变数

A股:午后突然加速跳水,信号已经非常强烈!周二将有三大变数

云鹏叙事
2026-11-16 14:56:33
警惕!MCN杀猪盘套路:专挑女大学生下手,完不成直播任务就逼陪客抵债

警惕!MCN杀猪盘套路:专挑女大学生下手,完不成直播任务就逼陪客抵债

拍案社会
2026-11-15 10:08:36
乾隆为难才子,出上联:鼠无大小皆称老,才子妙对下联成千古绝对

乾隆为难才子,出上联:鼠无大小皆称老,才子妙对下联成千古绝对

千秋文化
2026-08-17 19:54:11
“光模块之父”,塌房了!

“光模块之父”,塌房了!

大财可富司机
2026-11-16 17:15:45
论三大淫妇的饥渴程度:潘金莲初会西门庆,一把将西门庆搂抱放倒

论三大淫妇的饥渴程度:潘金莲初会西门庆,一把将西门庆搂抱放倒

覃仕勇说史
2026-11-13 11:01:08
美论坛曾称:没得到美国的允许,中国为何敢私自研发DUV光刻板?

美论坛曾称:没得到美国的允许,中国为何敢私自研发DUV光刻板?

次元君情感
2026-11-16 17:39:18
河南荥阳一蓝天救援队队员因病离世,年仅46岁,生前累计志愿服务时长5160小时,曾获当地见义勇为模范,救援队负责人:除了多次参与救援,他还曾无偿献血23年

河南荥阳一蓝天救援队队员因病离世,年仅46岁,生前累计志愿服务时长5160小时,曾获当地见义勇为模范,救援队负责人:除了多次参与救援,他还曾无偿献血23年

极目新闻
2026-11-15 19:54:01
皇马的傲慢赌赢了,姆巴佩的舆情热度逐步降温,亚马尔成焦点,中国赞助商仍不敢轻易重启姆巴佩相关宣传

皇马的傲慢赌赢了,姆巴佩的舆情热度逐步降温,亚马尔成焦点,中国赞助商仍不敢轻易重启姆巴佩相关宣传

开成运动会
2026-11-16 22:35:22
中央政法委下死命令!严厉查处这些行为,一起都不放过!

中央政法委下死命令!严厉查处这些行为,一起都不放过!

职场资深秘书
2026-11-13 19:21:02
从月销2万台跌至不足2000台,理想i6经历了什么?

从月销2万台跌至不足2000台,理想i6经历了什么?

座驾参谋
2026-11-16 16:45:23
C罗母亲开炮:葡萄牙输1-4咎由自取!我儿子被欺骗+没得到队友尊重

C罗母亲开炮:葡萄牙输1-4咎由自取!我儿子被欺骗+没得到队友尊重

我爱英超
2026-11-16 23:59:53
幼儿园女老师赌气炒股,亏掉60万后:老公买房同样亏 60 万,凭什么他算投资我算赌?

幼儿园女老师赌气炒股,亏掉60万后:老公买房同样亏 60 万,凭什么他算投资我算赌?

民生故事会
2026-10-19 19:12:52
靴子落地,中美俄将会晤!日本政客狠批高市:特朗普不会正眼看你

靴子落地,中美俄将会晤!日本政客狠批高市:特朗普不会正眼看你

国际法大视野
2026-11-16 10:30:03
分开8年,胡海泉已是音乐学院院长,儿女双全,搭档现状让人唏嘘

分开8年,胡海泉已是音乐学院院长,儿女双全,搭档现状让人唏嘘

往史过眼云烟
2026-11-14 21:59:50
《花少8》嘉宾格格不入?又懒又邋遢就知道吃,殷桃终于说实话

《花少8》嘉宾格格不入?又懒又邋遢就知道吃,殷桃终于说实话

乡野小珥
2026-11-16 02:53:35
2026-11-17 02:47:00
财联社 incentive-icons
财联社
以“准确、快速、权威、专业”为新闻准则,为投资者提供专业的投资资讯。
783031文章数 1023170关注度
往期回顾 全部

科技要闻

硅谷大佬组局,帮黄仁勋杀回来!

头条要闻

中国女子在希腊失踪半年 保险箱发现10万欧元现金

头条要闻

中国女子在希腊失踪半年 保险箱发现10万欧元现金

体育要闻

伪强队?拥4亿豪阵欧国联6连败+世界杯出局

娱乐要闻

陈晓楠对话厉娜和许飞引全网热议

财经要闻

10万人逼宫英伟达,黄仁勋要复职了?

汽车要闻

更豪华更好开 问界新M8细节升级见真章

态度原创

游戏
本地
旅游
公开课
军事航空

小伙表示连玩7天《GTA6》 这下PS5可惨了

本地新闻

乌兰察布:以前种土豆,现在种Token

旅游要闻

秋假遛娃剑门关,全程17000步,6个小时,喜提废腿体验!

公开课

李玫瑾:为什么性格比能力更重要?

军事要闻

美军在中东再成三航母之势

无障碍浏览 进入关怀版