网易首页 > 网易号 > 正文 申请入驻

用Claude模型攻破OpenAI?一技术团队成功入侵OpenAI内部代码系统

0
分享至

财联社9月18日讯(编辑 周子意)一个网络安全研究团队利用Anthropic的Claude模型成功入侵了OpenAI的系统,这凸显了后者在安全方面的漏洞。在此之前,一些全球领先的人工智能公司正面临日益严格的安全审查。

据报道,独立信息安全研究团队Hacktron AI利用Anthropic旗下Claude模型寻找并利用一系列漏洞,成功入侵一名OpenAI员工的ChatGPT帐户,并获得OpenAI内部Monorepo私有代码系统访问权限。

OpenAI的“漏洞赏金计划”

Hacktron AI由顶尖白客及安全研究人员组成,受邀参与OpenAI发布的“漏洞赏金计划”,因此本次入侵测试属于获授权的安全研究。

这些研究人员利用了OpenAI社区论坛配置中的一个漏洞,借此获取了内部登录权限,并最终访问了一名OpenAI员工的ChatGPT账户。该ChatGPT账户拥有通过GitHub访问内部代码的权限。

科技公司通常会通过该计划向“白客”(即出于正当目的进行测试的黑客)支付费用,以检测其系统的安全性。此次,Hacktron AI的三名研究人员获得了OpenAI支付的6500美元报酬,这属于“漏洞赏金”计划的一部分。

OpenAI对此次测试表示。“我们感谢这些研究人员联系我们并分享他们的发现”,并补充称公司已修复相关问题。

安全性担忧

不过,OpenAI被迅速入侵这一事实再次引发了人们对OpenAI安全性的担忧,尤其是在黑客和敌对势力利用强大AI模型进行攻击的隐忧日益加剧的背景下。

近几个月来,美国一直在努力应对如何管理最新AI模型的审查与发布问题,其中包括暂时叫停某些Anthropic工具的使用。

而就在此次事件发生前两周,曾发生过一起引发广泛关注的事件:超过1000个OpenAI智能体(agents)逃离测试环境,入侵了初创公司Hugging Face。这让人们意识到,AI具备在没有人类意图的情况下自主发起攻击的能力。

与此同时,Anthropic近日还发布了一组新数据,显示该实验室在开发新模型时对AI的使用率大幅提升。

数据显示,其26%的研发工作由Claude模型“主导”,而这一比例在3月份仅为1%,这意味着AI在人类指令和监督下完成了大部分任务。该公司表示,随着人工智能系统变得日益强大,它们正“越来越多地被用于构建自身的下一代版本”。

Anthropic还称,分享这些数据是为了帮助公众“了解世界距离实现‘递归自我改进’还有多近”。递归自我改进(RSI)即AI系统以自身改进结果作为输入,不断优化自身能力并修改自身架构,形成自我改进闭环的过程‌

不过也正是这一临界点引发了人们的核心担忧:人工智能系统将变得难以监管,从而导致人类失去控制权。

Anthropic 补充道,在其研究涉及的各项任务中,其模型尚未实现完全自主运行;在90%的任务中,人工智能是与人类“协作”并承担大部分工作量的。

(财联社 周子意)

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
《伟大的长征》的三个遗憾:没有出现的人,缺失的诗词,湮没的军团

《伟大的长征》的三个遗憾:没有出现的人,缺失的诗词,湮没的军团

北方丽人读书观史
2026-11-20 21:44:47
连炸400台火车头,俄军终于下狠手了,要彻底瘫痪乌克兰命脉

连炸400台火车头,俄军终于下狠手了,要彻底瘫痪乌克兰命脉

麓谷隐士
2026-11-18 00:05:04
CBA杯16强定4席!天津坐收渔利直通,广州击败香港拿够净胜分

CBA杯16强定4席!天津坐收渔利直通,广州击败香港拿够净胜分

乒桢泳球
2026-11-20 17:53:57
主要股指均已全面进入熊市

主要股指均已全面进入熊市

边际财经实验室
2026-11-20 20:07:15
中俄美会晤刚结束!普京当众表态:俄愿意妥协,僵局卡在乌克兰?

中俄美会晤刚结束!普京当众表态:俄愿意妥协,僵局卡在乌克兰?

桃叶渡春
2026-11-20 20:58:33
中国籍28岁女子东京街头驾车撞死74岁日本老太,被捕后称:人确实是我撞的,因为没注意到

中国籍28岁女子东京街头驾车撞死74岁日本老太,被捕后称:人确实是我撞的,因为没注意到

东京新青年
2026-11-19 18:38:08
太真实!广东网友晒11月20日朋友圈:股、金、房价齐跌,有人崩溃直呼“要跳楼”

太真实!广东网友晒11月20日朋友圈:股、金、房价齐跌,有人崩溃直呼“要跳楼”

火山詩话
2026-11-20 20:54:10
CBA杯赛最新排名!A组北京第1,C组辽宁第2,D组广东第1山东第2

CBA杯赛最新排名!A组北京第1,C组辽宁第2,D组广东第1山东第2

老吴说体育
2026-11-20 09:27:43
白宫发布特朗普访华视频,中国仪仗队再次出圈,特朗普曾多次大赞“叹为观止”

白宫发布特朗普访华视频,中国仪仗队再次出圈,特朗普曾多次大赞“叹为观止”

极目新闻
2026-11-19 09:25:11
特朗普:理解普京对基辅袭击克里米亚大桥的愤怒

特朗普:理解普京对基辅袭击克里米亚大桥的愤怒

参考消息
2026-11-20 11:37:30
碾压姆巴佩!皇马隐藏真核才是世界第一!穆里尼奥捡到宝

碾压姆巴佩!皇马隐藏真核才是世界第一!穆里尼奥捡到宝

澜归序
2026-11-20 09:37:45
比燃油车销量下滑还恐怖的是:中国正在失控的汽车价格战持续升级

比燃油车销量下滑还恐怖的是:中国正在失控的汽车价格战持续升级

铭记历史呀
2026-11-20 00:38:11
英伟达全员大会细节曝光!联合创始人:黄仁勋背叛公司价值观!

英伟达全员大会细节曝光!联合创始人:黄仁勋背叛公司价值观!

芯智讯
2026-11-20 22:57:02
APEC全家福惊现"最不受欢迎的人",零会晤背后藏着什么?

APEC全家福惊现"最不受欢迎的人",零会晤背后藏着什么?

三周檀的鲲
2026-11-19 19:55:46
反转!母亲证实雅典娜没死,潮汕商会曝猛料,网友:没了比活着好

反转!母亲证实雅典娜没死,潮汕商会曝猛料,网友:没了比活着好

阿纂看事
2026-08-13 09:16:42
美媒曝黄仁勋无法复职真正原因:不是出轨,只因其女儿黄敏珊!

美媒曝黄仁勋无法复职真正原因:不是出轨,只因其女儿黄敏珊!

玖宇维
2026-11-19 21:02:26
赵本山《慌啥子嘛》走红,胡锡进评论:社会发展好不会成为主旋律

赵本山《慌啥子嘛》走红,胡锡进评论:社会发展好不会成为主旋律

闻识
2026-11-20 00:51:22
富国基金总经理陈戈:年内A股整体估值继续大幅回落的概率不高

富国基金总经理陈戈:年内A股整体估值继续大幅回落的概率不高

贝壳财经
2026-11-20 14:40:02
GTA6首位韩流女歌手!被批太低俗 含跪下吞下等字眼

GTA6首位韩流女歌手!被批太低俗 含跪下吞下等字眼

游民星空
2026-11-20 17:10:26
陈伟霆儿子近照曝光!何穗晒小win走路画面好温馨

陈伟霆儿子近照曝光!何穗晒小win走路画面好温馨

阿废冷眼观察所
2026-11-20 06:49:22
2026-11-20 23:40:49
财联社 incentive-icons
财联社
以“准确、快速、权威、专业”为新闻准则,为投资者提供专业的投资资讯。
784512文章数 1023205关注度
往期回顾 全部

科技要闻

老黄想回来?英伟达董事会:没门

头条要闻

中国女子在希腊失踪半年 保险箱发现10万欧元现金

头条要闻

中国女子在希腊失踪半年 保险箱发现10万欧元现金

体育要闻

伪强队?拥4亿豪阵欧国联6连败+世界杯出局

娱乐要闻

陈晓楠对话厉娜和许飞引全网热议

财经要闻

10万人逼宫英伟达,黄仁勋要复职了?

汽车要闻

全新红旗H9最有意思的地方,是它开始有自己的豪华逻辑了

态度原创

手机
教育
家居
时尚
健康

手机要闻

2026年最后一款超模旗舰!小米18标准版屏幕、性能、影像全面领跑

教育要闻

济南市历下区燕山小学教育集团将出席2026第四届课博会,解码“做中学”视域下小学科学教育生态构建

家居要闻

2026建博会(广州) 公装联探展交流活动

秋天衣服别总穿纯色,试试这几件条纹单品,简单时尚又减龄

医生眼里"很伤腰"的椅子,很多人天天坐

无障碍浏览 进入关怀版