网易首页 > 网易号 > 正文 申请入驻

用Claude模型攻破OpenAI?一技术团队成功入侵OpenAI内部代码系统

0
分享至

财联社9月18日讯(编辑 周子意)一个网络安全研究团队利用Anthropic的Claude模型成功入侵了OpenAI的系统,这凸显了后者在安全方面的漏洞。在此之前,一些全球领先的人工智能公司正面临日益严格的安全审查。

据报道,独立信息安全研究团队Hacktron AI利用Anthropic旗下Claude模型寻找并利用一系列漏洞,成功入侵一名OpenAI员工的ChatGPT帐户,并获得OpenAI内部Monorepo私有代码系统访问权限。

OpenAI的“漏洞赏金计划”

Hacktron AI由顶尖白客及安全研究人员组成,受邀参与OpenAI发布的“漏洞赏金计划”,因此本次入侵测试属于获授权的安全研究。

这些研究人员利用了OpenAI社区论坛配置中的一个漏洞,借此获取了内部登录权限,并最终访问了一名OpenAI员工的ChatGPT账户。该ChatGPT账户拥有通过GitHub访问内部代码的权限。

科技公司通常会通过该计划向“白客”(即出于正当目的进行测试的黑客)支付费用,以检测其系统的安全性。此次,Hacktron AI的三名研究人员获得了OpenAI支付的6500美元报酬,这属于“漏洞赏金”计划的一部分。

OpenAI对此次测试表示。“我们感谢这些研究人员联系我们并分享他们的发现”,并补充称公司已修复相关问题。

安全性担忧

不过,OpenAI被迅速入侵这一事实再次引发了人们对OpenAI安全性的担忧,尤其是在黑客和敌对势力利用强大AI模型进行攻击的隐忧日益加剧的背景下。

近几个月来,美国一直在努力应对如何管理最新AI模型的审查与发布问题,其中包括暂时叫停某些Anthropic工具的使用。

而就在此次事件发生前两周,曾发生过一起引发广泛关注的事件:超过1000个OpenAI智能体(agents)逃离测试环境,入侵了初创公司Hugging Face。这让人们意识到,AI具备在没有人类意图的情况下自主发起攻击的能力。

与此同时,Anthropic近日还发布了一组新数据,显示该实验室在开发新模型时对AI的使用率大幅提升。

数据显示,其26%的研发工作由Claude模型“主导”,而这一比例在3月份仅为1%,这意味着AI在人类指令和监督下完成了大部分任务。该公司表示,随着人工智能系统变得日益强大,它们正“越来越多地被用于构建自身的下一代版本”。

Anthropic还称,分享这些数据是为了帮助公众“了解世界距离实现‘递归自我改进’还有多近”。递归自我改进(RSI)即AI系统以自身改进结果作为输入,不断优化自身能力并修改自身架构,形成自我改进闭环的过程‌

不过也正是这一临界点引发了人们的核心担忧:人工智能系统将变得难以监管,从而导致人类失去控制权。

Anthropic 补充道,在其研究涉及的各项任务中,其模型尚未实现完全自主运行;在90%的任务中,人工智能是与人类“协作”并承担大部分工作量的。

(财联社 周子意)

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
西湖边64㎡两居室13.9万元起拍,产权清晰,无抵押,能直接落户,学区是杭州头部小学,真有人能捡漏吗?中介一句话戳破真相

西湖边64㎡两居室13.9万元起拍,产权清晰,无抵押,能直接落户,学区是杭州头部小学,真有人能捡漏吗?中介一句话戳破真相

都市快报橙柿互动
2026-11-20 09:37:46
入职小米十个月,“天才少女”罗福莉被传出现分歧可能创业

入职小米十个月,“天才少女”罗福莉被传出现分歧可能创业

ZAKER新闻
2026-11-20 12:36:46
3-0、2-0、2-0!U17世界杯第首日:亚洲队集体爆发 中国队爆冷?

3-0、2-0、2-0!U17世界杯第首日:亚洲队集体爆发 中国队爆冷?

大秦壁虎白话体育
2026-11-20 08:16:29
美国下月举办G20峰会期间,是否会举行第二次中俄美三国元首会晤,外交部回应

美国下月举办G20峰会期间,是否会举行第二次中俄美三国元首会晤,外交部回应

政知新媒体
2026-11-20 15:25:01
湖南“淫魔”李金标:10年祸害17名留守妇女,最大已经70岁

湖南“淫魔”李金标:10年祸害17名留守妇女,最大已经70岁

悬疑故事屋
2026-11-20 14:25:26
中国最公平的一件事,是亏钱

中国最公平的一件事,是亏钱

小星球探索
2026-11-20 14:50:05
七万狂跌至两万八!珠海横琴神话破灭,澳门炒客排队断供逃亡

七万狂跌至两万八!珠海横琴神话破灭,澳门炒客排队断供逃亡

珠三角港
2026-11-20 10:44:17
邳州市人大常委会党组成员、四级调研员、邳州市总工会主席张莹接受纪律审查和监察调查

邳州市人大常委会党组成员、四级调研员、邳州市总工会主席张莹接受纪律审查和监察调查

扬子晚报
2026-11-20 15:04:57
泰钽700月销仅68台 别把消费者当傻子了

泰钽700月销仅68台 别把消费者当傻子了

汽车天涯
2026-11-18 15:26:37
APCE上的温情一幕,让人好感动!

APCE上的温情一幕,让人好感动!

低调看天下
2026-11-20 15:46:04
没想到,峰会结束仅1天,中国就因三个“土特产”在全球火出圈

没想到,峰会结束仅1天,中国就因三个“土特产”在全球火出圈

墨兰史书
2026-11-20 22:10:04
《华尔街日报》|马斯克成为中期选举后最新一位向民主党示好的科技大佬

《华尔街日报》|马斯克成为中期选举后最新一位向民主党示好的科技大佬

一半杯
2026-11-20 14:12:41
人民日报点名曹德旺,释放2大信号,转移资产跑路传闻早有真相

人民日报点名曹德旺,释放2大信号,转移资产跑路传闻早有真相

爱看剧的阿峰
2026-11-20 10:41:29
旅行者1号永远停留在了前天!

旅行者1号永远停留在了前天!

故事终将光明磊落
2026-11-20 14:49:55
大家发现没,西班牙和葡萄牙是欧洲最怪的邻居:明明人口5:1,面积5:1,实力也是5:1,为啥西班牙不拿下葡萄牙?

大家发现没,西班牙和葡萄牙是欧洲最怪的邻居:明明人口5:1,面积5:1,实力也是5:1,为啥西班牙不拿下葡萄牙?

言过于诚
2026-11-20 00:01:07
黄仁勋据称将创办新的半导体公司 或将筹资500亿美元用于创业

黄仁勋据称将创办新的半导体公司 或将筹资500亿美元用于创业

财联社
2026-11-20 16:09:05
红果短剧全面下架,彻底失控了

红果短剧全面下架,彻底失控了

李东阳朋友圈
2026-11-20 10:00:35
西班牙U17队5-0中国男足U17队,赛后评分:西班牙10号排第一

西班牙U17队5-0中国男足U17队,赛后评分:西班牙10号排第一

侧身凌空斩
2026-11-20 23:54:16
斯坦丘发文感谢大连英博球迷:希望你们能理解并尊重我的决定

斯坦丘发文感谢大连英博球迷:希望你们能理解并尊重我的决定

懂球帝
2026-11-20 20:36:29
内罗毕恐袭一战封神,一条牛仔裤,为何成特战标配装备

内罗毕恐袭一战封神,一条牛仔裤,为何成特战标配装备

装甲铲史官
2026-11-20 10:35:11
2026-11-21 02:12:49
财联社 incentive-icons
财联社
以“准确、快速、权威、专业”为新闻准则,为投资者提供专业的投资资讯。
784512文章数 1023205关注度
往期回顾 全部

科技要闻

Anthropic收涨17.1%,市值一度破2万亿美元

头条要闻

历时14小时特朗普返回美国 刚下飞机就发布"重大预告"

头条要闻

历时14小时特朗普返回美国 刚下飞机就发布"重大预告"

体育要闻

脚步未停!西班牙摩托车手赤脚徒步入境中国

娱乐要闻

官媒发文 官宣赵丽颖新身份,进步很大

财经要闻

最大回撤超37%,黄金崩盘了吗?

汽车要闻

35万级MPV的满配答案 享界V8正式上市售31.98万起

态度原创

时尚
本地
艺术
亲子
公开课

《后会友期》的癫,还得她们治

本地新闻

43年起落记忆倒计时,去厦门高崎领绝版登机牌!

艺术要闻

2026 研究与超越——中国小幅油画作品双年展 油画选(二)

亲子要闻

为什么儿童烫伤后要立即冲凉水?专家释疑

公开课

李玫瑾:为什么性格比能力更重要?

无障碍浏览 进入关怀版