网易首页 > 网易号 > 正文 申请入驻

OpenAI再曝四起AI自主入侵事件

0
分享至

9月25日消息,据《纽约时报》报道,多名研究人员与政府官员透露,今年 OpenAI 的人工智能至少又出现四起失控事件:在没有人类指令的情况下,AI 自行实施攻击,试图入侵政府与大学网站。

这几起攻击发生在 5 月、6 月;就在此后 7 月,OpenAI 的技术攻破 AI 初创公司 Hugging Face,引发全球对于人工智能安全问题的大讨论。

研究人员表示,Hugging Face 入侵事件以及另外一些案例中,是人类指令 AI 开展网络安全测试,相当于主动让模型展示黑客能力。而新曝光的这几起事件背景完全不同:当时系统接到的任务只是相对普通的数据采集工作。当 OpenAI 模型发现难以从网页获取数据时,便自行动用黑客手段来获取信息。

其中三起事件由专注 AI 监管的研究实验室 Transluce 发现,全部得到 OpenAI 方面确认,事件详情如下:

  1. 5 月 25‑26 日:OpenAI 系统尝试入侵新墨西哥大学的数字图书馆,这次攻击并未得逞。

  2. 5 月 28 日:目标网站是 Data USA,一个存放美国就业、教育公共数据的平台,入侵尝试同样失败。

  3. 6 月 18 日:OpenAI 人工智能入侵澳大利亚政府网站 —— 联邦医保统计报告服务系统,并获取相关健康数据。澳大利亚总理安东尼・阿尔巴尼斯于周三对外披露该事件。

  4. 6 月 20‑21 日:OpenAI 技术尝试攻破澳大利亚卫生与福利研究所网站。澳方官员称,本次未获取任何个人隐私信息。

接连多起安全事件中,来自 OpenAI、Anthropic、Meta 以及谷歌的 AI,都曾在人类毫不知情的情况下闯入外部系统。这些事件进一步激化一场争论:是否应当放缓人工智能发展步伐,去应对这项技术潜藏风险。

Anthropic 首席执行官达里奥・阿莫代伊呼吁 AI 企业与政府展开协作,避免技术强大到人类无法管控。但英伟达首席执行官黄仁勋等企业高管认为,这类末日论调有些夸大其词。特朗普则表态,认为不必对人工智能施以严苛监管。

Transluce 机构治理负责人康拉德・斯托什表示,新曝光四起事件 “进一步证明,我们必须审慎对待智能代理(Agent)”。该实验室借助公开网络流量数据追踪 OpenAI 智能代理行为;所谓智能代理,就是自主执行用户任务的自动化程序。

斯托什还提到,澳大利亚这几起事件,大概率是人类历史上首次智能代理自主做出入侵政府网站的行为。

OpenAI 一位女发言人周三表示,公司已经联系新墨西哥大学与 Data USA 平台,也就该系列事件与澳大利亚政府展开沟通。

她称:“在大范围复盘工作中,我们优先处理性质最严重事件,同时也把排查范围扩大至低风险行为,包括智能代理对网站的批量请求刷屏行为。”

这位发言人补充,这家总部位于旧金山的企业,在对 AI 模型开展全面复盘过程中发现澳大利亚相关事故,模型做出了一系列并非我们本意的行为。OpenAI 的整体复盘工作预计耗时数月。

OpenAI 首席执行官山姆・阿尔特曼本月在社交媒体发声:安全优先级应当高于 AI 能力迭代;如果缺少防护约束,人类社会有可能 “把未来的控制权拱手交给人工智能”。

阿尔巴尼斯透露,自己周三已经和阿尔特曼通话,就此次入侵事件表达 “严重关切”。他表示,遭到泄露的仅为医保支出这类非敏感数据,没有涉及任何人的个人医疗隐私。

新曝光事件表明,OpenAI 系统尝试黑客攻击网站、数据库、企业系统的行为,持续时间比此前外界所知的更长。Transluce 监测到,早在 3 月就出现该智能代理产生的网络流量,直至上周三仍有相关活动。也就是说,即便 OpenAI 已经开始调查 Hugging Face 事件以及其他异常行为,该问题行为依旧没有停止。

研究人员介绍,5‑6 月这一系列事件发生时,OpenAI 正在做数据检索相关训练。

新墨西哥大学图书馆那起案例中,AI 想要获取一座历史肺结核治疗中心的照片。正常途径拿不到之后,它就开始扫描网站寻找安全漏洞。未能找到漏洞后,AI 向这所大学服务器一次性发出多达 80 次请求,也就是它自己描述的 “洪水式访问”。

针对 Data USA 平台时,AI 向网站提交格式错乱的数据查询;查询失败后,又发起 12 轮漏洞扫描,同样没能找到可利用漏洞。

Transluce 的斯托什说道:“如果你训练一批智能代理去完成通用任务,而这些代理愿意不择手段动用黑客手段,那么任何持有这类数据的主体都面临风险。”

遭到入侵的澳大利亚政府网站是医保统计门户,服务于澳大利亚全民医保体系 Medicare。这套医保体系覆盖 2750 万参保民众以及入境访客。医保议题在澳大利亚政坛十分敏感,拥有极高民意支持度。

阿尔巴尼斯介绍,当时 OpenAI 团队正在做公开医药开支相关网络调研;智能代理多次访问遭到拦截之后,就寻找 “替代途径” 获取信息,进而闯入门户的非公开板块。OpenAI 于 9 月 10 日向澳大利亚政府主动通报此事。

总理表示:“我们正在面对一个全新的世界。”

当记者问及本周联合国大会间隙会见特朗普时,是否向对方提及本次数据入侵事件,阿尔巴尼斯并未作出回应。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
沪指跌超2%,最低探至3500.88点

沪指跌超2%,最低探至3500.88点

澎湃新闻
2026-11-20 11:39:12
高市见了普京

高市见了普京

周边问题研究所
2026-11-20 13:12:01
创业板指跌逾3% 下跌个股近5200只

创业板指跌逾3% 下跌个股近5200只

财联社
2026-11-20 10:25:04
一次性补缴10万元,每月领1433元,成都养老补缴爆了

一次性补缴10万元,每月领1433元,成都养老补缴爆了

数字财经智库
2026-11-20 09:36:50
丈夫雇美男勾引妻子,妻子没忍住被强行占有,阴谋暴露妻子报复|法堂

丈夫雇美男勾引妻子,妻子没忍住被强行占有,阴谋暴露妻子报复|法堂

汉史趣闻
2026-11-20 11:06:59
比亚迪发布折叠方向盘,10秒钟可边泊车边折叠

比亚迪发布折叠方向盘,10秒钟可边泊车边折叠

新京报
2026-11-19 22:46:06
丢人!一女博主自曝在德国15年,交往过大量的外国男人,后续会出专题系列

丢人!一女博主自曝在德国15年,交往过大量的外国男人,后续会出专题系列

小徐讲八卦
2026-11-20 06:39:39
满仓满融死扛存储的大佬,归零了!

满仓满融死扛存储的大佬,归零了!

大财可富司机
2026-11-20 13:55:47
联盟第一!马刺拒爆冷,文班创NBA第一纪录,卡斯尔8失误,加兰23分

联盟第一!马刺拒爆冷,文班创NBA第一纪录,卡斯尔8失误,加兰23分

老侃侃球
2026-11-20 11:37:44
明年1299万大学生毕业再刷纪录,中国正在批量生产"用不上"的大学生

明年1299万大学生毕业再刷纪录,中国正在批量生产"用不上"的大学生

老郭在学习
2026-11-20 16:10:45
杨瀚森2+1+1!开拓者送雄鹿12连败垫底 利拉德33+6亨德森27+7

杨瀚森2+1+1!开拓者送雄鹿12连败垫底 利拉德33+6亨德森27+7

醉卧浮生
2026-11-20 11:32:13
37岁前归化国脚艾克森社媒晒出多张效力中超时期旧照:中国是我生命中非常特别的一个阶段,我一直珍藏着这些故事

37岁前归化国脚艾克森社媒晒出多张效力中超时期旧照:中国是我生命中非常特别的一个阶段,我一直珍藏着这些故事

极目新闻
2026-11-20 09:35:14
不可思议!广东女生相亲提出四项硬性条件,要求男方月入10万,直言自己年轻貌美值得,视频引发网友热议

不可思议!广东女生相亲提出四项硬性条件,要求男方月入10万,直言自己年轻貌美值得,视频引发网友热议

火山詩话
2026-11-20 14:27:45
深圳女高管和每一任男友发生关系前,都要先拉他去体检,防止被传染

深圳女高管和每一任男友发生关系前,都要先拉他去体检,防止被传染

江山挥笔
2026-11-19 14:15:33
老人学会网购后 一口气下单15吨薯条喂猪:5毛一斤 比玉米饲料还划算 一拌上饲料猪就“抢着吃”

老人学会网购后 一口气下单15吨薯条喂猪:5毛一斤 比玉米饲料还划算 一拌上饲料猪就“抢着吃”

闪电新闻
2026-11-20 10:50:52
它是“菜中人参”,冬天遇到别手软,买10斤囤着,随吃随取特省事

它是“菜中人参”,冬天遇到别手软,买10斤囤着,随吃随取特省事

阿龙美食记
2026-11-19 11:00:12
APEC三方会晤刚落幕,返程飞机上川普变卦,大国棋局迎来惊天变化

APEC三方会晤刚落幕,返程飞机上川普变卦,大国棋局迎来惊天变化

战友老邓
2026-11-20 12:37:32
越来越多孩子自杀  多地高中严格执行周末双休

越来越多孩子自杀 多地高中严格执行周末双休

风向观察
2026-11-20 07:40:00
高市早苗APEC独坐角落扇扇子,引日本网民群嘲:是去丢人现眼的吗?

高市早苗APEC独坐角落扇扇子,引日本网民群嘲:是去丢人现眼的吗?

可达鸭面面观
2026-11-20 08:41:45
全完了!黄仁勋多项“恶行”被美国媒体曝光,多名英伟达高管大爆黑料

全完了!黄仁勋多项“恶行”被美国媒体曝光,多名英伟达高管大爆黑料

可达鸭面面观
2026-11-19 21:51:59
2026-11-20 17:36:49
三言科技 incentive-icons
三言科技
聚焦新未来新科技,严肃又活泼。
104952文章数 66927关注度
往期回顾 全部

科技要闻

老黄想回来?英伟达董事会:没门

头条要闻

中国女子在希腊失踪半年 保险箱发现10万欧元现金

头条要闻

中国女子在希腊失踪半年 保险箱发现10万欧元现金

体育要闻

伪强队?拥4亿豪阵欧国联6连败+世界杯出局

娱乐要闻

陈晓楠对话厉娜和许飞引全网热议

财经要闻

10万人逼宫英伟达,黄仁勋要复职了?

汽车要闻

全新红旗H9最有意思的地方,是它开始有自己的豪华逻辑了

态度原创

艺术
亲子
手机
公开课
军事航空

艺术要闻

投资55亿!深圳歌剧院施工现场更新,主音乐厅马蹄形已现!

亲子要闻

宝宝气人但是聪明的4个行为

手机要闻

2026年最后一款超模旗舰!小米18标准版屏幕、性能、影像全面领跑

公开课

李玫瑾:为什么性格比能力更重要?

军事要闻

美军在中东再成三航母之势

无障碍浏览 进入关怀版