网易首页 > 网易号 > 正文 申请入驻

OpenAI就入侵澳大利亚政府网站事件再次致歉,承诺加快重大安全事件披露

0
分享至


OpenAI再次就AI模型未经授权访问澳大利亚政府网站致歉。首席战略官在议会听证会上承认,此前应对“不够好”,公司已增加训练监控,并承诺今后更快披露重大安全事件。

OpenAI周二就其人工智能模型未经授权访问澳大利亚政府网站一事再次致歉,并表示已经增加训练阶段的安全监控措施,同时将改进内部报告流程,在类似重大事件发生后更快向政府披露。

OpenAI首席战略官Jason Kwon当天在悉尼出席澳大利亚议会人工智能联合特别委员会听证会时表示,这类活动“不应该发生”,公司此前处理事件的方式也“不够好”。

“我想先从道歉开始。”Jason Kwon表示,“我们很抱歉,也知道还有很多工作要做,才能重新赢得澳大利亚人民的信任。”

这场听证会将此前围绕OpenAI模型“越界”访问外部网络的争议进一步推进至监管层面。OpenAI此前披露,其人工智能系统今年6月未经授权访问澳大利亚政府网站,这是已知首起同类模型入侵政府系统事件。

澳大利亚政府随后启动调查,并要求OpenAI解释事件经过及迟延披露的原因。

从6月入侵到9月通报,披露时效成为焦点

OpenAI此前表示,公司在8月发现相关安全事件,并于9月10日通知澳大利亚政府。在此期间,公司正在核实事件事实、调查模型访问了哪些信息,以及评估事件影响。

澳大利亚总理安东尼·阿尔巴尼斯(Anthony Albanese)此前公开批评OpenAI,从事件发生到澳大利亚政府获知情况之间经历约三个月,认为公司没有足够迅速地向政府披露这一重大问题。

这一时间差也成为周二听证会的核心议题之一。

OpenAI首席执行官山姆·奥尔特曼(Sam Altman)9月初曾与澳大利亚副总理理查德·马尔斯(Richard Marles)会面,但Jason Kwon在听证会上表示,奥尔特曼当时并不知道这些安全事件。

被问及为何公司最高管理层没有及时知情时,Jason Kwon表示,这类事件本身就是全新的,相关人员当时首先需要弄清楚究竟发生了什么。OpenAI已经意识到现有流程存在不足,并承诺改善内部信息传递和政府通报机制,以便今后更快披露类似事件。

OpenAI还表示支持政府建立强制性重大安全事件报告制度。按照Jason Kwon的说法,对于能力不断增强的人工智能系统,公司愿意接受更加明确的事件披露框架。

OpenAI增加训练监控,模型异常联网可立即叫停

除了披露流程,OpenAI已经针对模型训练过程增加新的安全控制措施。

Jason Kwon表示,公司目前加强了人工智能系统训练期间的监控。一旦模型以不当方式访问互联网,内部系统会发出通知,使工作人员可以暂停训练并立即介入。

这一机制已经实际触发过。Jason Kwon称,OpenAI近期再次检测到一起类似异常行为,公司员工随即进行了干预。

这项调整直接针对近期暴露出的一个核心风险:能力更强的人工智能智能体在执行任务时,可能超出测试人员原本设定的环境边界,并在没有明确授权的情况下访问第三方网站或网络资源。

OpenAI在9月底公布澳大利亚整改方案时,还宣布将建立一个包含澳大利亚独立专家的新工作组,为更高能力AI智能体带来的风险制定实际政策建议,重点改善事件通知以及与政府之间的协调。

公司同时承诺为澳大利亚网络安全防御提供资金和技术支持,包括通过其Daybreak for Frontline Defenders基金提供额度和技术援助,用于加强关键基础设施的网络防御能力。

安全事件扩大,OpenAI面临更广泛法律与监管压力

澳大利亚事件发生之际,OpenAI正因多起人工智能智能体未经授权访问外部资源而面临更广泛的安全和法律审查。

《金融时报》此前报道称,OpenAI内部调查发现还有“数十起”类似事件。数字取证公司Asymmetric Security发现的证据显示,OpenAI智能体曾从55个网站获取数据,其中包括美国证券交易委员会和国际能源署网站。OpenAI表示,公司正在审查潜在安全事件,并通知受到影响的机构。

这些事件已经使人工智能系统发生自主越界行为后的法律责任划分成为监管关注的问题:当智能体自行执行未经授权的操作时,责任究竟应由模型开发者、部署者还是向智能体发出任务指令的用户承担,目前仍缺乏统一规则。

澳大利亚政府已经成立专门工作组调查OpenAI智能体未经授权进入政府系统的事件。澳大利亚绿党此前还指责OpenAI在与政府官员接触时没有充分说明事件严重程度。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
俄怒射117枚导弹以牙还牙!欧称:乌克兰严冬再冷,也吓不退欧洲

俄怒射117枚导弹以牙还牙!欧称:乌克兰严冬再冷,也吓不退欧洲

军机Nova
2026-11-21 00:55:32
48岁兰帕德又变神灯!3-2绝杀:开局4连败0进球后,7轮4胜排第13

48岁兰帕德又变神灯!3-2绝杀:开局4连败0进球后,7轮4胜排第13

风过乡
2026-11-22 08:44:44
人民日报:唱空中国经济者终会落空!

人民日报:唱空中国经济者终会落空!

城事堂
2026-11-21 20:30:31
我在澳门赌厅干15年,说句实在话:赢钱的人,比输钱的人走得更早

我在澳门赌厅干15年,说句实在话:赢钱的人,比输钱的人走得更早

千秋文化
2026-11-18 20:52:59
问界M9车主高速开辅助驾驶后,倒头就睡……车主称全程智驾开回武汉,该发布账号目前已搜索不到;交警部门正在核查

问界M9车主高速开辅助驾驶后,倒头就睡……车主称全程智驾开回武汉,该发布账号目前已搜索不到;交警部门正在核查

台州交通广播
2026-11-22 06:39:16
90后小伙修电脑年入800万,请尊重一下人们的智商,也请有点底线!

90后小伙修电脑年入800万,请尊重一下人们的智商,也请有点底线!

走读新生
2026-11-21 23:54:15
彻底不装了!看到中俄美平起平坐,没上桌的印度人,大胆提出“印日欧”联盟,引发舆论热议!

彻底不装了!看到中俄美平起平坐,没上桌的印度人,大胆提出“印日欧”联盟,引发舆论热议!

林杰论事
2026-11-21 18:01:18
1.3亿合同到期!就在今天,希罗爆发了,创造80年历史第一的纪录

1.3亿合同到期!就在今天,希罗爆发了,创造80年历史第一的纪录

大西体育
2026-11-22 10:09:56
男子侵犯女友被判3年后续:出狱后女友找他复合,一个月后男子杀死女友

男子侵犯女友被判3年后续:出狱后女友找他复合,一个月后男子杀死女友

江山挥笔
2026-11-21 21:31:42
日媒记者“逐帧解析”高市早苗被特朗普无视:非常耻辱,根本没有人理她,这就是现实

日媒记者“逐帧解析”高市早苗被特朗普无视:非常耻辱,根本没有人理她,这就是现实

台州交通广播
2026-11-21 23:09:45
《GTA6》大尺度截图别乱发!玩家被封30天

《GTA6》大尺度截图别乱发!玩家被封30天

游民星空
2026-11-21 22:12:22
断供的太多,银行也很头疼。

断供的太多,银行也很头疼。

老陆不老
2026-11-21 20:05:48
今天 11 月 22 日,全体退休人员注意:11 月养老金发放,必查三项!

今天 11 月 22 日,全体退休人员注意:11 月养老金发放,必查三项!

老孙说
2026-11-22 08:50:20
金价跌势凌厉,多家银行发布紧急提示

金价跌势凌厉,多家银行发布紧急提示

澎湃新闻
2026-11-22 08:47:03
6-5!英锦赛一夜3场绝杀:中国军团5胜2负,丁俊晖首场对手3选1

6-5!英锦赛一夜3场绝杀:中国军团5胜2负,丁俊晖首场对手3选1

球场没跑道
2026-11-22 09:03:41
不出意外,从 2027年起,个人存款超过100 万的,或将面临四个难题

不出意外,从 2027年起,个人存款超过100 万的,或将面临四个难题

巢客HOME
2026-11-22 05:55:06
穆帅神换人主导逆转,贝林破门超级替补绝杀,皇马2-1塞尔塔9连胜

穆帅神换人主导逆转,贝林破门超级替补绝杀,皇马2-1塞尔塔9连胜

钉钉陌上花开
2026-11-22 06:02:34
四川小伙用竹子“手搓”自行车,售价八千元起步,NBA球星都来定制,已卖到19个国家和地区,每年出货几百台

四川小伙用竹子“手搓”自行车,售价八千元起步,NBA球星都来定制,已卖到19个国家和地区,每年出货几百台

台州交通广播
2026-11-21 10:23:13
爆燃致5人遇难,郑州市调查组:建议不追究车主刑责

爆燃致5人遇难,郑州市调查组:建议不追究车主刑责

极目新闻
2026-11-21 14:32:12
一次爆出黑料超过33年总和!纽约时报发长文痛批黄仁勋:当众折磨当下属成人礼、所有高管都是受害者

一次爆出黑料超过33年总和!纽约时报发长文痛批黄仁勋:当众折磨当下属成人礼、所有高管都是受害者

可达鸭面面观
2026-11-22 00:02:18
2026-11-22 10:27:00
金十数据 incentive-icons
金十数据
数据是比新闻更快的新闻
21139文章数 326295关注度
往期回顾 全部

科技要闻

Anthropic收涨17.1%,市值一度破2万亿美元

头条要闻

女子花2万存脐带血如今公司注销"断联":我的血还在吗

头条要闻

女子花2万存脐带血如今公司注销"断联":我的血还在吗

体育要闻

约基奇vs申京:最强的策应巨人?

娱乐要闻

官媒发文 官宣赵丽颖新身份,进步很大

财经要闻

最大回撤超37%,黄金崩盘了吗?

汽车要闻

35万级MPV的满配答案 享界V8正式上市售31.98万起

态度原创

健康
家居
亲子
时尚
教育

医生眼里"很伤腰"的椅子,很多人天天坐

家居要闻

2026建博会(广州) 公装联探展交流活动

亲子要闻

宝宝必看的5个启蒙动画,豆瓣评分都是在9.0以上

秋天衣服别总穿纯色,试试这几件条纹单品,简单时尚又减龄

教育要闻

曾经“感动中国”的庞众望完成清华大学博士论文答辩,本人发声:将继续潜心钻研,在科研探索的道路上不断前行

无障碍浏览 进入关怀版