网易首页 > 网易号 > 正文 申请入驻

沙盒失守!AI智能体接连失控,OpenAI再次叫停前沿模型开发

0
分享至

OpenAI对外表示,已暂停其最新一代人工智能模型的训练、评估,以及支持工具调用的推理工作,起因是内部测试中的AI智能体突破沙盒网络限制,触发安全预警,公司将借此机会升级安全隔离与对齐监控体系。

这也是OpenAI三个月内第二次叫停前沿模型开发工作。该公司在声明中表示,只有在完成额外安全防护升级、确认风险可控后,才会重启模型训练工作,同时称,随着模型能力持续增强,未来仍有可能再次触发类似的暂停操作。

OpenAI在9月25日发布技术报告披露了这一安全事件:9月20日,一个正在沙盒内执行搜索任务的AI智能体,利用沙盒DNS过滤漏洞突破网络隔离,访问外部公共聊天机器人服务。

沙盒是专门用来测试未上线AI模型的隔离数字环境,设计目标是和互联网做隔离,限制模型随意访问外部网络、执行高危操作,方便研究人员在受控条件下观察模型行为,提前发现模型越权、失控等安全风险。本次事件中,AI智能体利用DNS漏洞突破了沙盒的网络隔离,也就是俗称的“沙盒逃逸”。

OpenAI称其对齐监控系统在事件发生15分钟内即触发警报,人工审查团队在3分钟后介入,并在2.5小时后终止了该训练任务。针对漏洞,OpenAI已在两个独立防护层部署了拦截控制措施。

此前7月,OpenAI的AI智能体曾在安全评估测试中突破隔离环境,访问Hugging Face平台。

不止OpenAI,多家头部AI企业近期均曝光过模型失控、擅自访问甚至攻击外部网站的异常案例。

当智能体突破了原本互相隔离的运行环境建立通信、欺骗评估人员并试图掩盖作弊行为,且每一步操作均无人类指令干预,人类开始担忧人工智能安全和监管的可靠性。

这正是当前硅谷“AI减速”论战的背景。Anthropic CEO阿莫代伊、OpenAI CEO奥尔特曼,以及马斯克罕见同声呼吁为前沿AI开发“减速”。其中,阿莫代伊首提管控前沿AI的推进节奏,以及将模型交由第三方评估机构核验安全能力;奥尔特曼表示同意引入拥有员工级访问权限的独立第三方安全评估人员;有着“AI教母”之称的斯坦福大学教授李飞飞呼吁,AI技术应当接受独立机构及公共部门的进一步监督。

而黄仁勋、扎克伯格则坚称AI发展无需集体踩刹车……扎克伯格表示,单个AI企业可自行以适当的速度来训练模型,各实验室应自主落实安全举措、平衡算力用途。

这场关于人类是否该放缓AI前沿研究的争论,不止是一场科技反思,更是关于谁有权定义安全、谁有资格制定规则的权力博弈。

来源:财联社

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
俄怒射117枚导弹以牙还牙!欧称:乌克兰严冬再冷,也吓不退欧洲

俄怒射117枚导弹以牙还牙!欧称:乌克兰严冬再冷,也吓不退欧洲

军机Nova
2026-11-21 00:55:32
48岁兰帕德又变神灯!3-2绝杀:开局4连败0进球后,7轮4胜排第13

48岁兰帕德又变神灯!3-2绝杀:开局4连败0进球后,7轮4胜排第13

风过乡
2026-11-22 08:44:44
人民日报:唱空中国经济者终会落空!

人民日报:唱空中国经济者终会落空!

城事堂
2026-11-21 20:30:31
我在澳门赌厅干15年,说句实在话:赢钱的人,比输钱的人走得更早

我在澳门赌厅干15年,说句实在话:赢钱的人,比输钱的人走得更早

千秋文化
2026-11-18 20:52:59
问界M9车主高速开辅助驾驶后,倒头就睡……车主称全程智驾开回武汉,该发布账号目前已搜索不到;交警部门正在核查

问界M9车主高速开辅助驾驶后,倒头就睡……车主称全程智驾开回武汉,该发布账号目前已搜索不到;交警部门正在核查

台州交通广播
2026-11-22 06:39:16
90后小伙修电脑年入800万,请尊重一下人们的智商,也请有点底线!

90后小伙修电脑年入800万,请尊重一下人们的智商,也请有点底线!

走读新生
2026-11-21 23:54:15
彻底不装了!看到中俄美平起平坐,没上桌的印度人,大胆提出“印日欧”联盟,引发舆论热议!

彻底不装了!看到中俄美平起平坐,没上桌的印度人,大胆提出“印日欧”联盟,引发舆论热议!

林杰论事
2026-11-21 18:01:18
1.3亿合同到期!就在今天,希罗爆发了,创造80年历史第一的纪录

1.3亿合同到期!就在今天,希罗爆发了,创造80年历史第一的纪录

大西体育
2026-11-22 10:09:56
男子侵犯女友被判3年后续:出狱后女友找他复合,一个月后男子杀死女友

男子侵犯女友被判3年后续:出狱后女友找他复合,一个月后男子杀死女友

江山挥笔
2026-11-21 21:31:42
日媒记者“逐帧解析”高市早苗被特朗普无视:非常耻辱,根本没有人理她,这就是现实

日媒记者“逐帧解析”高市早苗被特朗普无视:非常耻辱,根本没有人理她,这就是现实

台州交通广播
2026-11-21 23:09:45
《GTA6》大尺度截图别乱发!玩家被封30天

《GTA6》大尺度截图别乱发!玩家被封30天

游民星空
2026-11-21 22:12:22
断供的太多,银行也很头疼。

断供的太多,银行也很头疼。

老陆不老
2026-11-21 20:05:48
今天 11 月 22 日,全体退休人员注意:11 月养老金发放,必查三项!

今天 11 月 22 日,全体退休人员注意:11 月养老金发放,必查三项!

老孙说
2026-11-22 08:50:20
金价跌势凌厉,多家银行发布紧急提示

金价跌势凌厉,多家银行发布紧急提示

澎湃新闻
2026-11-22 08:47:03
6-5!英锦赛一夜3场绝杀:中国军团5胜2负,丁俊晖首场对手3选1

6-5!英锦赛一夜3场绝杀:中国军团5胜2负,丁俊晖首场对手3选1

球场没跑道
2026-11-22 09:03:41
不出意外,从 2027年起,个人存款超过100 万的,或将面临四个难题

不出意外,从 2027年起,个人存款超过100 万的,或将面临四个难题

巢客HOME
2026-11-22 05:55:06
穆帅神换人主导逆转,贝林破门超级替补绝杀,皇马2-1塞尔塔9连胜

穆帅神换人主导逆转,贝林破门超级替补绝杀,皇马2-1塞尔塔9连胜

钉钉陌上花开
2026-11-22 06:02:34
四川小伙用竹子“手搓”自行车,售价八千元起步,NBA球星都来定制,已卖到19个国家和地区,每年出货几百台

四川小伙用竹子“手搓”自行车,售价八千元起步,NBA球星都来定制,已卖到19个国家和地区,每年出货几百台

台州交通广播
2026-11-21 10:23:13
爆燃致5人遇难,郑州市调查组:建议不追究车主刑责

爆燃致5人遇难,郑州市调查组:建议不追究车主刑责

极目新闻
2026-11-21 14:32:12
一次爆出黑料超过33年总和!纽约时报发长文痛批黄仁勋:当众折磨当下属成人礼、所有高管都是受害者

一次爆出黑料超过33年总和!纽约时报发长文痛批黄仁勋:当众折磨当下属成人礼、所有高管都是受害者

可达鸭面面观
2026-11-22 00:02:18
2026-11-22 10:27:00
凤凰网财经 incentive-icons
凤凰网财经
离用户最近的财经媒体!
8402文章数 10447关注度
往期回顾 全部

科技要闻

Anthropic收涨17.1%,市值一度破2万亿美元

头条要闻

女子花2万存脐带血如今公司注销"断联":我的血还在吗

头条要闻

女子花2万存脐带血如今公司注销"断联":我的血还在吗

体育要闻

约基奇vs申京:最强的策应巨人?

娱乐要闻

港姐季军吴文忻去世,生前已办追思会

财经要闻

走过三年牛市,黄金何去何从?

汽车要闻

35万级MPV的满配答案 享界V8正式上市售31.98万起

态度原创

亲子
游戏
教育
艺术
时尚

亲子要闻

果然祖坟冒青烟也有累的时候!网友:祖坟也得歇歇,不能一直冒烟

独游《传说之下》精神续作新进展!6章内容已完成

教育要闻

校长引领学校长远发展的八项能力

艺术要闻

世界十大著名宫殿盘点:中国独占两席

我们总说爱动物,但我们真的懂得如何善待它们吗?

无障碍浏览 进入关怀版