网易首页 > 网易号 > 正文 申请入驻

OpenAI 大刀砍向安全团队!「灾难性风险」评估组被解散

0
分享至


2026 年 8 月 17 日,据英国《金融时报》报道,OpenAI 已解散负责评估 AI 模型“灾难性风险”的 Preparedness(风险防范)团队,并将其原有职责重新分配给网络安全、生物安全等专业团队。

Preparedness 团队成立于 2023 年,是 OpenAI 内部专门研究前沿 AI 潜在严重风险的团队。

OpenAI 当时表示,该团队负责连接前沿模型的能力评估、测试和内部红队工作,追踪和防范可能产生灾难性后果的风险。

Preparedness 重点关注领域包括网络安全、化学、生物、放射性和核威胁(CBRN)、个性化说服,以及 AI 系统自主复制和适应等能力。

此次调整后,Preparedness 团队不再作为独立团队存在。

The Verge 报道称,其承担的风险评估和缓解工作已被分散至 OpenAI 现有的专业团队,包括负责生物安全和网络安全的团队。

Preparedness 团队负责人 Dylan Scandinaro 也将调整研究方向。


Scandinaro 于今年 2 月从 Anthropic 加入 OpenAI,随后负责 Preparedness 团队。团队解散后,他将转向“递归自我改进”(recursive self-improving)AI 系统的研究,即探索 AI 系统持续改进自身能力的相关问题。

不过,OpenAI 并未取消用于管理严重 AI 风险的 Preparedness Framework(准备框架)。

OpenAI 今年 5 月发布的 Frontier Governance Framework(前沿治理框架)显示,Preparedness Framework 仍然是其定义和管理先进 AI 严重风险的基础,涉及网络攻击、CBRN 风险、有害操纵以及 AI 系统“失去控制”等领域。

2025 年更新后的 Preparedness Framework 还规定,OpenAI 将对可能造成严重伤害的前沿 AI 能力进行风险评估,并根据风险程度建立能力阈值和相应防护措施。对于达到特定高风险阈值的系统,需要在部署前采取足够的安全措施。

Preparedness 团队的解散也是 OpenAI 近期一系列组织调整的一部分。

《金融时报》报道称,在 OpenAI 推进 IPO 准备工作的同时,内部正在经历多项高管及组织架构变动,部分变化涉及 AI 安全相关团队和负责人。

这也并非 OpenAI 首次调整专门的 AI 安全团队。

此前,OpenAI 已先后解散 Superalignment(超级对齐)等独立安全研究团队,并将相关人员和研究工作并入其他部门。

此次 Preparedness 团队解散后,OpenAI 对前沿 AI 严重风险的评估机制仍然保留,但负责这些工作的组织形式再次发生变化。

云头条声明:如以上内容有误或侵犯到你公司、机构、单位或个人权益,请联系我们说明理由,我们会配合,无条件删除处理。



特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
偶遇戚薇一家在阿那亚度假,李承铉牵着儿子玩耍,4岁seven很活泼

偶遇戚薇一家在阿那亚度假,李承铉牵着儿子玩耍,4岁seven很活泼

神颜贩卖机
2026-10-03 17:26:00
男子捐80万建教学楼 举报钱款去向不明 反被刑拘600天

男子捐80万建教学楼 举报钱款去向不明 反被刑拘600天

闪电新闻
2026-10-03 16:33:47
“令爱实在让人爱不起来!”宝爸抗拒和女儿亲近,网友:能理解,这孩子长的像裘千尺!

“令爱实在让人爱不起来!”宝爸抗拒和女儿亲近,网友:能理解,这孩子长的像裘千尺!

林林先生
2026-09-30 11:15:06
林志玲最新视频认不出,眼窝凹陷,面相苦,网友辣评:医美后遗症来了

林志玲最新视频认不出,眼窝凹陷,面相苦,网友辣评:医美后遗症来了

全球风情大揭秘
2026-10-02 00:55:40
中国男足6-5乌兹别克斯坦,共产生3个不争的事实,王钰栋未来可期

中国男足6-5乌兹别克斯坦,共产生3个不争的事实,王钰栋未来可期

格斗联盟王大锤
2026-10-03 16:58:26
阿联酋以色列确定系恐怖袭击,纽约时报BBC掩饰劫机犯

阿联酋以色列确定系恐怖袭击,纽约时报BBC掩饰劫机犯

移光幻影
2026-10-03 07:10:33
刘欢离世7天,何赛飞病情曝光让人揪心,与恩师之子离婚真相大白

刘欢离世7天,何赛飞病情曝光让人揪心,与恩师之子离婚真相大白

汪巗的创业之路
2026-10-02 20:23:04
这哪是移动充电车,分明就是移动印钞机

这哪是移动充电车,分明就是移动印钞机

民间胡扯老哥
2026-10-03 03:24:35
沈腾节目中自曝:去年曾许愿工作半年休息半年,如今休息半年达成了,工作没了

沈腾节目中自曝:去年曾许愿工作半年休息半年,如今休息半年达成了,工作没了

韩小娱
2026-10-02 09:05:28
从8499跌到4298,这台华为老旗舰反而成了"最值得捡漏"的Mate

从8499跌到4298,这台华为老旗舰反而成了"最值得捡漏"的Mate

小柱解说游戏
2026-10-03 12:29:50
谭颖,任江苏省住建厅厅长!佳木斯市委副书记、政法委书记张英会,拟履新!

谭颖,任江苏省住建厅厅长!佳木斯市委副书记、政法委书记张英会,拟履新!

王姐懒人家常菜
2026-10-03 13:13:33
日本媒体确认了:高市早苗政府首次制裁俄罗斯,瞄准俄罗斯秘密运输原油的“影子船队”,并将33个俄军事相关团体和9人列入资产冻结名单

日本媒体确认了:高市早苗政府首次制裁俄罗斯,瞄准俄罗斯秘密运输原油的“影子船队”,并将33个俄军事相关团体和9人列入资产冻结名单

吉刻新闻
2026-10-03 14:11:49
一家6口成都游挤舅舅家7天,临走舅妈怒斥:下次别来了!细节曝光

一家6口成都游挤舅舅家7天,临走舅妈怒斥:下次别来了!细节曝光

娱乐洞察点点
2026-10-03 13:59:12
奔赴“县”场|流量变乡情,小城有了自己的麦克风

奔赴“县”场|流量变乡情,小城有了自己的麦克风

澎湃新闻
2026-10-03 08:10:32
《红旗文稿》今天发表重磅文章,针对当前经济形势和经济工作释放五大关键信号!

《红旗文稿》今天发表重磅文章,针对当前经济形势和经济工作释放五大关键信号!

识局Insight
2026-10-03 14:00:25
我35岁和老公分床睡,晚上实在熬不住我只能每天晚上出门溜达

我35岁和老公分床睡,晚上实在熬不住我只能每天晚上出门溜达

三农老历
2026-10-03 11:14:46
网友:乌兹门将把李昊的水瓶扔上了看台,上面写有点球习惯

网友:乌兹门将把李昊的水瓶扔上了看台,上面写有点球习惯

懂球帝
2026-10-03 17:42:08
美媒痛批特朗普:最愚蠢的错误,就是将中国定义为“同等级”对手

美媒痛批特朗普:最愚蠢的错误,就是将中国定义为“同等级”对手

梦在深巷aqa
2026-10-03 08:28:17
赢了四个孩子,却输了说爱的人,55岁马斯克,终究再次独行

赢了四个孩子,却输了说爱的人,55岁马斯克,终究再次独行

王嚾晓
2026-10-03 12:11:01
不弹劾了?支持率跌破31%:中期选举一赢,特朗普全家一个都别跑

不弹劾了?支持率跌破31%:中期选举一赢,特朗普全家一个都别跑

顾秋韵
2026-10-03 14:08:51
2026-10-03 18:03:00
云头条 incentive-icons
云头条
引领科技变革,连接技术与商业。
21857文章数 27372关注度
往期回顾 全部

科技要闻

英伟达盘中创历史新高,市值逼近6万亿美元

头条要闻

特朗普恼了:韩国竟敢“打我脸” 再不投钱就报复

头条要闻

特朗普恼了:韩国竟敢“打我脸” 再不投钱就报复

体育要闻

这个讨论了一夏天的问题,马刺有答案了吗

娱乐要闻

马思纯一家爬山祈福!素颜出镜笑容甜

财经要闻

4亿台电视挂墙落灰 为何没人愿意开了?

汽车要闻

方程豹9月热销破4万 首款皮卡鲨鱼将于四季度上市

态度原创

手机
教育
旅游
时尚
艺术

手机要闻

华为李小龙:睿影Z10模块相机卡口通过可拆卸转接环实现

教育要闻

意想不到!61家航空单位,组团来天津大学招聘!

旅游要闻

肥城:烟火繁华满金秋 假日经济火力旺

Chemena Kamali写给Chloé的又一封情书

艺术要闻

苏轼被贬黄州时写的书法,比《寒食帖》笔法更佳,您还觉得他不如米芾吗?

无障碍浏览 进入关怀版