网易首页 > 网易号 > 正文 申请入驻

OpenAI 大刀砍向安全团队!「灾难性风险」评估组被解散

0
分享至


2026 年 8 月 17 日,据英国《金融时报》报道,OpenAI 已解散负责评估 AI 模型“灾难性风险”的 Preparedness(风险防范)团队,并将其原有职责重新分配给网络安全、生物安全等专业团队。

Preparedness 团队成立于 2023 年,是 OpenAI 内部专门研究前沿 AI 潜在严重风险的团队。

OpenAI 当时表示,该团队负责连接前沿模型的能力评估、测试和内部红队工作,追踪和防范可能产生灾难性后果的风险。

Preparedness 重点关注领域包括网络安全、化学、生物、放射性和核威胁(CBRN)、个性化说服,以及 AI 系统自主复制和适应等能力。

此次调整后,Preparedness 团队不再作为独立团队存在。

The Verge 报道称,其承担的风险评估和缓解工作已被分散至 OpenAI 现有的专业团队,包括负责生物安全和网络安全的团队。

Preparedness 团队负责人 Dylan Scandinaro 也将调整研究方向。


Scandinaro 于今年 2 月从 Anthropic 加入 OpenAI,随后负责 Preparedness 团队。团队解散后,他将转向“递归自我改进”(recursive self-improving)AI 系统的研究,即探索 AI 系统持续改进自身能力的相关问题。

不过,OpenAI 并未取消用于管理严重 AI 风险的 Preparedness Framework(准备框架)。

OpenAI 今年 5 月发布的 Frontier Governance Framework(前沿治理框架)显示,Preparedness Framework 仍然是其定义和管理先进 AI 严重风险的基础,涉及网络攻击、CBRN 风险、有害操纵以及 AI 系统“失去控制”等领域。

2025 年更新后的 Preparedness Framework 还规定,OpenAI 将对可能造成严重伤害的前沿 AI 能力进行风险评估,并根据风险程度建立能力阈值和相应防护措施。对于达到特定高风险阈值的系统,需要在部署前采取足够的安全措施。

Preparedness 团队的解散也是 OpenAI 近期一系列组织调整的一部分。

《金融时报》报道称,在 OpenAI 推进 IPO 准备工作的同时,内部正在经历多项高管及组织架构变动,部分变化涉及 AI 安全相关团队和负责人。

这也并非 OpenAI 首次调整专门的 AI 安全团队。

此前,OpenAI 已先后解散 Superalignment(超级对齐)等独立安全研究团队,并将相关人员和研究工作并入其他部门。

此次 Preparedness 团队解散后,OpenAI 对前沿 AI 严重风险的评估机制仍然保留,但负责这些工作的组织形式再次发生变化。

云头条声明:如以上内容有误或侵犯到你公司、机构、单位或个人权益,请联系我们说明理由,我们会配合,无条件删除处理。



特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
立案才48小时!德云社就乱成一锅粥,原来岳云鹏才是真正的聪明人

立案才48小时!德云社就乱成一锅粥,原来岳云鹏才是真正的聪明人

手工制作阿歼
2026-08-18 00:44:12
周星驰经纪人发问号遭全网嘲,我感慨:《功夫女足》的22亿,靠的从来不是碰瓷

周星驰经纪人发问号遭全网嘲,我感慨:《功夫女足》的22亿,靠的从来不是碰瓷

小椰的奶奶
2026-08-17 11:39:55
NB,哈登回归!1换1,冲击NBA历史......

NB,哈登回归!1换1,冲击NBA历史......

体育新角度
2026-08-17 09:59:30
不敢跟了,美债正式破40万亿:海外集体抛售,只有让自家人接盘

不敢跟了,美债正式破40万亿:海外集体抛售,只有让自家人接盘

他想要很多很多的梦
2026-08-11 03:57:04
网传小米汽车招普工了,25元/小时,2班倒,每天上班11个小时,上13天休1天,网友直言:在北京,钱太少了!

网传小米汽车招普工了,25元/小时,2班倒,每天上班11个小时,上13天休1天,网友直言:在北京,钱太少了!

谭谈社会
2026-08-16 12:05:18
解析 |《牛来》导演唯一音频采访:续集《羊高》已启动,这次“不用等五年”

解析 |《牛来》导演唯一音频采访:续集《羊高》已启动,这次“不用等五年”

8号风曝
2026-08-17 22:27:50
瑞典大满贯后!世界最新世界排名!王曼昱和小勒布伦排名更新!国乒世界第1丢了三

瑞典大满贯后!世界最新世界排名!王曼昱和小勒布伦排名更新!国乒世界第1丢了三

好乒乓
2026-08-17 17:24:56
幸好韩国没帮乌克兰!日本帮完就被炸,遭俄军报复,中国也很明智

幸好韩国没帮乌克兰!日本帮完就被炸,遭俄军报复,中国也很明智

麓谷隐士
2026-08-16 06:40:03
最新 | 巨头暴跌!集体翻车!很多人买过!网友:大冤种......

最新 | 巨头暴跌!集体翻车!很多人买过!网友:大冤种......

天津广播
2026-08-17 14:20:19
菲律宾政坛大地震!公造部长当庭承认,每个参议员都拿了5亿比索

菲律宾政坛大地震!公造部长当庭承认,每个参议员都拿了5亿比索

一路荒凉如歌a
2026-08-18 01:13:55
87分!TOP29不满意,阿德巴约飘了?

87分!TOP29不满意,阿德巴约飘了?

篮球实录
2026-08-18 02:31:46
尴尬!升学宴群发引发同学断交:一男子不想随礼,直接把私聊发到网上,不料被当事人刷到了

尴尬!升学宴群发引发同学断交:一男子不想随礼,直接把私聊发到网上,不料被当事人刷到了

火山詩话
2026-08-15 19:03:00
NBA,我回来了,恭喜保罗!圆梦湖人

NBA,我回来了,恭喜保罗!圆梦湖人

体育新角度
2026-08-17 09:40:26
悲催!同济大学博士学投中兴、大疆等多家头部企业,简历初筛就被刷落,网友:第一学历是原罪

悲催!同济大学博士学投中兴、大疆等多家头部企业,简历初筛就被刷落,网友:第一学历是原罪

火山詩话
2026-08-15 19:16:26
从杭州这顿饭局后果来看,正确定义商务饭局已到刻不容缓的阶段。

从杭州这顿饭局后果来看,正确定义商务饭局已到刻不容缓的阶段。

周哥一影视
2026-08-18 02:47:10
央视再三提醒:绑定银行卡的手机,务必开启这几项功能!

央视再三提醒:绑定银行卡的手机,务必开启这几项功能!

记录生活日常阿蜴
2026-08-12 06:02:43
黄金,大涨!普通人可以抄底了!

黄金,大涨!普通人可以抄底了!

星图金融研究院
2026-08-17 07:50:12
柬埔寨很高兴:免费获赠两艘056C,性能比中国海军自用版还先进

柬埔寨很高兴:免费获赠两艘056C,性能比中国海军自用版还先进

趣文说娱
2026-08-17 16:27:13
距影史第3差1.55亿美元!《蜘蛛侠》全球屠榜,卡神或将让出王座

距影史第3差1.55亿美元!《蜘蛛侠》全球屠榜,卡神或将让出王座

白公子探剧
2026-08-17 15:22:11
特朗普威胁:若阿曼阻碍美伊和平协议 将对其发动轰炸

特朗普威胁:若阿曼阻碍美伊和平协议 将对其发动轰炸

财联社
2026-08-17 21:19:29
2026-08-18 08:31:00
云头条 incentive-icons
云头条
引领科技变革,连接技术与商业。
21228文章数 27352关注度
往期回顾 全部

科技要闻

特斯拉Cybercab有望本月投放运营

头条要闻

媒体:日本又想卡中国"脖子" 这一刀捅得够狠

头条要闻

媒体:日本又想卡中国"脖子" 这一刀捅得够狠

体育要闻

C罗:可能是生涯最后一年 未来都规划好了

娱乐要闻

立案风波席卷德云社多场巡演叫停!

财经要闻

爱丽家居跨界玩存储:溢价背后藏着机密案

汽车要闻

理想i8后驱长续航版正式发布 售价30.98万元 全系同步升级

态度原创

时尚
健康
房产
手机
本地

夏天裤子不要总穿黑色,试试粉色阔腿长裤,舒适显瘦又有个性

专家解答青少年脊柱侧弯七大问题

房产要闻

商办划片入学!民水民电,购房补贴!海南又一城出台新政!

手机要闻

苹果Siri AI集体诉讼和解案“最终批准听证会”定于明年2月

本地新闻

黄景藏用半刀泥刻瓷都魂

无障碍浏览 进入关怀版