网易首页 > 网易号 > 正文 申请入驻

OpenAI前安全部门员工:AI模型迭代部署太激进,公司的文化已经崩坏

0
分享至

IT之家 10 月 4 日消息,据路透社报道,一名近期辞职的前 OpenAI 安全部门员工批评了该公司对待人工智能安全的做法,他认为一味追求快速开发的高压企业文化会提高系统发生故障的风险。


IT之家注意到,戴维 · 鲁宾森(David Robinson)于当地时间周六在《大西洋》杂志发表题为《我辞去 OpenAI 的工作,只因这家公司的文化已经崩坏》的文章中表示,包括 OpenAI 在内的各家人工智能企业做得“远远不够谨慎”,在研发能力更强的系统之前,应当更加重视安全方面的专业人才与相关研究。

“试错的时代已经结束了。”鲁宾森(David Robinson)写道。他提出,先进人工智能系统所需要的防护机制,应当更接近核电与航空这类行业所采用的安全保障体系。

鲁宾森(David Robinson)称,OpenAI 十分依赖其所谓的“迭代部署”模式:先对外发布系统,等到问题暴露之后再去加固安全防护。

此番言论进一步激化了人工智能行业内部的一场争论,争议焦点在于各家企业研发性能日益强大的系统时,推进的脚步是否过快。此前已经发生过多起安全管控失效或是实验性系统出现异常表现的事件,OpenAI 及其竞争对手 Anthropic 也因此受到外界审视。

鲁宾森自称曾在 OpenAI 任职三年半,参与起草过该公司的风险应对框架,并且负责监督 12 次前沿模型发布对应的安全报告。他写道:“公司只顾着接二连三地赶进度推出新版本,却没能达到我心目中理应具备的审慎标准。”

OpenAI 的一名发言人在一份声明中表示:“我们一直在把控模型,避免它的能力超出我们能够安全管控的范围;一旦需要放缓节奏,我们就会暂停训练,或是暂缓模型的对外发布。”

鲁宾森同时发出警示:人工智能能力的发展速度,已经超过研究人员对于对齐问题的认知水平;对齐这一研究领域致力于保证人工智能系统的行为符合人类的目标与价值观。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
特朗普在深圳的街道上主动摇下车窗跟路边的群众打招呼!这放在其他国家根本不敢想象

特朗普在深圳的街道上主动摇下车窗跟路边的群众打招呼!这放在其他国家根本不敢想象

西楼知趣杂谈
2026-11-19 11:23:55
乌克兰如今割不割地,可能对俄罗斯而言可能已经无所谓了,原因很简单,那就是俄罗斯得到的东西,远比他想要的还要多

乌克兰如今割不割地,可能对俄罗斯而言可能已经无所谓了,原因很简单,那就是俄罗斯得到的东西,远比他想要的还要多

扶苏聊历史
2026-11-16 17:43:48
美国、俄罗斯、欧洲猛然发现一件头疼事:低估了中国,高估了自己

美国、俄罗斯、欧洲猛然发现一件头疼事:低估了中国,高估了自己

文史达观
2025-03-27 12:59:20
自在即是风景

自在即是风景

该用户已看透一切
2026-10-17 17:39:29
雷霆惜败老鹰:亚历山大空砍34分 杰伦·约翰逊16+12+11

雷霆惜败老鹰:亚历山大空砍34分 杰伦·约翰逊16+12+11

醉卧浮生
2026-11-19 11:18:16
58,岁蔡国庆,T,台重重摔倒!捂肚子坚持走完,全场都捏了一把汗

58,岁蔡国庆,T,台重重摔倒!捂肚子坚持走完,全场都捏了一把汗

汪巗的创业之路
2026-11-19 16:11:50
20岁男子与56岁女子缠绵后上瘾了,领证不到三个月,女子吃不消要离婚

20岁男子与56岁女子缠绵后上瘾了,领证不到三个月,女子吃不消要离婚

江山挥笔
2026-11-19 13:23:55
首次运投成功!国产“空中重卡”来了

首次运投成功!国产“空中重卡”来了

每日经济新闻
2026-11-19 06:32:48
反催婚界出了个天才!父母资金链断了,网友:催到大动脉了

反催婚界出了个天才!父母资金链断了,网友:催到大动脉了

夜深爱杂谈
2026-11-12 22:34:14
特朗普说美国不支持“台独”

特朗普说美国不支持“台独”

每日经济新闻
2026-11-19 17:23:44
黄一鸣自曝:王思聪每次约她,车费都给10万,来给5万,回再给5万

黄一鸣自曝:王思聪每次约她,车费都给10万,来给5万,回再给5万

汉史趣闻
2025-06-24 10:07:59
张水华确认无缘上海马拉松赛,网友疑惑:高水平冠军选手都无法入围

张水华确认无缘上海马拉松赛,网友疑惑:高水平冠军选手都无法入围

尘语者
2026-11-19 15:24:24
“我家三代清北,养出了过街老鼠”,家长心碎发文,却安慰了普通人

“我家三代清北,养出了过街老鼠”,家长心碎发文,却安慰了普通人

熙熙说教
2026-11-19 15:18:21
高市早苗又坐不住了。

高市早苗又坐不住了。

果妈聊娱乐
2026-11-19 08:11:41
炸锅 !宁德时代报警抓理想!双方分手内幕全曝光!

炸锅 !宁德时代报警抓理想!双方分手内幕全曝光!

电动内参
2026-11-19 16:02:28
严查信号强烈!中央明显升级反腐“天网”!

严查信号强烈!中央明显升级反腐“天网”!

细说职场
2026-11-19 16:39:47
当下 “发不出工资” 的 4 个行业!比想象中还严重!

当下 “发不出工资” 的 4 个行业!比想象中还严重!

职场资深秘书
2026-11-19 16:08:33
央国企加速清退劳务派遣!2026年底前必须整改完,千万人受影响

央国企加速清退劳务派遣!2026年底前必须整改完,千万人受影响

职场资深秘书
2026-11-19 18:38:10
肠子悔青也无用啊!

肠子悔青也无用啊!

新动察
2026-11-19 15:50:17
底牌亮了!诗妮娜贵妃一双儿女都到人前了,王后独子却连影儿都没

底牌亮了!诗妮娜贵妃一双儿女都到人前了,王后独子却连影儿都没

乡野小珥
2026-11-19 14:28:56
2026-11-19 19:19:00
IT之家
IT之家
爱科技,爱这里 - 前沿科技人气平台
380268文章数 607744关注度
往期回顾 全部

科技要闻

提前三个月加薪!英伟达全员会稳军心

头条要闻

赖清德表侄爆发大丑闻 基隆市长选举绿营直接被"KO"

头条要闻

赖清德表侄爆发大丑闻 基隆市长选举绿营直接被"KO"

体育要闻

文班亚马也防不住这"巨兽" 无奈吐槽:悲哀

娱乐要闻

后会友期 文吉儿公然怼谈话老师陈晓楠

财经要闻

Anthropic的算力赌局

汽车要闻

华境S五座版亮相 标配华为乾崑科技和宁德时代电芯

态度原创

时尚
亲子
游戏
公开课
军事航空

0.01分赢下保研,第二天就被室友举报了

亲子要闻

这大冤种一天毛毛躁躁的,又让闺女和老妈心疼了

GTA6大多数PC也没法60帧!技术人士发话 升级硬件吧

公开课

李玫瑾:为什么性格比能力更重要?

军事要闻

“华盛顿”号航空母舰离开中东地区

无障碍浏览 进入关怀版