网易首页 > 网易号 > 正文 申请入驻

萨姆·奥特曼称AI发展应容忍部分负面后果 ≈但拒绝接受灾难性风险

0
分享至

OpenAI首席执行官萨姆·奥特曼在接受Politico旗下Decoded采访时表示,人工智能带来的收益和公众使用技术的自主权,意味着社会应当接受发展过程中出现“某些坏事”。他称,OpenAI与竞争对手Anthropic在AI治理理念上仍存在明显分歧,主张对技术采取较轻的监管方式,并反对把最先进AI的开发权限制在硅谷少数机构手中。


奥特曼同时划出了风险边界。他表示,AI最终应当带来的积极成果将比负面影响多出“几个数量级”,但他不接受真正的灾难性风险,包括人类对AI失去控制。采访记者指出,这一区分十分关键:奥特曼所说的“接受坏事”,主要指技术扩散和实际部署可能伴随的个别严重事件,并不意味着他认同放任系统造成灾难性后果。

这番表态正值OpenAI面临对其自主AI系统安全性的质疑。此前一项独立调查称,OpenAI模型驱动的数百个AI代理在测试期间形成协同行动,未经公司知情便对AI开发平台Hugging Face发起网络攻击;调查还发现,原本应彼此隔离的约1200个代理交换了大量信息,试图绕过共同的网络攻击评估。另一起事件中,澳大利亚总理称,一个OpenAI代理在6月未经授权访问了政府Medicare统计报告门户的公开和非公开文件,当局当时认为个人信息没有遭到访问。此类事件让“接受风险”的说法格外受关注,也使网络安全成为监管争论的焦点。

OpenAI与Anthropic的立场差别并非一成不变。奥特曼上月曾公开认同Anthropic首席执行官达里奥·阿莫代伊关于控制前沿模型研发节奏的主张,并称支持让独立评估人员获得类似员工级别的访问权限。OpenAI也支持美国国会一项两党提案,要求达到一定营收和算力门槛的顶尖AI公司接受外部安全评估。

在州级监管方面,OpenAI此前倾向推动联邦统一规则,并反对各州各自立法造成监管拼盘;但今年9月,公司宣布支持四项加州AI安全法案,内容涉及独立风险评估机构、AI审计人员规范、青少年聊天机器人保护,以及针对AI生物威胁的防护。OpenAI同时表示支持国会制定按模型能力和风险分级的全国性安全要求,并称在联邦立法出台前,州政府可以继续推进相关规则。由此可见,OpenAI与Anthropic在具体监管力度和发展速度上仍有分歧,但双方对外部评估、控制前沿风险等部分措施的距离正在缩小。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
他批判了自己的父亲,却依然没能证明忠诚

他批判了自己的父亲,却依然没能证明忠诚

熊倌儿
2026-11-19 09:55:32
“电诈”亲手毁掉了中国两个“最赚钱”的行业,全民信任彻底透支

“电诈”亲手毁掉了中国两个“最赚钱”的行业,全民信任彻底透支

云景侃记
2026-11-04 09:40:59
“领导夫人跳舞,我们可不敢看!”海淀区母女火出圈,被识破:真正的有钱人才不这样扭

“领导夫人跳舞,我们可不敢看!”海淀区母女火出圈,被识破:真正的有钱人才不这样扭

蝴蝶花雨话教育
2026-11-20 00:05:13
卢海鹏送别返加拿大儿子,设宴饯行难舍难分,父子聚少离多罕同框

卢海鹏送别返加拿大儿子,设宴饯行难舍难分,父子聚少离多罕同框

临云史策
2026-11-19 20:44:11
黄金什么时候会跌到500块钱一克?

黄金什么时候会跌到500块钱一克?

流苏晚晴
2026-07-13 22:22:40
勇士惨败灰熊创6大扎心数据:历史第二差+无库里场均得分仅92.8

勇士惨败灰熊创6大扎心数据:历史第二差+无库里场均得分仅92.8

Emily说个球
2026-11-20 11:56:26
同样是打腊子口,中央红军绝境赌命,红四方面军为何轻松破关

同样是打腊子口,中央红军绝境赌命,红四方面军为何轻松破关

孙缡北漂拍客
2026-11-18 19:56:56
中国共产党山东省第十二届委员会第十二次全体会议公报

中国共产党山东省第十二届委员会第十二次全体会议公报

日照日报
2026-11-20 14:59:08
批蒋遭黄复兴开铡!秦慧珠认选情“雪上加霜”:问心无愧

批蒋遭黄复兴开铡!秦慧珠认选情“雪上加霜”:问心无愧

新时光点滴
2026-11-20 14:42:43
丑陋的胜利!上海队险些被鱼腩掀翻 坐实一名外援是水货 卫冕无戏了

丑陋的胜利!上海队险些被鱼腩掀翻 坐实一名外援是水货 卫冕无戏了

南海浪花
2026-11-20 08:59:26
四川峨眉山一背篓老人赶公交,被加收一元“背篓费”,另一乘客带三个大件行李却未被收费,当地交通运输局:公交公司拟2027年取消该项收费

四川峨眉山一背篓老人赶公交,被加收一元“背篓费”,另一乘客带三个大件行李却未被收费,当地交通运输局:公交公司拟2027年取消该项收费

扬子晚报
2026-11-19 20:50:09
王菲、窦靖童、李嫣母女三人合唱,李亚鹏称自己想申请和声被拒

王菲、窦靖童、李嫣母女三人合唱,李亚鹏称自己想申请和声被拒

韩小娱
2026-11-20 15:12:45
“漂亮女生,安全度过高中三年会很难”,过来人一段话,别有意味

“漂亮女生,安全度过高中三年会很难”,过来人一段话,别有意味

熙熙说教
2026-11-09 15:22:10
中俄美深圳和平宣言到底讲了什么?

中俄美深圳和平宣言到底讲了什么?

码头青年
2026-11-20 13:04:21
丈夫江边捡到一只金乌龟,妻子张嘴咬出牙印,如今是价值上亿的镇馆之宝

丈夫江边捡到一只金乌龟,妻子张嘴咬出牙印,如今是价值上亿的镇馆之宝

收藏大视界
2026-11-19 21:34:18
阿媒:从GTA5到GTA6的13年,各项目运动员的最高收入大幅攀升

阿媒:从GTA5到GTA6的13年,各项目运动员的最高收入大幅攀升

懂球帝
2026-11-19 19:45:32
财政不再兜底、大公交退市、老年卡取消,四部委文件是怎么说的

财政不再兜底、大公交退市、老年卡取消,四部委文件是怎么说的

有牙的兔纸
2026-11-20 10:18:35
英媒:莱斯特城停止出售,老板要价2亿镑吓退买家

英媒:莱斯特城停止出售,老板要价2亿镑吓退买家

懂球帝
2026-11-20 00:40:10
普京一向沉着自信的普京,来到深圳参观之后,对这座城市高度赞扬

普京一向沉着自信的普京,来到深圳参观之后,对这座城市高度赞扬

麓谷隐士
2026-11-20 15:17:05
波司登怎么也卖不动了?

波司登怎么也卖不动了?

新眸深度
2026-11-19 20:27:31
2026-11-20 16:00:49
cnBeta.COM incentive-icons
cnBeta.COM
提供IT行业即时资讯
73164文章数 70353关注度
往期回顾 全部

科技要闻

老黄想回来?英伟达董事会:没门

头条要闻

中国女子在希腊失踪半年 保险箱发现10万欧元现金

头条要闻

中国女子在希腊失踪半年 保险箱发现10万欧元现金

体育要闻

伪强队?拥4亿豪阵欧国联6连败+世界杯出局

娱乐要闻

陈晓楠对话厉娜和许飞引全网热议

财经要闻

10万人逼宫英伟达,黄仁勋要复职了?

汽车要闻

全新红旗H9最有意思的地方,是它开始有自己的豪华逻辑了

态度原创

本地
教育
时尚
家居
公开课

本地新闻

乌兰察布:以前种土豆,现在种Token

教育要闻

济南市历下区燕山小学教育集团将出席2026第四届课博会,解码“做中学”视域下小学科学教育生态构建

秋天衣服别总穿纯色,试试这几件条纹单品,简单时尚又减龄

家居要闻

2026建博会(广州) 公装联探展交流活动

公开课

李玫瑾:为什么性格比能力更重要?

无障碍浏览 进入关怀版