网易首页 > 网易号 > 正文 申请入驻

“你最可能死于AI事故”:OpenAI董事抛出20%末日概率

0
分享至



“对于在座的大多数人来说,你们最可能的死因,是一场人工智能事故。”

说出这句话的人,并不是街头的末日预言家,而是OpenAI基金会董事会成员、知名AI安全研究者保罗·克里斯蒂亚诺。

11月9日,加拿大多伦多,2026年“辛顿讲座”开讲第一夜,台下坐满了研究者、学生和政策制定者。主持这场系列讲座的,正是诺贝尔物理学奖得主、被称为“AI教父”的杰弗里·辛顿。

克里斯蒂亚诺抛出的数字,让整个会场的空气仿佛瞬间凝固。不少听众后来回忆,那一刻没有人笑得出来。

他认为,如果人类以最快速度、用最省事的方式造AI,那么AI接管世界的概率“就像抛硬币”,正反各半。

更刺耳的是另一个判断:大约有20%的可能,在一年之内,AI失控会让你“无法正常生活”,原因可能是死亡、被奴役,或者被卷入随之而来的附带灾难。

据美国科技媒体Gizmodo报道,他还强调,即便各国拿出切实可行的政策应对,这一风险依然“极高”。

这番话迅速在社交媒体上发酵。有人惊呼“末日倒计时”已经开始,也有人嗤之以鼻,称之为又一场精心包装的危言耸听。

说话的人,分量不一般

如果这些话出自某个匿名网络论坛,大概只会引来一阵哄笑。但克里斯蒂亚诺的履历,让人很难一笑置之。

他曾在OpenAI领导语言模型对齐团队,是“基于人类反馈的强化学习”(RLHF)的主要开创者之一。

今天几乎所有聊天机器人“听得懂人话、守得住规矩”的本事,都离不开这项技术打下的地基。

离开OpenAI后,他创办了非营利机构“对齐研究中心”(ARC),专门研究如何让越来越强的AI系统与人类目标保持一致。

此后,他还出任过美国国家标准与技术研究院下属AI安全研究所的安全负责人,参与评估前沿模型的潜在风险。



如今,他又坐进了OpenAI基金会的董事会,对这家全球最受关注的AI机构拥有一定发言权。

换句话说,这是一位既懂技术底层、又能影响决策的“局内人”,而非站在场外喊话的旁观者。

正因如此,他的每一个数字都会被业界反复咀嚼。一位亲手给AI套上“缰绳”的人说缰绳可能不够用,这本身就是值得警惕的信号。

硬币的两面:是警告,还是矛盾?

讲座中,克里斯蒂亚诺也坦率承认,给“AI接管”打分并没有可靠的数学模型可依。

他说,任何概率数字本质上都是个人的主观判断,并不存在可以参照的历史先例。

他所说的“接管”,是指AI系统追逐自己的目标,在地球上实际掌握话语权,而人类已经无力阻止。这并非科幻电影里的机器人起义,而是一种更安静、更难察觉的权力转移。

他同时表示,希望现实中的发展不会沿着“最快路径”狂奔,因此真实概率可能比硬币低得多。但即便如此,他仍认为风险高得异常。



美国科技媒体Futurism对此毫不客气。文章指出,这类言论放在以“AI末日论”著称的LessWrong社区里再正常不过,可出自顶级AI机构的董事之口,就显得有些自相矛盾。

文章还打了个辛辣的比方:这就像电影《终结者2》里的工程师迈尔斯·戴森,明知自己的发明会毁灭人类,却依旧每天照常去上班。

作者甚至反问,如果研究者真的相信公司产品可能毁灭人类,为什么不把醒着的每一分钟都用来“拔掉墙里的电线”?

这个问题很尖锐,也确实戳中了AI行业的一个普遍尴尬:一边高喊危险,一边全速前进。

不过,它也存在另一种解读。

不少安全研究者认为,正因为风险巨大,才更需要有人留在牌桌上踩刹车,而不是转身离场、把方向盘拱手让人。

恐慌之外,我们该听懂什么

把“20%”当成精确的天气预报,显然并不明智,它更像是一位资深工程师对风险量级的直觉提醒。

近一年来,类似的警告已从边缘论坛走进主流视野。多家顶尖实验室的研究者在公开信和访谈中反复提到失控风险,只是很少有人像他这样给出如此具体、如此迫近的时间表。

但它也不是孤立的声音。辛顿本人此前就公开表示,AI导致人类灭绝的风险达到10%“并非不合理的估计”。

值得注意的是,“末日派”与“乐观派”的分歧,很大程度上并不在于风险是否存在,而在于时间表的长短。

有人认为真正强大的AI还很遥远,有人则认为未来两三年就是决定命运的关键窗口。

无论哪一方更接近真相,有一点已逐渐成为共识:AI的能力正在快速攀升,而人类对它的理解与约束明显滞后。

克里斯蒂亚诺在后续讲座中还表示,AI的进步“相当可能”再持续十年才会放缓。他认为,AI本身正在加速AI的研发,这让减速变得更加困难。

这意味着,留给对齐研究、安全评估和监管体系建设的时间,远没有想象中那样宽裕。

对普通人来说,与其被“死亡或奴役”这样的字眼吓到,不如关注几个更实际的问题。

谁在审查最强大的模型,谁有权按下暂停键,一旦系统失控,责任又该由谁来承担?

这些问题在各国立法机构、企业董事会和国际谈判桌上都尚无定论。欧盟、美国、英国和中国都在探索各自的治理框架,但步调远未一致。

与此同时,模型的迭代周期却以月计算。监管赶不上技术,几乎成了这个时代最真实的写照。

硬币还在空中旋转。它最终落向哪一面,或许取决于人类此刻愿意为安全付出多少耐心与成本。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
上海警方通报:王某,刑拘!10个月发生200多起交通事故,几乎天天撞,绝大部分被认定为无责方,手段太阴了

上海警方通报:王某,刑拘!10个月发生200多起交通事故,几乎天天撞,绝大部分被认定为无责方,手段太阴了

环球网资讯
2026-11-18 10:45:02
这才是宋氏三姐妹真实的相貌,不是演员扮演的角色!

这才是宋氏三姐妹真实的相貌,不是演员扮演的角色!

历史伟人录
2025-05-08 10:08:01
北京开始流行上半天学了?帝都小学生家长来说下真实情况

北京开始流行上半天学了?帝都小学生家长来说下真实情况

三个妈妈六个娃
2026-11-19 00:57:04
“1600元烤全羊剥不出一两肉”,四川平武县通报

“1600元烤全羊剥不出一两肉”,四川平武县通报

扬子晚报
2026-11-18 21:35:50
“我儿子敢这样穿,我上去就是一巴掌”,儿子一套低认知穿搭,家长还发到网上炫耀,网友怒了

“我儿子敢这样穿,我上去就是一巴掌”,儿子一套低认知穿搭,家长还发到网上炫耀,网友怒了

蝴蝶花雨话教育
2026-11-18 00:05:17
很难相信,这就是GPT 6.2

很难相信,这就是GPT 6.2

人工智能学家
2026-11-18 16:40:34
刘欢走了,他生前提得最多的人里,不是妻子,不是女儿,是他弟弟

刘欢走了,他生前提得最多的人里,不是妻子,不是女儿,是他弟弟

情感大头说说
2026-11-18 17:58:41
上新了!高市的表情包,日本的碰瓷外交

上新了!高市的表情包,日本的碰瓷外交

这里是东京
2026-11-18 19:00:19
中美俄三方会晤前,普京点赞中国,特朗普说了句令人意外的话

中美俄三方会晤前,普京点赞中国,特朗普说了句令人意外的话

新浪财经
2026-11-18 08:49:37
中俄美元首首次三边会晤落地深圳APEC,为全球格局带来哪些新信号?专访南京大学教授朱锋

中俄美元首首次三边会晤落地深圳APEC,为全球格局带来哪些新信号?专访南京大学教授朱锋

红星新闻
2026-11-18 23:59:08
忘恩负义到顶峰了!足坛名宿公开怒喷葡萄牙忘本:没有C罗你们什么都不是,如今却把功勋传奇当耻辱!没有那双脚,连决赛门朝哪开都不知道

忘恩负义到顶峰了!足坛名宿公开怒喷葡萄牙忘本:没有C罗你们什么都不是,如今却把功勋传奇当耻辱!没有那双脚,连决赛门朝哪开都不知道

锐评利物浦
2026-11-18 10:15:40
百大UP老戴直播《GTA6》被封!刚播了20分钟

百大UP老戴直播《GTA6》被封!刚播了20分钟

游民星空
2026-11-18 20:47:56
克里米亚大桥被炸断了!泽连斯基庆贺,普京远在深圳也要报复

克里米亚大桥被炸断了!泽连斯基庆贺,普京远在深圳也要报复

世界地缘档案
2026-11-18 10:53:23
销户上岸!有大佬提交成功截图离场,网友:我明天也全部清仓,亏得有精神问题了

销户上岸!有大佬提交成功截图离场,网友:我明天也全部清仓,亏得有精神问题了

火山詩话
2026-11-19 05:46:27
大一女生穿“洛丽塔”报到,本以为能惊艳全场,没想到连行李都没人愿意帮忙搬

大一女生穿“洛丽塔”报到,本以为能惊艳全场,没想到连行李都没人愿意帮忙搬

妍妍教育日记
2026-08-23 10:10:12
女子和2个男友缠绵“爽翻天”,打胎多次怀恨在心,2019年让他俩互相残杀

女子和2个男友缠绵“爽翻天”,打胎多次怀恨在心,2019年让他俩互相残杀

汉史趣闻
2026-11-18 18:40:10
人醉过,才知道什么是酒什么是爱

人醉过,才知道什么是酒什么是爱

疾跑的小蜗牛
2026-11-13 19:09:51
麦丹准绝杀!开拓者惜败森林狼遭双杀,多苏姆30分利拉德25+5

麦丹准绝杀!开拓者惜败森林狼遭双杀,多苏姆30分利拉德25+5

湖人崛起
2026-11-18 11:38:46
贾玲线下被偶遇,穿紧身衣服身材苗条,皮肤白皙状态像大学生

贾玲线下被偶遇,穿紧身衣服身材苗条,皮肤白皙状态像大学生

白宸侃片
2026-11-18 17:52:40
震惊!网友拍下望京星巴克一幕:多位老人摆放回收杯,假装消费休息占位,评论炸锅

震惊!网友拍下望京星巴克一幕:多位老人摆放回收杯,假装消费休息占位,评论炸锅

火山詩话
2026-11-19 06:08:24
2026-11-19 09:32:49
侃故事的阿庆
侃故事的阿庆
几分钟看完一部影视剧,诙谐幽默的娓娓道来
726文章数 9876关注度
往期回顾 全部

科技要闻

刘炽平回应AI烧钱:不指望几周内就看到回报

头条要闻

牛弹琴:黄仁勋事件越来越荒诞了 马斯克都笑哭了

头条要闻

牛弹琴:黄仁勋事件越来越荒诞了 马斯克都笑哭了

体育要闻

“中超卡里乌斯”,成了大连的夺冠英雄

娱乐要闻

主持人张泉灵被曝猛料,公司成老赖

财经要闻

北京环球影城,亏损难题待解

汽车要闻

全新红旗H9最有意思的地方,是它开始有自己的豪华逻辑了

态度原创

数码
手机
本地
健康
艺术

数码要闻

AMD发布Linux 26.17显卡驱动

手机要闻

直面iPhone 18 Pro系列,小米18 Pro系列海外售价感受一下

本地新闻

乌兰察布:以前种土豆,现在种Token

医生眼里"很伤腰"的椅子,很多人天天坐

艺术要闻

95后女孩用247天拍遍56个民族服饰,东方美学美得太惊艳!

无障碍浏览 进入关怀版