北京
OpenAI研究员Roon在社交平台上更新了自己对AI灭绝人类概率的估计，从不到1%上调至超过10%。这条推文发布于2026年9月9日凌晨5点16分，显示浏览量为1.4K。
他给出的时间范围是未来十年内。原话是：“我个人认为在未来十年内这个概率超过10%。”
从不到1%到超过10%
Roon此前对AI灭绝风险的概率估计不到1%。这次上调后，他在推文中提到了对Anthropic的看法。
他写道：“Jacob说得对——我们真的发自内心相信AI可能杀死所有人类。”随后他表示：“我相信Anthropic在尽力，但针对超级智能的对齐方案，我们目前还没有计划，也看不出已经走在正确的轨道上。”
对齐问题
所谓“对齐”，指的是让超级智能系统的目标与人类利益保持一致。Roon在推文中没有进一步解释对齐问题的具体细节，也没有说明OpenAI内部是否有相关方案。
他肯定了Anthropic“在尽力”，但同时表示目前没有解决超级智能对齐问题的计划，也没有走在正确轨道上。
为什么这个表态值得关注
Roon的身份是OpenAI研究员，而Anthropic是AI安全领域的主要公司之一。一个OpenAI研究员公开表示Anthropic在尽力但还没有对齐超级智能的计划，同时把自己对灭绝风险的估计从不到1%上调到超过10%，这个组合本身带有信号意义。
在AI安全讨论中，p(doom)这个指标——即“AI导致人类灭绝的概率”——一直是个敏感话题。Roon这次给出的数字属于严肃的风险估计。
十年窗口
Roon把时间框定在“未来十年内”，而不是更长的时间范围。他在推文中没有进一步解释为什么选择这个时间窗口，也没有说明超级智能何时可能到来。
他只是在推文中摆出了一个判断：未来十年内AI导致人类灭绝的概率超过10%。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
