北京
“在我看来，人类灭绝的概率大约是一次抛硬币。”说这话的是Geoffrey Irving，他曾在OpenAI和Google DeepMind工作。这句话出自一段新发布的访谈视频，而和他一起出现在镜头前的，是一批正在或曾经供职于OpenAI、Google、Anthropic的AI研究者。
把这些访谈收集起来并对外发布的，是一家名为Palisade Research的机构。它自称是一家非营利组织，研究方向是AI的能力与动机。这批视频的发布站点是frominside.ai。
不是一个人的判断
Irving对灭绝风险的警告，并不是这批访谈里的孤例。Google DeepMind研究科学家Neel Nanda在视频中给出了一个具体数字：AI导致人类灭绝的概率“至少有10%，而这个数字高得离谱”。
前OpenAI研究员Daniel Kokotajilo的说法更进一步。他称超级智能AI“基本上会像神一样强大”，并补充说，“不幸的是，我们根本不知道如何控制它们。所以很可能没有人能控制它们。这危险程度和听起来一模一样，绝不能允许它发生。”
这些表态并非凭空出现。此前已有其他业内人士发出过类似的“末日论”式警告，而这批来自产业内部、正在亲手构建AI技术的人，用视频的形式呼应了那些声音。
他们为什么还在做这件事
除了完整版视频，站点还把多个人针对相似话题的发言片段归集到一起。其中一个被归集的问题相当直接：这一切是不是只是炒作或营销？另一个问题是：既然认为这件事如此危险，为什么还要参与其中？
Google的Mary Phuong给出的回答是：“我认为你绝对应该怀疑我说的话，因为我是拿实验室薪水的。”
Nanda则解释了自己留下的理由：“如果我不相信我的工作正在直接降低这些生存风险，我会辞职……这些公司不会因为我辞职就停止制造这些系统。”
值得注意的是，这批视频并没有给出一个统一的解决方案。关于“AI安全”这个词到底指什么、人们究竟该做什么，本身就很难有定论，这些来自内部的发声同样没有提供一致答案。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
