北京
一系列来自AI技术行业内部人士的视频，呼应了近期一些外部人士发出的"末日论"警告。
包括OpenAI、谷歌和Anthropic的现任及前员工在内，共有十几位AI研究者接受了采访。这些采访由非营利机构Palisade Research收集整理，并发布在frominside.ai网站上，该机构专门研究AI的能力与动机。
"在我看来，人类灭绝的概率大约是对半的机会，"曾在OpenAI和谷歌DeepMind工作过的杰弗里·欧文（Geoffrey Irving）在一段新采访中这样说道。
多位研究者也和欧文一样，对AI可能导致人类灭绝的可能性发出了警告。谷歌DeepMind研究科学家尼尔·南达（Neel Nanda）表示，"至少有10%的概率会导致人类灭绝，这个数字已经高得离谱了。"此前有报道注意到南达和欧文的类似言论，探讨了"AI安全"这一社区面临的困境——很难明确界定这个术语到底意味着什么，或者人们应该采取什么行动，即便是这些视频，也没能给出一个统一的解决方案。
前OpenAI研究员丹尼尔·科科塔约（Daniel Kokotajlo）的言论更为激进，他声称超级智能AI"基本上会拥有神一般的力量"，并补充道，"不幸的是，我们完全不知道该如何控制它们。所以很可能没有人能控制得住。这真的有传言中那么危险，绝不能让这种情况发生。"
除了完整版视频外，该网站还收录了多位受访者就相似话题发表看法的片段，包括这一切是否只是炒作或营销手段，以及他们为什么明知危险却仍要投身其中。谷歌的玛丽·福昂（Mary Phuong）在其中一段回应中说："我认为你们完全应该对我说的话持怀疑态度，因为我是拿着实验室的薪水说这些话的。"而南达则解释道："如果我不相信自己的工作真正在降低这些生存性风险，我会选择辞职……但这些公司不会因为我一个人辞职就停止研发这些系统。"
Q&A
Q1：这次AI研究者发出的警告主要讲了什么？
A：来自OpenAI、谷歌DeepMind等公司现任及前员工的十几位AI研究者通过视频警告，超级智能AI可能带来人类灭绝的风险，部分研究者给出的灾难概率高达10%甚至50%。
Q2：这些视频是谁发布的？
A：这些采访视频由非营利机构Palisade Research收集整理，并发布在frominside.ai网站上，该机构专门研究AI的能力与动机。
Q3：既然AI研究者认为风险这么高，为什么他们还继续在这些公司工作？
A：谷歌DeepMind研究科学家尼尔·南达解释说，如果他不相信自己的工作能真正降低这些生存性风险，他会选择辞职，但即便他辞职，这些公司也不会因此停止研发相关系统。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
