查理三世罕见公开表态：AI需在为时已晚前受到控制

英国国王查理三世周四在与英国政府举行的一场私人峰会上，与人工智能领域一些最知名的人物会面，其中包括英伟达的黄仁勋、OpenAI 和 Anthropic 的高管、英国新任 AI 大臣卡尼什卡·纳拉扬，以及英国对外情报机构负责人。为教皇提供 AI 建议的保罗·贝南蒂也出席了此次会议。

这场峰会在查理三世慈善基金会名下、位于艾尔郡的18世纪庄园敦弗里斯宫举行。国王在会上的发言之所以引人关注，是因为出于宪政传统，英国王室通常十分谨慎，避免深入涉及政治议题——而 AI 正是当下全球最具争议的话题之一。查理三世敦促现场领袖们想办法在“为时已晚之前”找到控制 AI 的方法，并表示这项技术的快速发展及其“本质”既令人着迷，也令人深感担忧。

他说：“AI 已经展现出改善和挽救生命的巨大能力。”并以医学和科学领域为例。“然而，创造这些技术的人们如今却越来越多地警告说，AI 存在发展出更为黑暗能力的风险，甚至可能夺走生命。”这番话发表前几天，一名 Anthropic 研究员刚刚辞职，并在网上撰文称，AI 公司正在“争相打造比任何人类都聪明得多的机器”，而人类“或许无法在这场竞赛中幸存”。

国王接着表示，当前亟需认真思考这项技术一旦落入不法之手、并被用于“潜在灾难性方式”所带来的“生存层面的危险”。

他说：“难道我们不应该在为时已晚之前，拥有足够的手段来加以控制吗？”在演讲结束时，查理三世呼吁各方领袖找到方法，既能发挥 AI 的积极作用，又能建立国际合作与共识来实现这一目标。（这番表态是在 Anthropic 关闭其 Fable 和 Mythos 模型对非美国用户的访问权限、震惊欧洲科技圈、并引发外界对“AI 主权”概念的广泛讨论之后发出的。）

他在演讲结尾说道：“摆在你们面前的任务，不仅仅是推动技术进步，更要确保这项技术始终服务于人类、社会与自然世界。”“在拥抱新事物的同时，我们不能失去那些历久弥新的价值。”

据媒体报道，国王在现场停留了大约20分钟，随后让与会嘉宾继续就相关议题展开讨论。此次峰会上，OpenAI 派出了首席财务官萨拉·弗莱尔，Anthropic 则派出负责全球事务的蒂诺·奎利亚尔出席。在被媒体问及此事时，奎利亚尔表示，公司很荣幸能参与此次讨论，并感谢国王“召集业界领袖及社会各界声音，共同探讨 AI 在服务公共利益方面所扮演的角色”。

这并非查理三世首次就 AI 带来的挑战与益处发表看法，他此前已在2023年和2024年分别谈及这一话题。不过，此次峰会的召开时机格外重要，因为 AI 目前正持续主导着各行各业以及各种形式的讨论话题。就在本月，OpenAI 的萨姆·奥特曼、埃隆·马斯克以及 Anthropic 的达里奥·阿莫代伊呼吁放缓 AI 发展步伐，但英伟达的黄仁勋和美国总统唐纳德·特朗普迅速对此表示反对。特朗普表示：“我们在 AI 领域领先于中国。我们是全世界技术最先进的国家，坦白说，我希望继续保持这一地位，因为谁赢得了 AI，谁就赢得了一切。”

这一切都表明，随着大型科技公司、政治与社会各方利益的相互交织，这一议题已变得愈发复杂。过去一年里，OpenAI 和 Anthropic 一直在为备受瞩目的 IPO 做铺垫，不过 OpenAI 近期表示，由于外界对 AI 安全性的担忧持续存在，其今年的 IPO 计划已被搁置。

Q&A

Q1：查理三世在AI峰会上具体说了什么？

A：查理三世表示，AI已展现出改善和挽救生命的巨大能力，但也存在发展出更黑暗能力甚至夺走生命的风险，他呼吁各方领袖在“为时已晚之前”找到控制AI的方法，并建立国际合作与共识。

Q2：这次AI峰会都有哪些重要人物参加？

A：出席者包括英伟达的黄仁勋、OpenAI首席财务官萨拉·弗莱尔、Anthropic负责全球事务的蒂诺·奎利亚尔、英国新任AI大臣卡尼什卡·纳拉扬、英国对外情报机构负责人，以及为教皇提供AI建议的保罗·贝南蒂。

Q3：为什么说这次国王发言比较罕见？

A：因为出于宪政传统，英国王室通常十分谨慎，避免深入涉及政治议题，而AI正是当下全球最具争议的话题之一，查理三世此次罕见地公开就AI风险发表了较为深入的看法。