“这是一场紧急事件。”这句话不是来自科幻电影,而是来自一封写给全球最负盛名的科学机构——英国皇家学会的公开信。
签署这封信的,是42位皇家学会院士及外籍院士。收信人则是皇家学会主席保罗·纳斯。信的核心诉求很直接:呼吁皇家学会动用其影响力,将AI带来的严重风险作为紧急事件对待,并传达给各国政府和媒体。
![]()
10%的灭绝概率,被定性为“严肃”
这封信里最扎眼的数字,是10%的灭绝概率。信的作者们明确表示,这个估计是严肃的,不是“炒作”。
他们同时给出了一个时间判断:等到这件事对更广泛的公众来说变得显而易见时,可能已经来不及采取行动了。
换句话说,这些顶尖头脑认为,风险窗口正在关闭,而公众感知还远远落后于现实。
“模型已在顶尖人类数学家水平运作”
信中对当前AI能力的描述同样值得注意。签署者指出,这些模型“正在顶尖人类数学家的水平上运作”,并且在未来几个月内,有相当大的可能达到超人类水平。
这个判断来自一群以数学为职业的人。他们比任何人都清楚,数学能力曾经被视为人类智能最难被复制的堡垒之一。当这个堡垒的墙上出现裂缝时,他们的警觉并非空穴来风。
他们选择致信皇家学会,而不是直接向公众喊话,逻辑也很清晰:皇家学会是全球最具声望的科学团体,它的声音能穿透政府走廊和媒体编辑部。科学家们希望借这个渠道,把“极端关切”变成政策议程上的优先项。
为什么是数学家先站出来
这封信的签署者身份本身就构成一个信号。数学家习惯于处理抽象系统、证明边界和概率估计。当他们用“紧急事件”来定义一件事时,背后通常不是情绪,而是对模型和推演结果的冷静评估。
信中没有展开具体的政策建议,也没有点名任何公司或产品。它只做了一件事:把风险等级标红,然后递给一个有能力放大这个信号的组织。
至于皇家学会是否会如信中所愿采取行动,目前还没有公开回应。但42位院士的联名,已经让这封信本身成为一次事件。
特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.