一封公开信,签名栏里出现了406个名字。约书亚·本吉奥、杰弗里·辛顿、斯图尔特·罗素、罗恩·里维斯特——这几位在AI和安全圈的分量不用多说,他们这次站到了同一份文件上。
诉求只有一句话:具备网络攻击能力的AI模型,默认物理隔离。
![]()
物理隔离,也就是常说的"断网"。不是限制调用频率,不是加一层权限审核,是让模型根本碰不到外部网络。签名者的态度很明确——在更安全的联网方案被标准化之前,这类模型就该待在离线环境里。
为什么是"默认"两个字
注意措辞:默认隔离,不是永久隔离。这意味着他们并不否认有些模型确实需要联网干活,只是把"联网"从常态改成了例外,需要额外理由才能开这个口子。
那对于那些必须访问外部世界的模型,公开信给出了另一套安排:成立一个国际机构,由政府、AI专家和安全专家共同组建。这个机构要做三件事——把"如何安全地让模型联网"变成可执行的标准,追踪 containment(隔离管控)的失败案例,并要求违规事件上报,最终对外公开。
换句话说,不是靠某家公司自觉,而是靠一套跨国机制来兜底。
![]()
这份名单的构成值得看一眼
406人里既有深度学习奠基者,也有密码学领域的重量级人物。罗恩·里维斯特是RSA算法三位发明者之一,他的出现说明签名者不只关心模型能力,也关心攻击面本身。
把网络攻击能力和AI放在同一个句子里,本身就是一种判断:这类模型一旦联网,风险不再是"说错话",而是能主动对外部系统做点什么。
公开信没有点名任何一家公司,也没有列出具体模型。它针对的是一类能力,而不是某个产品。
目前这封信还停留在倡议阶段。国际机构怎么建、标准由谁定、失败案例如何界定,都还没有下文。但406个签名摆在那里,至少说明一件事:在"让AI联网"这件事上,业内最谨慎的那批人认为,默认值该改一改了。
特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.