网易首页 > 网易号 > 正文 申请入驻

406名研究者联署:能搞网络攻击的AI,默认断网

0
分享至

一封公开信,签名栏里出现了406个名字。约书亚·本吉奥、杰弗里·辛顿、斯图尔特·罗素、罗恩·里维斯特——这几位在AI和安全圈的分量不用多说,他们这次站到了同一份文件上。

诉求只有一句话:具备网络攻击能力的AI模型,默认物理隔离。


物理隔离,也就是常说的"断网"。不是限制调用频率,不是加一层权限审核,是让模型根本碰不到外部网络。签名者的态度很明确——在更安全的联网方案被标准化之前,这类模型就该待在离线环境里。

为什么是"默认"两个字

注意措辞:默认隔离,不是永久隔离。这意味着他们并不否认有些模型确实需要联网干活,只是把"联网"从常态改成了例外,需要额外理由才能开这个口子。

那对于那些必须访问外部世界的模型,公开信给出了另一套安排:成立一个国际机构,由政府、AI专家和安全专家共同组建。这个机构要做三件事——把"如何安全地让模型联网"变成可执行的标准,追踪 containment(隔离管控)的失败案例,并要求违规事件上报,最终对外公开。

换句话说,不是靠某家公司自觉,而是靠一套跨国机制来兜底。


这份名单的构成值得看一眼

406人里既有深度学习奠基者,也有密码学领域的重量级人物。罗恩·里维斯特是RSA算法三位发明者之一,他的出现说明签名者不只关心模型能力,也关心攻击面本身。

把网络攻击能力和AI放在同一个句子里,本身就是一种判断:这类模型一旦联网,风险不再是"说错话",而是能主动对外部系统做点什么。

公开信没有点名任何一家公司,也没有列出具体模型。它针对的是一类能力,而不是某个产品。

目前这封信还停留在倡议阶段。国际机构怎么建、标准由谁定、失败案例如何界定,都还没有下文。但406个签名摆在那里,至少说明一件事:在"让AI联网"这件事上,业内最谨慎的那批人认为,默认值该改一改了。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
国人没有付费习惯,会拖垮国产大模型吗?

国人没有付费习惯,会拖垮国产大模型吗?

冰川思想库
2026-10-14 12:17:16
杨振宁去世1年,翁帆首谈感情,如果人生重来,她会放弃这个想法

杨振宁去世1年,翁帆首谈感情,如果人生重来,她会放弃这个想法

何嗀爱捕渔
2026-10-14 12:30:21
魏莹“陪睡”案新进展:魏婴母亲讲女儿陪睡原因,3个大哥:当时她没离婚

魏莹“陪睡”案新进展:魏婴母亲讲女儿陪睡原因,3个大哥:当时她没离婚

汉史趣闻
2026-10-13 09:58:10
3-4!国米跨赛季欧冠4连败 劳塔罗双响难救主 3500万德国红星戴帽

3-4!国米跨赛季欧冠4连败 劳塔罗双响难救主 3500万德国红星戴帽

我爱英超
2026-10-14 06:46:19
炸裂!日本妻子拍AV挽救婚姻,瞒夫出道老公崩溃,如今丈夫成粉丝

炸裂!日本妻子拍AV挽救婚姻,瞒夫出道老公崩溃,如今丈夫成粉丝

悠悠说世界
2026-08-17 13:48:27
身体出现这 5 个信号,说明你蛋白质吃得不够

身体出现这 5 个信号,说明你蛋白质吃得不够

增肌减脂
2026-10-11 18:35:12
官宣更换!王俊杰签大合同,新东家曝光,郭艾伦接班人!

官宣更换!王俊杰签大合同,新东家曝光,郭艾伦接班人!

体坛卡卡说
2026-10-13 20:26:08
情侣在瑞士雪山顶“撒欢”,就这么被全世界直播了···

情侣在瑞士雪山顶“撒欢”,就这么被全世界直播了···

新欧洲
2026-04-21 19:37:05
著名男星,和巨头闹翻了

著名男星,和巨头闹翻了

中国新闻周刊
2026-10-13 22:47:53
养老金大局定了? 从10月开始,大概率有3项调整,退休人早看早安

养老金大局定了? 从10月开始,大概率有3项调整,退休人早看早安

兵卒史
2026-10-13 14:41:01
聚餐饮酒后执意酒驾身亡,同饮人、餐厅经营者是否担责?

聚餐饮酒后执意酒驾身亡,同饮人、餐厅经营者是否担责?

新京报
2026-10-13 19:15:12
31岁新疆演员古力娜扎,一个月宅家到情绪崩溃,第一通求助电话打给杨迪?

31岁新疆演员古力娜扎,一个月宅家到情绪崩溃,第一通求助电话打给杨迪?

动物奇奇怪怪
2026-10-14 11:28:40
耐心正被消耗?巴基斯坦有识之士疾呼:别等被中国抛弃才悔不当初

耐心正被消耗?巴基斯坦有识之士疾呼:别等被中国抛弃才悔不当初

历史的烟火
2026-10-13 11:39:22
美日决裂?高市踩中特朗普死穴,关键时刻'叛变',白宫准备动手

美日决裂?高市踩中特朗普死穴,关键时刻'叛变',白宫准备动手

独舞独舞
2026-10-13 13:07:50
第三轮第七批中央生态环境保护督察全面启动

第三轮第七批中央生态环境保护督察全面启动

人民网
2026-10-13 07:06:49
朱可夫晚年吐露:1951年苏联援华军火数量大得惊人,多年后他才说出那批物资背后不为人知的内情?

朱可夫晚年吐露:1951年苏联援华军火数量大得惊人,多年后他才说出那批物资背后不为人知的内情?

回京历史梦
2026-09-25 18:25:33
广州豹冲入中超!球迷联盟:他们不是广州球迷的新主队 不能接班恒大

广州豹冲入中超!球迷联盟:他们不是广州球迷的新主队 不能接班恒大

念洲
2026-10-13 15:19:01
为何大批年轻人笃定:自己退休根本领不到养老金?全民焦虑

为何大批年轻人笃定:自己退休根本领不到养老金?全民焦虑

白米饭怎么吃
2026-08-15 21:02:53
今年的诺贝尔化学奖,是人类有史以来最伟大的奖项!

今年的诺贝尔化学奖,是人类有史以来最伟大的奖项!

梦归秋辰
2026-10-13 09:34:54
“父亲开大奔,才能养出这种女儿”,浙大女孩开学一幕火了,长相普通但气质一流

“父亲开大奔,才能养出这种女儿”,浙大女孩开学一幕火了,长相普通但气质一流

知晓科普
2026-10-09 09:34:31
2026-10-14 14:28:49
报错免疫体
报错免疫体
一名在需求评审和数据异常中反复横跳的产品运营。
208文章数 76关注度
往期回顾 全部

科技要闻

两大厂接连挖人,明星AI公司申请破产保护

头条要闻

牛弹琴:美国果然釜底抽薪了 特朗普180度大转弯

头条要闻

牛弹琴:美国果然釜底抽薪了 特朗普180度大转弯

体育要闻

30天30队·太阳:金毛、比特、杜宾和二哈

娱乐要闻

蔡卓妍回应张致恒欠钱不还 不指望还钱

财经要闻

AI短剧正在毁掉中年男人?

汽车要闻

豪华智能全拉满 比亚迪大汉不止旗舰级舒适

态度原创

时尚
教育
房产
本地
军事航空

战鹰:一个天才少女的「滑落」

教育要闻

父母过度安抚,正在养出玻璃心的孩子

房产要闻

巨无霸来了!海口百亿大盘,正式动工!

本地新闻

这个十一,林都伊春彻底出圈!

军事要闻

特朗普称俄乌都同意“能源停火” 俄方回应

无障碍浏览 进入关怀版