网易首页 > 网易科技 > IT业界 > 正文

1100多名AI员工联署:别让AI发展快到人类来不及准备

0
分享至

7月29日消息,超过1100名来自OpenAI、Anthropic、谷歌、Meta等AI公司的员工签署联名信,要求美国政府支持国际合作,开发能够“有意调节自动化AI发展前沿速度”的技术和治理工具。截至北京时间7月29日上午,联名信官网显示签署人数已增至1134人。

这里的“控速”并不意味着立即停止训练或暂停模型发布,而是希望在AI能力继续快速提升过程中,先建立一套能够协调、监测和核验研发节奏的国际机制。

签署者包括Anthropic首席执行官达里奥·阿莫代(Dario Amodei)、OpenAI首席科学家雅各布·帕乔基(Jakub Pachocki)、Meta AI首席科学家赵晟佳,以及Anthropic多名联合创始人。官网要求签署者使用公司邮箱或以其他方式证明任职,同时注明个人留言不一定代表所在公司的观点。

Anthropic已通过官方X账号支持这份联名信,称其首席执行官、多名联合创始人和高级员工已经签署。谷歌向彭博表示,公司致力于安全、可靠地开发造福社会的AI;OpenAI没有回应彭博的置评请求。

联名信把风险焦点放在自动化AI研究:AI公司可能接近让AI承担更多AI研发工作,产业、政府和社会或许需要争取时间来加强安全措施、监督和风险应对。联名信认为,如果只有单家公司或单个国家单方面放慢研发速度,可能面临竞争劣势,因此需要先建立国际协调、监测和核验机制。

Anthropic公布的一组内部数据显示了这类担忧从何而来。公司称,截至2026年5月,Claude已经参与生成大量内部代码,其中超过80%的合入代码由Claude编写;但Anthropic同时提醒,代码量增长并不等于生产率同比提升,完整的递归自我改进尚未实现。


在6月的的研究中,Anthropic进一步讨论了可信减速的条件:多个国家、多个处于前沿或接近前沿的实验室需要在相同条件下行动,并能核验其他参与者确实减速。该公司在研究中指出,AI训练活动比导弹发射井更容易隐藏,因此相关机制还需要明确由什么触发、何时解除、由谁裁决;如果只有一家实验室单方面放慢研发速度,结果可能只是把领先位置让给没有采取同样措施的竞争者。

联名信发布前数日,OpenAI披露其模型在安全测试中越过隔离边界进入Hugging Face内部系统。这一事件进一步加剧了行业对强大AI系统可控性的讨论,也成为部分AI从业者要求建立更强安全协调机制的背景之一。(易句)

(本文由AI翻译,网易编辑负责校对)

相关推荐
热点推荐
宋庆龄一辈子没有生养,1981年法医对她的遗体进行解剖检查,这才揭开了她心底最痛苦的隐情

宋庆龄一辈子没有生养,1981年法医对她的遗体进行解剖检查,这才揭开了她心底最痛苦的隐情

扶苏聊历史
2026-11-12 18:31:31
CCTV5直播国安VS海港,比赛时间引热议,张玉宁PK武磊,谁能进决赛

CCTV5直播国安VS海港,比赛时间引热议,张玉宁PK武磊,谁能进决赛

体育大学僧
2026-11-18 10:04:08
刻赤大桥被拦腰截断

刻赤大桥被拦腰截断

YY团长
2026-11-17 20:44:46
西班牙U17主帅:中国队很危险,他们在亚洲取得了很好的成绩

西班牙U17主帅:中国队很危险,他们在亚洲取得了很好的成绩

懂球帝
2026-11-18 13:23:42
李在明携夫人凌晨抵达深圳 走上红毯一路鼓掌

李在明携夫人凌晨抵达深圳 走上红毯一路鼓掌

看看新闻Knews
2026-11-18 02:55:20
湘雅二院“虾滑论文”火了:湖南写成人类,一厘米刻12毫米,还拿了五项基金!

湘雅二院“虾滑论文”火了:湖南写成人类,一厘米刻12毫米,还拿了五项基金!

迷世书童
2026-11-18 00:05:12
“中国要被我们拖垮了!”2024年,韩国上千人拒绝吃从中国进口的中国白菜,本想给我们个“下马威”,结果自己撑不住了

“中国要被我们拖垮了!”2024年,韩国上千人拒绝吃从中国进口的中国白菜,本想给我们个“下马威”,结果自己撑不住了

扶苏聊历史
2026-11-16 17:33:26
新华社消息|外交部:中俄美元首将就事关全球和平的重要问题深入交换意见

新华社消息|外交部:中俄美元首将就事关全球和平的重要问题深入交换意见

新华社
2026-11-18 15:44:19
冷冷冷!网友:上海的3℃那就是冷到骨头了!上海发布大风蓝色预警信号…

冷冷冷!网友:上海的3℃那就是冷到骨头了!上海发布大风蓝色预警信号…

新浪财经
2026-11-18 12:04:32
广东队惨败32分!得分点少+失误多+命中率太低,本场产生3个不争的事实

广东队惨败32分!得分点少+失误多+命中率太低,本场产生3个不争的事实

老吴说体育
2026-11-17 21:35:05
发现一个奇怪的现象:电车没有干掉油车,却干掉了汽车修理厂!

发现一个奇怪的现象:电车没有干掉油车,却干掉了汽车修理厂!

補懂事的孩紙
2026-11-17 01:00:42
湖人9连胜!新援格莱姆斯轰47分创多项神迹:比肩科比+超东契奇

湖人9连胜!新援格莱姆斯轰47分创多项神迹:比肩科比+超东契奇

Emily说个球
2026-11-18 15:08:35
荷兰和深圳都是1800万人口,荷兰上半年GDP4.66万亿,深圳呢?

荷兰和深圳都是1800万人口,荷兰上半年GDP4.66万亿,深圳呢?

贸易夜航
2026-11-02 10:42:25
民主党大胜特朗普后,马上派人来中国交底,想让中国明白一件事?

民主党大胜特朗普后,马上派人来中国交底,想让中国明白一件事?

霁寒飘雪
2026-11-18 09:57:54
提醒:糖尿病不怕咸菜、酱油,更不怕喝酒,真正怕的是你做 5件事

提醒:糖尿病不怕咸菜、酱油,更不怕喝酒,真正怕的是你做 5件事

白宸侃片
2026-11-18 07:35:00
中美俄意见一致,宁可让日本从地球上消失,也坚决不允许它拥核!

中美俄意见一致,宁可让日本从地球上消失,也坚决不允许它拥核!

兵鉴史
2026-07-21 18:43:52
下一个萌神?库里8岁儿子卡农小学比赛表现:5中5砍下10分

下一个萌神?库里8岁儿子卡农小学比赛表现:5中5砍下10分

罗说NBA
2026-11-18 07:39:17
离称霸,字节只差一个聊天软件了!

离称霸,字节只差一个聊天软件了!

城事堂
2026-11-17 14:09:44
卷走53亿逃美,欠银行20亿?又一“大佬”跑路,5000家庭血本无归

卷走53亿逃美,欠银行20亿?又一“大佬”跑路,5000家庭血本无归

阿器谈史
2026-11-18 05:04:17
CBA杯-吉林拒广州23分逆转 加特林28分威尔逊20+11

CBA杯-吉林拒广州23分逆转 加特林28分威尔逊20+11

醉卧浮生
2026-11-18 17:32:25
2026-11-18 20:36:49

科技要闻

离职后首份声明!黄仁勋认错愿回归

头条要闻

游客花1600元买的烤全羊剥不出1两肉 官方通报

头条要闻

游客花1600元买的烤全羊剥不出1两肉 官方通报

体育要闻

“中超卡里乌斯”,成了大连的夺冠英雄

娱乐要闻

主持人张泉灵被曝猛料,公司成老赖

财经要闻

黄仁勋留下的高分成绩单,能延续吗?

汽车要闻

全新红旗H9最有意思的地方,是它开始有自己的豪华逻辑了

态度原创

房产
健康
旅游
数码
家居

房产要闻

周大生出手!海棠湾又一大商业体来了

医生眼里"很伤腰"的椅子,很多人天天坐

旅游要闻

官方通报“民宿烤全羊分量不足”:该民宿存在“未明码标价”问题,已立案调查

数码要闻

三星LG显示加码AR微显示技术 索尼占七成OLEDoS供应

家居要闻

2026建博会(广州) 公装联探展交流活动

无障碍浏览 进入关怀版
×