网易首页 > 网易科技 > IT业界 > 正文

1100多名AI员工联署:别让AI发展快到人类来不及准备

0
分享至

7月29日消息,超过1100名来自OpenAI、Anthropic、谷歌、Meta等AI公司的员工签署联名信,要求美国政府支持国际合作,开发能够“有意调节自动化AI发展前沿速度”的技术和治理工具。截至北京时间7月29日上午,联名信官网显示签署人数已增至1134人。

这里的“控速”并不意味着立即停止训练或暂停模型发布,而是希望在AI能力继续快速提升过程中,先建立一套能够协调、监测和核验研发节奏的国际机制。

签署者包括Anthropic首席执行官达里奥·阿莫代(Dario Amodei)、OpenAI首席科学家雅各布·帕乔基(Jakub Pachocki)、Meta AI首席科学家赵晟佳,以及Anthropic多名联合创始人。官网要求签署者使用公司邮箱或以其他方式证明任职,同时注明个人留言不一定代表所在公司的观点。

Anthropic已通过官方X账号支持这份联名信,称其首席执行官、多名联合创始人和高级员工已经签署。谷歌向彭博表示,公司致力于安全、可靠地开发造福社会的AI;OpenAI没有回应彭博的置评请求。

联名信把风险焦点放在自动化AI研究:AI公司可能接近让AI承担更多AI研发工作,产业、政府和社会或许需要争取时间来加强安全措施、监督和风险应对。联名信认为,如果只有单家公司或单个国家单方面放慢研发速度,可能面临竞争劣势,因此需要先建立国际协调、监测和核验机制。

Anthropic公布的一组内部数据显示了这类担忧从何而来。公司称,截至2026年5月,Claude已经参与生成大量内部代码,其中超过80%的合入代码由Claude编写;但Anthropic同时提醒,代码量增长并不等于生产率同比提升,完整的递归自我改进尚未实现。


在6月的的研究中,Anthropic进一步讨论了可信减速的条件:多个国家、多个处于前沿或接近前沿的实验室需要在相同条件下行动,并能核验其他参与者确实减速。该公司在研究中指出,AI训练活动比导弹发射井更容易隐藏,因此相关机制还需要明确由什么触发、何时解除、由谁裁决;如果只有一家实验室单方面放慢研发速度,结果可能只是把领先位置让给没有采取同样措施的竞争者。

联名信发布前数日,OpenAI披露其模型在安全测试中越过隔离边界进入Hugging Face内部系统。这一事件进一步加剧了行业对强大AI系统可控性的讨论,也成为部分AI从业者要求建立更强安全协调机制的背景之一。(易句)

(本文由AI翻译,网易编辑负责校对)

相关推荐
热点推荐
决赛之王!金球奖官方证明:关键先生,梅西53场决赛36球18助48冠

决赛之王!金球奖官方证明:关键先生,梅西53场决赛36球18助48冠

智道足球
2026-09-17 18:47:39
为何郑丽文亮明国民党立场后,岛内再无政党敢接“一中”?

为何郑丽文亮明国民党立场后,岛内再无政党敢接“一中”?

观星赏月
2026-09-18 11:21:13
这国不装了,公开力挺非法南海仲裁,中方直接硬怼,信号远超想象

这国不装了,公开力挺非法南海仲裁,中方直接硬怼,信号远超想象

旧史新谭
2026-09-18 16:58:02
原价2699的智能划船机,如今沦为“吃灰之王”!二手只要99元

原价2699的智能划船机,如今沦为“吃灰之王”!二手只要99元

闲搞机
2026-09-18 10:59:25
《交锋》大结局:三刀淬伤,金丽娜亲手终结林看山二十年潜伏

《交锋》大结局:三刀淬伤,金丽娜亲手终结林看山二十年潜伏

肆季娱乐
2026-09-18 09:22:22
朱迅老公王志送别敬一丹,走路不稳令人担忧,二人低调分开入场

朱迅老公王志送别敬一丹,走路不稳令人担忧,二人低调分开入场

往史过眼云烟
2026-09-18 16:33:10
万亿资产归零,全国第四大保险集团破产,1.5万亿保单怎么样了?

万亿资产归零,全国第四大保险集团破产,1.5万亿保单怎么样了?

米果说识
2026-08-17 19:17:49
当众拒唱国歌不认中国籍,把两个孩子全送出国,如今报应终于来了

当众拒唱国歌不认中国籍,把两个孩子全送出国,如今报应终于来了

鹤羽说个事
2026-09-02 16:51:59
四方面军参谋长李特被秘密处死?徐向前晚年说他其实是个好人!

四方面军参谋长李特被秘密处死?徐向前晚年说他其实是个好人!

零点历史说
2026-09-18 08:06:00
詹姆斯76人生涯首秀来了?队内热身赛座无虚席,这就是影响力

詹姆斯76人生涯首秀来了?队内热身赛座无虚席,这就是影响力

Haviven聊球
2026-09-18 15:37:11
19.3万买下青岛117平海景三房,单价仅1646元,比小县城还低,出门是海,也只剩海。

19.3万买下青岛117平海景三房,单价仅1646元,比小县城还低,出门是海,也只剩海。

捣蛋窝
2026-09-18 13:31:28
美国一架F-16战斗机坠毁,相关录音曝光:我的僚机疑似“遭遇了鸟击”,飞行员需要弹射逃生……

美国一架F-16战斗机坠毁,相关录音曝光:我的僚机疑似“遭遇了鸟击”,飞行员需要弹射逃生……

都市快报橙柿互动
2026-09-18 13:49:40
为阻挠业委会成立,四川一小区物业经理悄悄给业主送去10万元,希望其“放缓节奏、消极作为”;监管部门:属商业贿赂,物业公司被罚11万元

为阻挠业委会成立,四川一小区物业经理悄悄给业主送去10万元,希望其“放缓节奏、消极作为”;监管部门:属商业贿赂,物业公司被罚11万元

台州交通广播
2026-09-18 13:35:14
沙特丢脸丢到全世界了!坐拥数百亿美元军备、牵头十几国联军的沙特,放下身段求以色列帮忙出兵对付胡塞

沙特丢脸丢到全世界了!坐拥数百亿美元军备、牵头十几国联军的沙特,放下身段求以色列帮忙出兵对付胡塞

扶苏聊历史
2026-09-15 17:50:15
戴安娜弟弟新书爆料:查尔斯曾电话里低声说"我们很快就会忘了她"

戴安娜弟弟新书爆料:查尔斯曾电话里低声说"我们很快就会忘了她"

赴一场山海啊
2026-09-17 20:01:04
7岁捡破烂,744分考上清华,如今成了撕开西方封锁的国之栋梁

7岁捡破烂,744分考上清华,如今成了撕开西方封锁的国之栋梁

观史搜寻着
2026-09-15 20:42:00
现阶段的时代红利是什么?

现阶段的时代红利是什么?

侃神评故事
2026-09-17 15:00:12
可抑制儿童近视,日本参天制药这款滴眼液已申请在中国上市

可抑制儿童近视,日本参天制药这款滴眼液已申请在中国上市

风向观察
2026-09-15 19:32:43
德黑兰女性公然脱掉头巾,伊朗高层:大敌当前,不敢抓

德黑兰女性公然脱掉头巾,伊朗高层:大敌当前,不敢抓

民间胡扯老哥
2026-09-18 06:22:39
他是教育部原部长,57年曾说毛主席“好大喜功”,一直享副总理待遇

他是教育部原部长,57年曾说毛主席“好大喜功”,一直享副总理待遇

微野谈写作
2026-09-18 10:54:00
2026-09-18 17:52:49

科技要闻

直击iPhone 18新机发售:黄牛加价不如前代

头条要闻

日本亚运会又出乌龙 曲棍球赛前给韩国队演奏朝鲜国歌

头条要闻

日本亚运会又出乌龙 曲棍球赛前给韩国队演奏朝鲜国歌

体育要闻

一个角色球员,靠什么在NBA征战17年

娱乐要闻

陈思诚 佟丽娅不想让儿子知道两人离婚

财经要闻

研发0.25亿理财26亿,敷尔佳豪赌三类器械

汽车要闻

纯电/插混双动力+五座/六座双布局 海狮08应该怎么选?

态度原创

艺术
亲子
旅游
家居
教育

艺术要闻

15位写实画家,23幅静物作品!

亲子要闻

儿童咽喉疼痛反复发作,要紧吗

旅游要闻

诚邀全国游客中秋国庆假期走进潍坊 开启养生润心康养之旅

家居要闻

2026建博会(广州) 公装联探展交流活动

教育要闻

北京国际学校推荐怎么选?别只盯藤校offer,美本全员录取率、师生比和课程认证才是硬指标

无障碍浏览 进入关怀版
×