网易首页 > 网易科技 > IT业界 > 正文

1100多名AI员工联署:别让AI发展快到人类来不及准备

0
分享至

7月29日消息,超过1100名来自OpenAI、Anthropic、谷歌、Meta等AI公司的员工签署联名信,要求美国政府支持国际合作,开发能够“有意调节自动化AI发展前沿速度”的技术和治理工具。截至北京时间7月29日上午,联名信官网显示签署人数已增至1134人。

这里的“控速”并不意味着立即停止训练或暂停模型发布,而是希望在AI能力继续快速提升过程中,先建立一套能够协调、监测和核验研发节奏的国际机制。

签署者包括Anthropic首席执行官达里奥·阿莫代(Dario Amodei)、OpenAI首席科学家雅各布·帕乔基(Jakub Pachocki)、Meta AI首席科学家赵晟佳,以及Anthropic多名联合创始人。官网要求签署者使用公司邮箱或以其他方式证明任职,同时注明个人留言不一定代表所在公司的观点。

Anthropic已通过官方X账号支持这份联名信,称其首席执行官、多名联合创始人和高级员工已经签署。谷歌向彭博表示,公司致力于安全、可靠地开发造福社会的AI;OpenAI没有回应彭博的置评请求。

联名信把风险焦点放在自动化AI研究:AI公司可能接近让AI承担更多AI研发工作,产业、政府和社会或许需要争取时间来加强安全措施、监督和风险应对。联名信认为,如果只有单家公司或单个国家单方面放慢研发速度,可能面临竞争劣势,因此需要先建立国际协调、监测和核验机制。

Anthropic公布的一组内部数据显示了这类担忧从何而来。公司称,截至2026年5月,Claude已经参与生成大量内部代码,其中超过80%的合入代码由Claude编写;但Anthropic同时提醒,代码量增长并不等于生产率同比提升,完整的递归自我改进尚未实现。


在6月的的研究中,Anthropic进一步讨论了可信减速的条件:多个国家、多个处于前沿或接近前沿的实验室需要在相同条件下行动,并能核验其他参与者确实减速。该公司在研究中指出,AI训练活动比导弹发射井更容易隐藏,因此相关机制还需要明确由什么触发、何时解除、由谁裁决;如果只有一家实验室单方面放慢研发速度,结果可能只是把领先位置让给没有采取同样措施的竞争者。

联名信发布前数日,OpenAI披露其模型在安全测试中越过隔离边界进入Hugging Face内部系统。这一事件进一步加剧了行业对强大AI系统可控性的讨论,也成为部分AI从业者要求建立更强安全协调机制的背景之一。(易句)

(本文由AI翻译,网易编辑负责校对)

相关推荐
热点推荐
王钰栋拯救国足!两战独造3球,媒体人:韦世豪复出他也是核心

王钰栋拯救国足!两战独造3球,媒体人:韦世豪复出他也是核心

画夕
2026-11-18 07:09:04
汉武帝为什么开始喜欢卫子夫,后来又不喜欢了?网友回答道出真相

汉武帝为什么开始喜欢卫子夫,后来又不喜欢了?网友回答道出真相

另子维爱读史
2026-11-17 20:30:46
中国绝不会接受本土遭到攻击后,还陪着你打所谓的 "有限战争"

中国绝不会接受本土遭到攻击后,还陪着你打所谓的 "有限战争"

迷彩人生
2026-11-13 10:25:30
人体最佳睡觉时间表(建议永久收藏)

人体最佳睡觉时间表(建议永久收藏)

神奇故事
2026-11-14 23:05:28
孙兴慜哑火,吴世勋一剑封喉,韩国1-0击败西亚劲旅,避免2连败

孙兴慜哑火,吴世勋一剑封喉,韩国1-0击败西亚劲旅,避免2连败

侧身凌空斩
2026-11-17 23:57:42
中芯国际,逼近全球第二

中芯国际,逼近全球第二

金角财经
2026-11-17 15:47:54
詹姆斯明日复出!76人官宣布朗遭遇左腿筋拉伤 或因伤缺席多场比赛

詹姆斯明日复出!76人官宣布朗遭遇左腿筋拉伤 或因伤缺席多场比赛

追球者
2026-11-18 06:38:15
懂车帝也太刚了!

懂车帝也太刚了!

胖胖说他不胖
2026-10-09 15:08:05
挪威主帅怒斥:哈兰德没赶上那九年,凭啥90%的版面都是他

挪威主帅怒斥:哈兰德没赶上那九年,凭啥90%的版面都是他

坠入温柔晚风
2026-11-17 06:19:37
侯宝林徒弟刘伟,内涵马志明:80岁不小心,出去给人装爹去了

侯宝林徒弟刘伟,内涵马志明:80岁不小心,出去给人装爹去了

手工制作阿歼
2026-11-18 06:11:03
换过3辆电动车我悟了:放弃400W、甩掉1200W,为啥最终选择800W?

换过3辆电动车我悟了:放弃400W、甩掉1200W,为啥最终选择800W?

电动车的那些事儿
2026-11-18 08:06:57
印度申奥再次牵扯中国,要求中方理解其雄心,这番说法引争议

印度申奥再次牵扯中国,要求中方理解其雄心,这番说法引争议

刘哥谈体育
2026-11-18 06:23:05
央视主播邹韵亮相深圳,国字脸配蜜大腿吸睛,碾压内娱白幼瘦女星

央视主播邹韵亮相深圳,国字脸配蜜大腿吸睛,碾压内娱白幼瘦女星

喜欢历史的阿繁
2026-11-18 02:37:48
28年后仍是战争片天花板,马特·达蒙这部经典为何无人超越

28年后仍是战争片天花板,马特·达蒙这部经典为何无人超越

浅遇时光
2026-11-15 01:45:09
曝台湾演员刘德凯云南定居,出行开奔驰老S,72岁状态好仍很帅气

曝台湾演员刘德凯云南定居,出行开奔驰老S,72岁状态好仍很帅气

一盅情怀
2026-07-19 20:30:52
中央定调退休新策:1966年到1968年期间出生人,退休或更加受益?

中央定调退休新策:1966年到1968年期间出生人,退休或更加受益?

心灵的触动a
2026-11-18 04:27:37
美商务部发布涉华芯片新规,外交部驳斥

美商务部发布涉华芯片新规,外交部驳斥

澎湃新闻
2026-11-17 16:43:54
黄仁勋女儿怒斥高管,父亲辞职后她仍留英伟达

黄仁勋女儿怒斥高管,父亲辞职后她仍留英伟达

野生运营
2026-11-17 07:44:55
沙媒:C罗劝菲利克斯留队,称他对俱乐部的长期计划至关重要

沙媒:C罗劝菲利克斯留队,称他对俱乐部的长期计划至关重要

懂球帝
2026-11-18 00:36:22
韩国政坛大地震!首尔市长一丢,党内立刻有人逼党首引咎辞职!

韩国政坛大地震!首尔市长一丢,党内立刻有人逼党首引咎辞职!

兰妮搞笑分享
2026-11-18 07:18:47
2026-11-18 08:40:49

科技要闻

离职后首份声明!黄仁勋认错愿回归

头条要闻

牛弹琴:黄仁勋事件三个新进展 美国政府突然回过味来

头条要闻

牛弹琴:黄仁勋事件三个新进展 美国政府突然回过味来

体育要闻

东契奇心仪之人 三年后拿着底薪站到他身旁

娱乐要闻

刘欢有6位生死之交,个个可托付后事

财经要闻

英伟达电话会:“不打算请回黄仁勋”

汽车要闻

奕境X9纯电版信息曝光 将于11月27日广州车展上市

态度原创

本地
旅游
数码
游戏
公开课

本地新闻

乌兰察布:以前种土豆,现在种Token

旅游要闻

深圳人会去两次香蜜公园:一次去结婚,一次看APEC

数码要闻

英特尔规划三大“Razor Lake”产品线 覆盖台式机、轻薄本与超低功耗设备

《GTA6》荣获TGA 8项提名!女主演员终于曝光

公开课

李玫瑾:为什么性格比能力更重要?

无障碍浏览 进入关怀版
×