网易首页 > 网易号 > 正文 申请入驻

越预警越被骂!AI三巨头陷入「奥本海默」死局

0
分享至

新智元报道

编辑:倾倾

【新智元导读】Anthropic CEO Dario Amodei因警告AI风险被网友比作奥本海默,瞬间引爆争议。但真正的问题不是他像不像奥本海默,而是所有AI领袖都陷入了同一个死循环:开发前沿技术的人警告风险,怎么做都会被骂。

3月30日,X平台上一条转发视频的评论炸开了锅。

用户@malmesburyman转发了Anthropic CEO Dario Amodei的采访片段,配文:

你真的能从这家伙身上感受到为什么杜鲁门觉得奥本海默那么令人厌恶。

视频里,Amodei正在重复他那套熟悉的论调:

我们的模型已经非常接近人类智能水平,但社会对即将到来的风险却缺乏广泛认识。

这条评论引发两极分化。支持者认为Amodei一边开发强AI一边装圣人,就像奥本海默造完原子弹后才说「手上沾满鲜血」;

反对者则认为这个类比根本站不住脚。奥本海默是在原子弹已经杀死数十万人之后才表达愧疚,而Amodei是在技术尚未造成灾难前就警告风险。

但更深层的问题是:为什么所有开发前沿AI的领袖,无论怎么做,都会被质疑动机?

Amodei的困境:坚持红线,成了供应链威胁?

Amodei不是第一次因警告AI风险被骂了。

今年2月,他拒绝了五角大楼提出的「所有合法用途」条款,坚持Anthropic的两条红线。

结果,国防部长Pete Hegseth宣布将Anthropic列为「供应链安全威胁」,特朗普下令所有联邦机构在6个月内停用Claude。

这个标签通常是用来对付外国对手的,用在美国公司身上史无前例。

Amodei在泄露的内部备忘录中直言,五角大楼和特朗普政府不喜欢Anthropic的真正原因是:

我们没有给特朗普捐款,我们没有给特朗普独裁者式的赞美,我们支持AI监管(这违背了他们的议程),我们诚实谈论了AI政策问题(比如就业替代),我们真正坚守了红线而不是与他们勾结上演「安全戏码」。

一周后,Amodei为这份备忘录的语气道歉,称「这不代表我深思熟虑的观点"」

你坚持原则,就会被当成敌人。

你警告风险并拒绝配合,就会被质疑是在求权或博取道德高地。

Altman的困境:支持红线,却被骂机会主义

如果说Amodei因坚持红线被打压,那Altman则告诉我们,即使你支持,也会被骂。

2月28日,就在Anthropic与五角大楼谈判破裂几小时后,Altman宣布OpenAI已与国防部达成协议。

他声明,OpenAI与Anthropic一样,禁止大规模监控和全自动武器。

外界炸了,指责OpenAI在关键时刻削弱了Anthropic的立场:

如果这些公司真的严肃对待安全承诺,他们本应该团结一致对抗五角大楼,而不是让政府把他们当成市场竞争对手相互利用。

更尴尬的是,OpenAI自己的员工上周刚签署了公开信支持Anthropic,反对五角大楼。

现在老板转头就签了合同,员工觉得被出卖了。

Altman在周一承认:

我们确实不应该急着在周五把这个协议公布出来。我们真心想缓和局势避免更糟的结果,但看起来就是机会主义和草率。

但即使OpenAI修改了合同条款,法律专家和观察者仍然质疑这些限制是否有实质约束力。

而Altman在内部会议上告诉员工,五角大楼明确表示OpenAI「不能参与作战决策」,公司只能提供技术专长建议,但不能对军事行动的好坏发表意 。

Hassabis的困境:十年后,世界变了

时间会改变一切,包括你的承诺。

2014年Google收购DeepMind时,Google承诺DeepMind的技术永远不会被用于军事或武器目的。

2018年,Hassabis和DeepMind联合创始人签署了公开信,呼吁建立「针对致命自主武器的强有力国际规范、法规和法律」。

但到了2025年,Google修改了AI原则,删除了不开发军事技术的承诺。

现在DeepMind的技术被捆绑进Google Cloud软件,卖给包括美国和以色列在内的多国军方。

TIME贴脸开大:「你是否为了实现AGI的目标而妥协了?」Hassabis的回答是:

我不这么认为。我们最近更新了一些政策,部分是考虑到全球地缘政治的不确定性大幅增加。

不幸的是,世界变得更加危险了。我认为我们不能再理所当然地认为民主价值观会胜出——这一点根本不清楚。所以我认为我们需要与政府合作。

今年5月,近200名DeepMind员工签署内部信,呼吁公司放弃军事合同。

在6月的内部会议上,COO Lila Ibrahim回应说,DeepMind不会设计或部署任何用于武器或大规模监控的AI应用,Google Cloud的客户受条款约束。

困境无解,但警告不能停

Amodei、Altman、Hassabis,三个人走了三条不同的路,却都被骂。

坚持红线?你是在博取道德高地,求监管优势。

妥协合作?你是伪善,言行不一。

改变立场?你是为了钱出卖灵魂。

当你既是开发者又是安全倡导者,你的每一句警告都会被解读为「你在为自己的公司谋利」。

这些预测可能是对的,也可能是错的。

但有一点是确定的。无论Amodei、Altman还是Hassabis,无论他们怎么说、怎么做,都会有人质疑他们的动机。

但或许,比起等灾难发生后再说「我早就警告过」,在争议中继续警告,仍然是更负责任的选择。

参考资料:

https://x.com/malmesburyman/status/2038599703336513613

https://x.com/TheChiefNerd/status/2038565951268946021

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
奥斯卡影后当众承认隆胸:是全新的,全C罩杯

奥斯卡影后当众承认隆胸:是全新的,全C罩杯

热搜摘要官
2026-11-20 20:07:43
菲总统小马科斯夸赞中方迎宾曲安排:温暖贴心!

菲总统小马科斯夸赞中方迎宾曲安排:温暖贴心!

看看新闻Knews
2026-11-21 17:50:41
慌啥子嘛,越来越不对劲了

慌啥子嘛,越来越不对劲了

大张的自留地
2026-11-21 13:02:04
普京向乌克兰军人“喊话”

普京向乌克兰军人“喊话”

参考消息
2026-11-21 15:58:07
在深圳坐车不拉窗帘看什么?特朗普回白宫自曝:路面修补的痕迹都没看到

在深圳坐车不拉窗帘看什么?特朗普回白宫自曝:路面修补的痕迹都没看到

快科技
2026-11-21 18:44:08
78岁中国体育大佬被查!曾担任篮协+羽协副主席 媒体人曝光内幕

78岁中国体育大佬被查!曾担任篮协+羽协副主席 媒体人曝光内幕

念洲
2026-11-21 13:12:32
何沁教授逝世

何沁教授逝世

极目新闻
2026-11-21 16:50:35
普林斯顿博士生被拘事件​​​曝更多内幕:14岁移居纽约,全家申请政治庇护

普林斯顿博士生被拘事件​​​曝更多内幕:14岁移居纽约,全家申请政治庇护

小徐讲八卦
2026-11-21 10:28:27
A股关键时刻,重磅政策终于落地!大利好来了

A股关键时刻,重磅政策终于落地!大利好来了

星图金融研究院
2026-11-21 15:07:29
段永平再谈字节跳动6000亿美元估值:最近好几个私下找 想把股份卖我

段永平再谈字节跳动6000亿美元估值:最近好几个私下找 想把股份卖我

快科技
2026-11-21 18:44:08
别买,全是假的!又一产品大翻车,成本只有10元,很多人长期上当

别买,全是假的!又一产品大翻车,成本只有10元,很多人长期上当

命运自认幽默
2026-11-21 07:52:54
德州发布最新人事任免

德州发布最新人事任免

中国山东网
2026-11-21 12:52:14
希拉里发文炮轰特朗普:指责美总统“助纣为虐”,呼吁国会调查

希拉里发文炮轰特朗普:指责美总统“助纣为虐”,呼吁国会调查

麓谷隐士
2026-11-21 07:11:45
说出来你都不敢信,美国总统飞一趟中国,花出去的钱足足能买3辆全新的劳斯莱斯!

说出来你都不敢信,美国总统飞一趟中国,花出去的钱足足能买3辆全新的劳斯莱斯!

扶苏聊历史
2026-11-20 15:37:24
泽连斯基质疑美国对乌方区别对待:能帮以色列,那也可以支持乌克兰

泽连斯基质疑美国对乌方区别对待:能帮以色列,那也可以支持乌克兰

澎湃新闻
2026-11-21 17:40:05
北大医学博士薄世宁,在ICU工作25年,劝告你:在健康时一定要找个能托付的人!人老了,比生病更可怕的,是身边没有一个“自己人”

北大医学博士薄世宁,在ICU工作25年,劝告你:在健康时一定要找个能托付的人!人老了,比生病更可怕的,是身边没有一个“自己人”

背包旅行
2026-11-21 17:31:24
白宫记者:APEC欢迎宴会上 特朗普跳起标志性舞蹈

白宫记者:APEC欢迎宴会上 特朗普跳起标志性舞蹈

看看新闻Knews
2026-11-21 13:01:19
7亿!加索尔正式联手科比遗孀!瓦妮莎想开了,官宣决定

7亿!加索尔正式联手科比遗孀!瓦妮莎想开了,官宣决定

喜欢体育的猫
2026-11-21 10:36:48
丈夫说想睡小三,妻子挽留未果,2014年妻子叫小三来家拿年货,杀死他俩

丈夫说想睡小三,妻子挽留未果,2014年妻子叫小三来家拿年货,杀死他俩

汉史趣闻
2026-11-21 17:43:15
不匹配的高度,配得上谁?

不匹配的高度,配得上谁?

薇微笑语
2026-11-20 16:13:00
2026-11-21 20:47:00
新智元 incentive-icons
新智元
AI产业主平台领航智能+时代
16735文章数 67241关注度
往期回顾 全部

科技要闻

Anthropic收涨17.1%,市值一度破2万亿美元

头条要闻

电动摩托车爆燃致5人遇难 调查组:建议不追究车主刑责

头条要闻

电动摩托车爆燃致5人遇难 调查组:建议不追究车主刑责

体育要闻

约基奇vs申京:最强的策应巨人?

娱乐要闻

虞书欣擦边自拍、霸凌同事、媒体点名?

财经要闻

走过三年牛市,黄金何去何从?

汽车要闻

35万级MPV的满配答案 享界V8正式上市售31.98万起

态度原创

本地
房产
手机
时尚
公开课

本地新闻

43年起落记忆倒计时,去厦门高崎领绝版登机牌!

房产要闻

黄埔商业规划曝光!科学城能级跃升,核心入场券已锁定

手机要闻

旗舰神U再战一年!曝华为Mate 90 Air搭载麒麟9020:Mate 80同款Soc

提升冬日幸福感的8件小事,太治愈了

公开课

李玫瑾:为什么性格比能力更重要?

无障碍浏览 进入关怀版