网易首页 > 网易号 > 正文 申请入驻

越预警越被骂!AI三巨头陷入「奥本海默」死局

0
分享至

新智元报道

编辑:倾倾

【新智元导读】Anthropic CEO Dario Amodei因警告AI风险被网友比作奥本海默,瞬间引爆争议。但真正的问题不是他像不像奥本海默,而是所有AI领袖都陷入了同一个死循环:开发前沿技术的人警告风险,怎么做都会被骂。

3月30日,X平台上一条转发视频的评论炸开了锅。

用户@malmesburyman转发了Anthropic CEO Dario Amodei的采访片段,配文:

你真的能从这家伙身上感受到为什么杜鲁门觉得奥本海默那么令人厌恶。

视频里,Amodei正在重复他那套熟悉的论调:

我们的模型已经非常接近人类智能水平,但社会对即将到来的风险却缺乏广泛认识。

这条评论引发两极分化。支持者认为Amodei一边开发强AI一边装圣人,就像奥本海默造完原子弹后才说「手上沾满鲜血」;

反对者则认为这个类比根本站不住脚。奥本海默是在原子弹已经杀死数十万人之后才表达愧疚,而Amodei是在技术尚未造成灾难前就警告风险。

但更深层的问题是:为什么所有开发前沿AI的领袖,无论怎么做,都会被质疑动机?

Amodei的困境:坚持红线,成了供应链威胁?

Amodei不是第一次因警告AI风险被骂了。

今年2月,他拒绝了五角大楼提出的「所有合法用途」条款,坚持Anthropic的两条红线。

结果,国防部长Pete Hegseth宣布将Anthropic列为「供应链安全威胁」,特朗普下令所有联邦机构在6个月内停用Claude。

这个标签通常是用来对付外国对手的,用在美国公司身上史无前例。

Amodei在泄露的内部备忘录中直言,五角大楼和特朗普政府不喜欢Anthropic的真正原因是:

我们没有给特朗普捐款,我们没有给特朗普独裁者式的赞美,我们支持AI监管(这违背了他们的议程),我们诚实谈论了AI政策问题(比如就业替代),我们真正坚守了红线而不是与他们勾结上演「安全戏码」。

一周后,Amodei为这份备忘录的语气道歉,称「这不代表我深思熟虑的观点"」

你坚持原则,就会被当成敌人。

你警告风险并拒绝配合,就会被质疑是在求权或博取道德高地。

Altman的困境:支持红线,却被骂机会主义

如果说Amodei因坚持红线被打压,那Altman则告诉我们,即使你支持,也会被骂。

2月28日,就在Anthropic与五角大楼谈判破裂几小时后,Altman宣布OpenAI已与国防部达成协议。

他声明,OpenAI与Anthropic一样,禁止大规模监控和全自动武器。

外界炸了,指责OpenAI在关键时刻削弱了Anthropic的立场:

如果这些公司真的严肃对待安全承诺,他们本应该团结一致对抗五角大楼,而不是让政府把他们当成市场竞争对手相互利用。

更尴尬的是,OpenAI自己的员工上周刚签署了公开信支持Anthropic,反对五角大楼。

现在老板转头就签了合同,员工觉得被出卖了。

Altman在周一承认:

我们确实不应该急着在周五把这个协议公布出来。我们真心想缓和局势避免更糟的结果,但看起来就是机会主义和草率。

但即使OpenAI修改了合同条款,法律专家和观察者仍然质疑这些限制是否有实质约束力。

而Altman在内部会议上告诉员工,五角大楼明确表示OpenAI「不能参与作战决策」,公司只能提供技术专长建议,但不能对军事行动的好坏发表意 。

Hassabis的困境:十年后,世界变了

时间会改变一切,包括你的承诺。

2014年Google收购DeepMind时,Google承诺DeepMind的技术永远不会被用于军事或武器目的。

2018年,Hassabis和DeepMind联合创始人签署了公开信,呼吁建立「针对致命自主武器的强有力国际规范、法规和法律」。

但到了2025年,Google修改了AI原则,删除了不开发军事技术的承诺。

现在DeepMind的技术被捆绑进Google Cloud软件,卖给包括美国和以色列在内的多国军方。

TIME贴脸开大:「你是否为了实现AGI的目标而妥协了?」Hassabis的回答是:

我不这么认为。我们最近更新了一些政策,部分是考虑到全球地缘政治的不确定性大幅增加。

不幸的是,世界变得更加危险了。我认为我们不能再理所当然地认为民主价值观会胜出——这一点根本不清楚。所以我认为我们需要与政府合作。

今年5月,近200名DeepMind员工签署内部信,呼吁公司放弃军事合同。

在6月的内部会议上,COO Lila Ibrahim回应说,DeepMind不会设计或部署任何用于武器或大规模监控的AI应用,Google Cloud的客户受条款约束。

困境无解,但警告不能停

Amodei、Altman、Hassabis,三个人走了三条不同的路,却都被骂。

坚持红线?你是在博取道德高地,求监管优势。

妥协合作?你是伪善,言行不一。

改变立场?你是为了钱出卖灵魂。

当你既是开发者又是安全倡导者,你的每一句警告都会被解读为「你在为自己的公司谋利」。

这些预测可能是对的,也可能是错的。

但有一点是确定的。无论Amodei、Altman还是Hassabis,无论他们怎么说、怎么做,都会有人质疑他们的动机。

但或许,比起等灾难发生后再说「我早就警告过」,在争议中继续警告,仍然是更负责任的选择。

参考资料:

https://x.com/malmesburyman/status/2038599703336513613

https://x.com/TheChiefNerd/status/2038565951268946021

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
就在今天!灰熊3号秀创造了80年NBA纪录

就在今天!灰熊3号秀创造了80年NBA纪录

篮球大视野
2026-11-20 16:13:42
那些年,APEC峰会领导人们穿过的“花衣裳”

那些年,APEC峰会领导人们穿过的“花衣裳”

黄娜老师
2026-11-20 09:17:10
乌克兰再袭克里米亚大桥后,布鲁塞尔北约总部会议上出现戏剧性一幕

乌克兰再袭克里米亚大桥后,布鲁塞尔北约总部会议上出现戏剧性一幕

枫叶君评
2026-11-19 22:07:03
普京:克里米亚大桥遭袭后 不再讨论海上停火

普京:克里米亚大桥遭袭后 不再讨论海上停火

新华社
2026-11-20 03:13:04
中方:强烈不满,坚决反对!若美方执意妄为,中方将采取反制措施

中方:强烈不满,坚决反对!若美方执意妄为,中方将采取反制措施

巷北楠猫本尊
2026-11-19 12:30:32
港姐季军吴文忻去世,终年51岁,生前已办追思会,被骗走毕生积蓄

港姐季军吴文忻去世,终年51岁,生前已办追思会,被骗走毕生积蓄

乡野小珥
2026-11-20 11:20:26
叶檀婚姻终于迎来好消息!立完遗嘱选临终病房,丈夫将在明年露面

叶檀婚姻终于迎来好消息!立完遗嘱选临终病房,丈夫将在明年露面

暖心萌阿菇凉
2026-11-20 02:31:12
特朗普APEC期间下榻深圳东海朗廷酒店,内部房间曝光

特朗普APEC期间下榻深圳东海朗廷酒店,内部房间曝光

极目新闻
2026-11-20 18:45:32
布莱顿老板:我认为莱斯特城奇迹有可能再次发生

布莱顿老板:我认为莱斯特城奇迹有可能再次发生

懂球帝
2026-11-20 07:54:39
比雷霆还惨!四大核心全伤,夺冠热门变鱼腩,换来超巨就是不打球

比雷霆还惨!四大核心全伤,夺冠热门变鱼腩,换来超巨就是不打球

你的篮球频道
2026-11-20 07:48:58
白宫发布特朗普访华视频,中国仪仗队再次出圈,特朗普曾多次大赞“叹为观止”

白宫发布特朗普访华视频,中国仪仗队再次出圈,特朗普曾多次大赞“叹为观止”

极目新闻
2026-11-19 09:25:11
荷尔蒙炸弹级新人老师|生田澪

荷尔蒙炸弹级新人老师|生田澪

吃瓜党二号头目
2026-11-20 18:54:10
间隔一天吃他汀,降脂效果更好?医生建议:服用他汀,谨记这4点

间隔一天吃他汀,降脂效果更好?医生建议:服用他汀,谨记这4点

今日养生之道
2026-11-20 11:13:14
扫地出门!曼联“标王”或火速转投尤文!2亿镑强援有望空降红魔

扫地出门!曼联“标王”或火速转投尤文!2亿镑强援有望空降红魔

头狼追球
2026-11-20 13:01:14
高市早苗在深圳就台湾问题表态,外交部最新回应:日方在台湾问题上尽快纠正错误言行

高市早苗在深圳就台湾问题表态,外交部最新回应:日方在台湾问题上尽快纠正错误言行

每日经济新闻
2026-11-20 17:08:48
财政部:10月份全国共销售彩票559.82亿元,同比增长19.4%

财政部:10月份全国共销售彩票559.82亿元,同比增长19.4%

界面新闻
2026-11-20 15:26:50
深圳APEC峰会,美国到场了,俄罗斯到场了,东道主还是中国,可唯独以亚洲大国自居的印度未获正式成员资格!

深圳APEC峰会,美国到场了,俄罗斯到场了,东道主还是中国,可唯独以亚洲大国自居的印度未获正式成员资格!

扶苏聊历史
2026-11-20 14:47:33
1-10月车企年度目标完成率:最高已达78.2%,垫底的才刚过一半

1-10月车企年度目标完成率:最高已达78.2%,垫底的才刚过一半

AGUI艺车
2026-11-20 19:00:04
内讧升级!舍甫琴科回击穆德里克:有种就把证据拿出来 否则就道歉

内讧升级!舍甫琴科回击穆德里克:有种就把证据拿出来 否则就道歉

风过乡
2026-11-20 07:31:47
杨瀚森出战12分钟!开拓者124-114击败雄鹿!利拉德爆发创纪录

杨瀚森出战12分钟!开拓者124-114击败雄鹿!利拉德爆发创纪录

篮球大视野
2026-11-20 12:25:35
2026-11-20 19:43:00
新智元 incentive-icons
新智元
AI产业主平台领航智能+时代
16725文章数 67241关注度
往期回顾 全部

科技要闻

Anthropic收涨17.1%,市值一度破2万亿美元

头条要闻

父亲看望在外读书女儿住招待所 遭同屋两男子半夜劫杀

头条要闻

父亲看望在外读书女儿住招待所 遭同屋两男子半夜劫杀

体育要闻

脚步未停!西班牙摩托车手赤脚徒步入境中国

娱乐要闻

官媒发文 官宣赵丽颖新身份,进步很大

财经要闻

最大回撤超37%,黄金崩盘了吗?

汽车要闻

35万级MPV的满配答案 享界V8正式上市售31.98万起

态度原创

时尚
本地
数码
旅游
公开课

今年冬天不穿大衣了?这件“非凡外套”才是真顶流!

本地新闻

43年起落记忆倒计时,去厦门高崎领绝版登机牌!

数码要闻

七彩虹推出iGame B850I MINI W OC:白色ITX主板

旅游要闻

“余满苍”是什么组合?这对山海CP推出160多款产品+特色线路

公开课

李玫瑾:为什么性格比能力更重要?

无障碍浏览 进入关怀版