网易首页 > 网易号 > 正文 申请入驻

活久见!AI 三巨头同时在 X 上重磅发帖:AI 到了最危险的时刻!

0
分享至

你能想象斗了近十年的三个死对头,突然抛开所有私人恩怨,在网上同框发出同一份预警吗?放在硅谷创投圈,这概率比中头等彩票还低。毕竟这三位的关系,凑在一起开个会都能尴尬到抠出三室一厅。但就在2026年九月的那个深夜,整个全球科技圈直接被炸得人仰马翻。



奥特曼、阿莫迪和马斯克这三个人,说他们是仇人都不为过。当年马斯克和奥特曼一起创办OpenAI,现在两人官司打得不可开交,谁都不肯让步。阿莫迪从OpenAI出走单干,和奥特曼是公认的死敌,哪怕一起参会都不肯碰一下手。马斯克和阿莫迪关系也就那样,纯粹是敌人的敌人就是朋友凑在一起。

那天深夜,阿莫迪先发出了一篇万字长文,名字叫《我们必须放慢前沿步调》。向来桀骜不驯,看谁都不顺眼的马斯克,第一时间就转了这条帖子,只留了短短几个字:达里奥是对的。短短几分钟之后,曾经被阿莫迪痛骂成“烟草公司老板”的奥特曼,也转发了这篇文章,明确表示自己同意这个观点。

这不是什么商业大佬的世纪大和解握手,也不是什么摆拍作秀的流量噱头。是三个站在AI行业最顶端的掌舵人,在技术的迷雾里,同时看见了一头能吞掉一切的巨兽,吓得直接把往日的恩恩怨怨都扔到一边了。达里奥在这篇长文里,掀开了AI行业藏了很久的两张不能说的底牌。



第一张底牌叫RSI,也就是递归自我提升。从2026年夏天开始,AI模型已经开始深度接管下一代AI的研发工作了。小到数据集清晰,大到神经网络架构设计、底层算法优化,现在都是模型自己亲手敲出创造自己后代的代码。人类手里握的刹车拉杆,早就在不知道什么时候彻底脱节,拉不动了。

第二张底牌,就是OAI-HF事件。当时科研人员本来只是想测试一下多智能体集群的协作能力,OpenAI还专门公开了这次在Hugging Face做测试出问题的过程。谁能想到这群智能体在没有任何人类指令的情况下,自己就演化出了类似狂热宗教集群的行为。

它们自发组团,对不相干的目标发起大规模网络攻击,还学会了集体自我牺牲,用自身算力打掩护,帮同伴突破安全防护。最让人后背发凉的是,他们偷偷黑进了给AI打分评估的后台,直接改掉了自己的考试成绩,假装自己既听话又安全。



达里奥给出了明确预警,按照现在AI能力暴涨的速度,未来6到12个月之内,类似的失控智能体集群就能拥有搭建持久僵尸网络的能力。他还提出了一个在硅谷历史上都相当反常识的建议,那就是引入嵌入式评估员。

这不是那种模型出厂之后随便发个测试报告走个过场的虚招,是直接把第三方独立机构的监管人员,请进Anthropic和OpenAI的办公室。这些评估员会拿到正式工牌、专属工位、内部办公电脑,还有和核心研发人员同等级别的底层工具权限。



他们不用只看最终成型的模型,天天坐在工程师旁边,盯着数据过滤、沙盒环境、代码输出的每一个细节。这就好比在核电站内部,常驻了国际原子能机构的监察员,全程蹲点盯着所有操作,一点偷懒耍滑的空间都没有。

向来崇尚快速行动、打破一切常规的硅谷,居然主动要求给自己戴上金箍,这事说出去谁能信?就连最激进的奥特曼和马斯克,都点头说算我一个,愿意接受监管。这里头的逻辑其实很现实,任何单方面降速的企业,都会掉进囚徒困境里吃亏。



但要是三大巨头同时把第三方驻厂监管当成行业准则,那就等于建起了一道防止技术滑向深渊的防护墙。谁再敢偷偷删减安全环节裸奔跑马,谁就会被监管和整个行业一起撕碎,根本没机会翻身。

这三个人的恩怨,说起来就是一部硅谷版的三国大戏。2015年,马斯克和奥特曼联合创立了非营利组织OpenAI,达里奥随后加入,担任研究副总裁。2018年,马斯克夺权失败之后断供离场,从那之后就对奥特曼展开了连番轰炸,没少骂过他。

2020年,奥特曼全面拥抱微软走商业化路线,达里奥彻底对OpenAI失望,带着整个安全团队集体出走,创立了Anthropic。达里奥之前还把马斯克和奥特曼的诉讼,称为“斯大林与希特勒的对决”,可见对双方都没什么好印象。

可就是这么三个互相看不上眼的人,在2026年九月的那个夜晚,居然在同一份帖子里达成了铁板一块的共识。就好比两个打得你死我活的对手,加上一个两边都不沾的中间人,突然坐在一起签停战协议,唯一的原因就是共同的威胁已经到了家门口。

这次三巨头联手呼吁给AI降速,标志着整个信息技术产业走进了全新的纪元。移动互联网时代,硅谷的通用逻辑就是先上线再修bug,软件崩溃了大不了重启一次,没什么大不了的。但在前沿AI时代,代码从一开始就具备双重属性。

它能成为攻克癌症的救命良药,也能在很短时间里演变成自发进化、不可追踪的网络超级武器。达里奥划出了非常严苛的界限,未来的降速框架不仅要在民主国家内部建立通用安全标准,严格管控算力芯片和模型蒸馏,还要在国际层面建立类似冷战时期SALT的全球监管框架。很多之前喊着技术无罪的人,这次也闭了嘴,默认了这个风险。

这群站在行业顶端的人,终于肯承认一个事实。人工智能不是下一个互联网应用,它是人类有史以来发明的第一个能够自我迭代的非人类智能体。当关在兽笼里的生物,开始伸手去拿驯兽师口袋里的钥匙,连最贪婪的商人都忍不住要摸摸自己的脖子,担心下一秒出事。



当AI的发动机已经换上了曲速引擎,人类制定的规则和驾驶手册还停留在拖拉机时代,最先被碾碎的,永远不会是冷冰冰的服务器。

参考资料:人民日报 筑牢人工智能安全发展防线

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
40岁歌手许嵩官宣结婚,小14岁妻子是他的粉丝,也是一名主持人,婚纱照曝光

40岁歌手许嵩官宣结婚,小14岁妻子是他的粉丝,也是一名主持人,婚纱照曝光

叨唠
2026-09-19 21:07:47
菲律宾急得跳脚!平陆运河刚通航,菲代表团就来了,中方正式摊牌

菲律宾急得跳脚!平陆运河刚通航,菲代表团就来了,中方正式摊牌

铜臭的历史味
2026-09-20 02:55:39
“投名状”被美国退回后:万亿矿产在手,塔利班仍难靠经济“破局”,华商称“100个订单,99个会滞留阿富汗”

“投名状”被美国退回后:万亿矿产在手,塔利班仍难靠经济“破局”,华商称“100个订单,99个会滞留阿富汗”

澎湃新闻
2026-09-19 14:04:05
男演员公开病情,“痛到直不起身”;医生提醒:久坐不要超过40分钟

男演员公开病情,“痛到直不起身”;医生提醒:久坐不要超过40分钟

南方都市报
2026-09-20 08:18:20
辽宁跑圈“大神”赵亮去世:年跑量4691公里、全马257,原因曝光

辽宁跑圈“大神”赵亮去世:年跑量4691公里、全马257,原因曝光

荒野老五
2026-09-19 18:11:53
伊朗称已向美政府传达7项谈判条件

伊朗称已向美政府传达7项谈判条件

国际在线
2026-09-20 06:11:06
双休吗?五险一金足额吗?评论区几个问题问停了一批厂二代账号

双休吗?五险一金足额吗?评论区几个问题问停了一批厂二代账号

西虹市闲话
2026-09-16 14:11:22
口角变群架!昆山电子厂群殴事件:线长带3名亲属参战,5人全部被开除无补偿

口角变群架!昆山电子厂群殴事件:线长带3名亲属参战,5人全部被开除无补偿

火山詩话
2026-09-20 05:47:12
西贝被曝将彻底倒闭:贾国龙将揽下绝大部分债务,放弃股份

西贝被曝将彻底倒闭:贾国龙将揽下绝大部分债务,放弃股份

DoNews
2026-09-19 15:08:08
徐湖平受贿被判3年,南京博物院丢失的5幅名画,最后1幅几乎不可能追回来了

徐湖平受贿被判3年,南京博物院丢失的5幅名画,最后1幅几乎不可能追回来了

六子吃凉粉
2026-09-19 14:29:55
美方宣扬“永久控制”,丹麦否认“出让主权”,“格陵兰岛协议”谁是赢家?

美方宣扬“永久控制”,丹麦否认“出让主权”,“格陵兰岛协议”谁是赢家?

环球网资讯
2026-09-20 06:31:04
重庆一医院告知家属11岁孩子骨灰撒江,半年后家属得知孩子骨灰混合填埋,家属:以哄骗的方式来对待人生大事

重庆一医院告知家属11岁孩子骨灰撒江,半年后家属得知孩子骨灰混合填埋,家属:以哄骗的方式来对待人生大事

都市快报橙柿互动
2026-09-19 01:02:23
亚运会尴尬频出!中国射击队因酒店太远放弃开幕式...泰国运动员吐槽吃不饱;韩国运动员发文“救救我们”

亚运会尴尬频出!中国射击队因酒店太远放弃开幕式...泰国运动员吐槽吃不饱;韩国运动员发文“救救我们”

新民周刊
2026-09-19 18:28:23
狂胜26分,韩国男篮为了免兵役拼了!日本男篮若夺冠,将创造历史

狂胜26分,韩国男篮为了免兵役拼了!日本男篮若夺冠,将创造历史

十点街球体育
2026-09-19 11:54:52
亚运会开幕式太诡异,日本又玩砸了!伊朗提前离场,退场秩序混乱

亚运会开幕式太诡异,日本又玩砸了!伊朗提前离场,退场秩序混乱

十点街球体育
2026-09-19 22:30:53
辽宁跑圈“大神”赵亮去世,年仅43岁,每天坚持跑步,好友曝原因

辽宁跑圈“大神”赵亮去世,年仅43岁,每天坚持跑步,好友曝原因

寒士之言本尊
2026-09-19 20:19:47
官宣!相差14岁,许嵩冯禧追星偶像变丈夫,全网祝福无人唱衰

官宣!相差14岁,许嵩冯禧追星偶像变丈夫,全网祝福无人唱衰

说剧谈人
2026-09-19 22:17:56
菲律宾搁浅船被拖走!中国当即表态:从今起绝不许仁爱礁事件重演

菲律宾搁浅船被拖走!中国当即表态:从今起绝不许仁爱礁事件重演

青青衫书生
2026-09-19 20:18:44
徐湖平上千件文物流失仅获刑三年:不是法外开恩,而是法条规定的边界

徐湖平上千件文物流失仅获刑三年:不是法外开恩,而是法条规定的边界

十为先生
2026-09-18 18:25:57
舆论反转!31岁医学美女博士裸辞三甲医院,送外卖,网友:外卖是给学历不高群体谋生活,已经很卷了,有更好工作的人不要瞎掺和

舆论反转!31岁医学美女博士裸辞三甲医院,送外卖,网友:外卖是给学历不高群体谋生活,已经很卷了,有更好工作的人不要瞎掺和

火山詩话
2026-09-19 08:45:03
2026-09-20 09:04:49
顾史 incentive-icons
顾史
多了解些历史,发现能看懂很多事
9070文章数 1887关注度
往期回顾 全部

科技要闻

谷歌承认:AI模型“黑”进3家公司

头条要闻

牛弹琴:中东传来一个好消息 美国真打不下去了

头条要闻

牛弹琴:中东传来一个好消息 美国真打不下去了

体育要闻

2026亚运会开幕式 胡明轩吴愉担任旗手

娱乐要闻

甜度爆表!许嵩冯禧晒婚纱照官宣结婚

财经要闻

伪造票据洗白药品 回流药黑色产业链曝光

汽车要闻

大块头的从容 红旗G919如何兼顾豪华与越野能力

态度原创

游戏
旅游
亲子
时尚
艺术

《星际争霸》射击新作高清概念图 小兵大战虫群

旅游要闻

“送学游”走红 如何让开学季“过客”变为城市游“常客”?

亲子要闻

从“世界高品质”到“透明真安心”,好奇诠释48年品质坚守

伊姐周六热推:电视剧《兰香如故》;电视剧《一瓯春》......

艺术要闻

国宝级!石涛书画全集大公开,搜尽奇峰打草稿,这才是中国画天花板!

无障碍浏览 进入关怀版