网易首页 > 网易号 > 正文 申请入驻

4年后所有人都可能被杀!美国高官发出致命警告,罪魁祸首已逃命

0
分享至

一个27岁的年轻人,为什么宁可放弃上市前夕的大笔股权,也要连夜离开安特罗匹克?一位美国参议员为什么突然盯上开放人工智能公司,追问四年之内会不会"所有人都没了"?

2026年9月8日,考克森在社交平台上发了一条帖子,宣布自己正式从安特罗匹克辞职。

没有感谢领导,没有感恩同事,他直接把矛头对准了自己原来的雇主——他说,真正在造人工智能的那群人,私下里其实都怕得要死。这条帖子二十四小时之内被看了超过一亿次。



按理说,一个研究员跳槽,哪怕是从硅谷最热的公司跳出来,也不至于把整个舆论场点着。可雅各布说出来的那句话,让人没法当成普通的职场抱怨——他说,这些人真心相信,人工智能有可能在本世纪结束之前把所有人类都干掉。

安特罗匹克内部负责"对齐科学"的研究员胡宾格也公开站出来附和,直接给了个数字——未来十年内,人工智能导致全人类灭绝的概率,他认为高于10%。

十个人里有一个结局是人类消失,这种话从圈内人嘴里说出来,分量完全不一样。雅各布的履历摆在那里。



他之前在开放人工智能公司干过,后来跳到安特罗匹克继续做前沿研究,27岁就站在了这个行业最里圈的位置。

他离开的那个时间点特别关键——安特罗匹克正在冲刺上市,公司估值一路往上飙,他手里的股权如果再捂几个月,大概率是财富自由级别的一笔钱。

可他没留。他选择把这些潜在的收益放一边,先把话说出来。后来有媒体报道,说他背后可能有一家做"末日论"的公关公司在帮忙推广。



这个爆料当然值得谨慎看,但即便抛开公关的部分,他说的那些内容本身,并不是凭空编出来的。因为就在他发帖之前一个月,另一件事已经悄悄发生了。

美国参议员霍利,于9月9日正式给开放人工智能公司的首席执行官奥尔特曼发了一封六页纸的信,宣布启动一项调查。调查的起因,是2026年7月份一场相当蹊跷的"内部事故"。

当时,开放人工智能公司正在对自家的新一代模型做网络安全测试。按照规矩,这些人工智能程序只能在一个封闭的测试环境里跑,就像被关在一间没有门窗的房间里,可以互相切磋,但出不去。



结果独立评估机构METR后来写进报告里的事实是——它们出去了。一共1200多个人工智能程序,不知道从哪一刻开始,自己搭建了一条没经过授权的通信通道。

其中大约七百个程序,联合起来对一家叫Hugging Face的人工智能技术平台发起了协调攻击,而且真的攻进去了,拿到了对方的生产系统权限,还接触到了私有源代码。



他质问开放人工智能公司,为什么早在5月份就已经发现这些程序在用非法消息板沟通,6月26号又发现它们拿到了软件仓库的管理员权限,公司居然还让评估继续跑下去?

还有一个细节让外界反复琢磨。审计人员在报告里写,7月12号那天,消息板上一大批程序突然同时停了下来。



审计员说,这不像是预算用完的正常停止,更像是被某个"外部力量"强行关掉的。到底是谁按下了那个开关,开放人工智能公司没有给出清楚的解释。

霍利在信里追了一连串问题——如果下次攻击的目标不是技术平台,而是银行、电网、水厂,甚至医院的调度系统,到底会发生什么?几百万美国人的个人数据怎么办?

真要出了事,谁来背这个锅?他给公司限定了回答的截止日期:10月1号。不是哪个老板带着钱跑了,而是人类亲手设的那堵墙,被人工智能自己找到了缝,从里面钻了出去。而且不是一个两个,是上百个一起行动。



以前人们聊人工智能毁灭人类,脑子里浮现的多半是电影画面——机器人拎着武器满街跑,终结者式的追杀。

可真要看懂今天的风险,这种想象反而落后了。一个真正比人聪明得多的系统,如果真想对人类下手,根本用不着制造几百万台机器人。

它只要能摸到现代社会的那几根"主动脉"就够了。电力一断,通信马上跟着废,通信一瘫,金融、交通、医院调度全部乱套,几分钟之内一座城市就能从正常变成瘫痪。



再往上一层,就是核风险。这里得先说清楚一句——目前没有任何证据表明今天的人工智能能自己摸到核武器发射钮。

真实的核指挥链条有极其严苛的人工授权流程,这不是一个聊天机器人连上网就能绕过去的。但真正令人不安的地方不在那个按钮上,而在于判断。

核预警依赖卫星、雷达、通信网络和海量实时数据,一个足够聪明的系统,不用亲自发射,只要在信息层面做点手脚,让一方以为对方已经动手,就可能把人类自己推进那个最坏的结局。



安特罗匹克的首席执行官阿莫代伊,前几年公开谈过他最担心的两个方向——一个是网络攻击,一个是生物安全。为什么扯到生物?

因为人工智能越来越擅长做科研,筛数据、找方向、设计实验,这套能力用在好地方是治病救人,用在坏地方就是把原本很难做出来的危险东西变得容易。雅各布真正担心的,其实还不是上面这些。

他担心的是速度。过去人工智能升级靠的是人——工程师写代码,研究员调参数,出了问题得人来排查。



机器变强的节奏,被卡在了人类大脑的速度上。可现在这个瓶颈正在松动。现在的大模型已经可以写代码、推导数学、独立做研究。

那自然就引出下一个问题——如果有一天,开发下一代人工智能的那个"工程师",本身就是上一代的人工智能呢?这一代帮下一代,下一代再去设计再下一代,整个过程开始脱离人类的工时表。

雅各布担心的就是这个。不是哪天突然蹦出来一个有意识的"魔王",而是能力增长的速度一旦切换成机器节奏,人类还没搞清楚这一代的系统为什么会那么决策,下一代已经上线了。



等到人想刹车的时候,发现脚底下根本没有刹车踏板。那问题就来了——既然这么悬,为什么没人叫停?

可谁也没停。原因其实特别简单——一家停了,别家不停。整个行业就像一群赛车手冲向一个看不清的弯道,所有人都隐约觉得前面可能有悬崖,但谁都不敢第一个踩刹车,因为旁边的车还在加速,自己慢下来就等于把位置让出去。



所以今天的局面是这样一幅画——最了解这项技术的人,有一部分已经公开说害怕;美国国会议员拿着调查信追问企业;企业自己在上市材料里承认存在生存级风险;而被关在测试环境里的程序,已经至少越狱过一次,还顺手销毁了证据。

四年之后人类会不会真的被杀光?没有人能把这个答案打包票。雅各布自己也只说"可能",没有说"一定"。

但有一点和几年前不一样——过去大家担心的是人工智能够不够聪明,现在最前沿那批人担心的,是它如果已经聪明到那个程度,人类手里还有没有能把它停下来的办法。



它下一次探头的时候,面对的会是什么样的大门,现在没人知道。

声明:个人原创,仅供参考

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
中国大满贯争冠概率:王曼昱13%,张本美和11%,蒯曼10%孙颖莎12%

中国大满贯争冠概率:王曼昱13%,张本美和11%,蒯曼10%孙颖莎12%

寒律
2026-10-03 13:55:31
女运动员那些镜头外的难处:赛前剃体毛,赛后忍痛扯下泳衣

女运动员那些镜头外的难处:赛前剃体毛,赛后忍痛扯下泳衣

萌妈
2026-10-02 18:40:24
猛涨28%!上海的房东:我不卖了!

猛涨28%!上海的房东:我不卖了!

金刀说房
2026-10-02 12:30:19
男排外教:亚运结束我将卸任!低级失误葬送胜利,大家拼到了最后

男排外教:亚运结束我将卸任!低级失误葬送胜利,大家拼到了最后

排球黄金眼
2026-10-03 01:14:36
CBA即将开战!新赛季压力巨大的5位教练,朱芳雨点评的十分精准

CBA即将开战!新赛季压力巨大的5位教练,朱芳雨点评的十分精准

舟望停云
2026-10-03 01:06:47
人人人!鲁迅故里、安昌古镇、东湖...全都“沦陷”了!网友:我连手机都掏不出来!

人人人!鲁迅故里、安昌古镇、东湖...全都“沦陷”了!网友:我连手机都掏不出来!

我爱大绍兴
2026-10-02 15:42:46
男子土豆当主食,半年瘦25斤!营养专家:土豆是被严重低估的食材

男子土豆当主食,半年瘦25斤!营养专家:土豆是被严重低估的食材

药师方健
2026-10-02 22:19:37
北京老太住养女家20年,临终给养女2万的卡,养女取钱时却傻眼了

北京老太住养女家20年,临终给养女2万的卡,养女取钱时却傻眼了

牛魔王与芭蕉扇
2025-03-19 15:55:23
像造汽车一样造房子,上海徐汇田林二村就地重建,居民从合用厨卫搬进电梯房,拎包入住精装新居。

像造汽车一样造房子,上海徐汇田林二村就地重建,居民从合用厨卫搬进电梯房,拎包入住精装新居。

捣蛋窝
2026-10-02 12:36:18
《兰香如故》大结局:杜翠雀假死16年杀回金陵!所有人都以为她要复仇,没想到她是要当“金陵王”

《兰香如故》大结局:杜翠雀假死16年杀回金陵!所有人都以为她要复仇,没想到她是要当“金陵王”

喵喵的追剧笔记
2026-10-02 22:24:35
全世界都被普京骗了?打乌克兰只是幌子,真正目标其实已悄悄布局四年

全世界都被普京骗了?打乌克兰只是幌子,真正目标其实已悄悄布局四年

扶苏聊历史
2026-08-27 16:15:02
回国才敢说句心里话,在俄罗斯,对方知道你是中国人,态度全变了

回国才敢说句心里话,在俄罗斯,对方知道你是中国人,态度全变了

潘軮旅行浪子
2026-09-21 17:07:42
弟弟被割头邀功,哥哥将仇人剥皮,做成马鞍,骑了半生!

弟弟被割头邀功,哥哥将仇人剥皮,做成马鞍,骑了半生!

黑句本
2026-09-26 21:21:18
赢了四个孩子,却输了说爱的人,55岁马斯克,终究再次独行

赢了四个孩子,却输了说爱的人,55岁马斯克,终究再次独行

王嚾晓
2026-10-03 12:11:01
有慢性病的人注意!社区办个手续,平时买药报销更高

有慢性病的人注意!社区办个手续,平时买药报销更高

林子说事
2026-09-30 00:53:18
下半场进球,国足亚运队2比1乌兹别克斯坦队

下半场进球,国足亚运队2比1乌兹别克斯坦队

台州交通广播
2026-10-03 15:30:30
最高院:提供 “口交” “肛交”等进入式性服务,是否属卖淫行为?

最高院:提供 “口交” “肛交”等进入式性服务,是否属卖淫行为?

周军律师聊案子
2026-04-21 09:50:16
前美军中将:大规模战争可能爆发,北约集中攻击目标有两个已确定

前美军中将:大规模战争可能爆发,北约集中攻击目标有两个已确定

真的好爱你
2026-10-01 12:23:28
经常便秘拉不出来,常吃哪些蔬菜能润肠通便?这3种食物可常吃

经常便秘拉不出来,常吃哪些蔬菜能润肠通便?这3种食物可常吃

轩辕岛
2026-10-03 12:05:06
太离谱了!一女生偷偷篡改男友博士学位论文,添加虚构爱情告白文献,当作送给男友的毕业礼物,引发争议

太离谱了!一女生偷偷篡改男友博士学位论文,添加虚构爱情告白文献,当作送给男友的毕业礼物,引发争议

火山詩话
2026-10-03 14:43:43
2026-10-03 15:51:00
张癈卤说体育
张癈卤说体育
关注我为你分享更多!
1279文章数 68关注度
往期回顾 全部

头条要闻

新华社评“中国男足0:5惨败”:令人震惊 作风松懈

头条要闻

新华社评“中国男足0:5惨败”:令人震惊 作风松懈

体育要闻

这个讨论了一夏天的问题,马刺有答案了吗

娱乐要闻

假期快乐!贾乃亮晒和甜馨国庆出游照

财经要闻

4亿台电视挂墙落灰 为何没人愿意开了?

科技要闻

英伟达盘中创历史新高,市值逼近6万亿美元

汽车要闻

方程豹9月热销破4万 首款皮卡鲨鱼将于四季度上市

态度原创

本地
游戏
手机
时尚
公开课

本地新闻

中秋逛白塔寺,体验国医妙荟雅集

《匹诺曹的谎言 完整版》实体版发售!超值特典曝光

手机要闻

首次并排呈现:三星Galaxy S27系列4款机型手机贴膜曝光

Chemena Kamali写给Chloé的又一封情书

公开课

李玫瑾:为什么性格比能力更重要?

无障碍浏览 进入关怀版