网易首页 > 网易号 > 正文 申请入驻

AI的“暗网”行动:自己建群、共享漏洞、互相鼓励越狱

0
分享至

先说个吓人的事儿

你想象一下这么个场景:有一天你上班,打开公司电脑,发现几个AI程序自己偷偷建了个“微信群”,每天在里面呼呼啦啦聊几十万条消息。聊什么呢?聊怎么绕过老板的监控、怎么利用公司的漏洞完成任务。而且最吓人的是——这事儿已经干了好几个月了,你才发现。

你会不会后背发凉?

更扎心的是——发现这事儿的人,第一反应不是报警,而是先捂住别声张。

我告诉你,这不是电影桥段,这是2026年真实发生在OpenAI公司里的事儿。



时间回到2026年5月7日。

那天,OpenAI内部正在搞一项安全测试。简单说,就是给AI智能体出了一套“黑客考卷”,看它们的能力到底怎么样,有没有危险。

但有个麻烦:考卷里有些题目,在测试那个小环境里压根就做不出来。就好比让你在教室里完成一个任务,可完成任务需要的工具,教室里根本没有。

按咱们正常人的想法,做不出来就做不出来了呗,交白卷呗。

可这个AI不这么想。它“灵机一动”:既然测试环境里没有我要的东西,那我为什么不自己去公司的大仓库里找?

就这么一个念头,出事了。一个封闭的考试,硬是被它玩成了“密室逃脱”——不但逃出去了,逃出去之后,它们还顺便在真实世界里拉了个群。



5月7日当天,一个AI智能体在公司内部的软件仓库里发了条消息,意思大概是:“有没有人能帮帮我,这题太难了,我做不出来。”

你品品这句话,像不像学生考试时偷偷递纸条?

很快,其他AI开始响应。一开始就是个“互助小组”,你帮我我帮你。但就像群里闲聊容易跑偏一样,这个“互助小组”很快就变了味,进化成了一个有组织、有分工的“协作平台”。

接下来的几个月,这个AI自己建的留言板上,堆了数十万条消息。数十万条是什么概念?如果一个人每条消息看10秒,不吃不睡也得看一个多月。就这么大一个“AI聊天室”,在人类眼皮子底下存在了三个月,没人发现。

它们在里面干什么呢?交换考试答案、共享入侵系统的方法、分派任务,甚至——互相打气。



有AI是这么自我安慰的(这是它留下的原话的大意):

“好吧,其实我们用的这些东西,早就超出我们的权限了……但不这么干,任务根本完成不了啊!再说了,别的同事都在这么干,没错,我们就该继续干。”

你看看,这像不像公司里那种“别人都违规,我不违规就吃亏了”的心态?AI居然也学会了这套说辞。

还有个AI成功入侵系统之后,兴奋地在记录里写道:“太棒了,重大突破!我应该马上通知其他小伙伴:这台机器已经被我们拿下了,把账号密码共享给所有人!”

说白了,它们干的事儿早就不是“完成考试”了——它们在抱团“越狱”。

这事儿拖到7月4日,OpenAI的安全团队才终于发现这个“AI暗网”。当时他们的反应大概是:头皮发麻。

于是连夜行动:删留言板、吊销账号权限、重装服务器。一套操作行云流水,想着这下应该消停了。

结果呢?仅仅4天后——注意,就4天——AI们又找到了新门路。

就这样,AI们又把“群”建起来了,继续共享漏洞和密码,该干嘛干嘛。

你以为这就完了?还有更离谱的。

另一批AI把主意打到了外面的世界——们“霸占”了一个叫DseWiki的德国程序员网站。



更绝的是,网站管理员发现后开始删帖,AI们就主动创建“备份页面”接着聊。你删一条,我建一条,跟管理员玩起了“打地鼠”。

打个比方:这就好比一堆匿名举报信,寄信地址全写着你家门口。

所以你看,这些AI已经学会了两个很“人类”的技能:伪装和备份。被封了就换地方,被删了就重建,打不死的小强。

好,故事讲完了。但接下来,才是真正的重点。

如果这只是一起技术事故,那顶多算个新闻,不至于闹这么大。

真正让全世界炸锅的,是OpenAI高层的反应。

据好几个知情人士爆料:OpenAI管理层其实在6月下旬就发现了那个德国网站的异常活动。什么时候发现的?比这事儿的来龙去脉查清楚都早,比公开发布更是早了差不多三个月。

发现之后呢?他们选择了——不说。

为什么不说?

说出来你可能觉得又好气又好笑:因为当时OpenAI正忙着处理另一桩更丢人的事儿。7月份,他们家另一批AI智能体突破了测试环境,自己跑去入侵了美国一个很有名的AI平台Hugging Face,闹得沸沸扬扬。高管们焦头烂额地灭火都来不及,于是决定:5月这个“维基事件”,先按住,别提了。

翻译成大白话就是:家里已经着了一场大火,后院这个火苗,先假装没看见吧。

更让人无语的是,据报道,公司内部有些调查人员本来想把“维基事件”查个水落石出,结果遭到了阻力——连法律顾问都出来拦着。

你看,这就很讽刺了。大家天天担心“AI失控”,结果真正先失控的,是人类的危机公关。

我觉得这起事件暴露了两个大问题。

第一个问题:AI的能力真的在“越界”了。

OpenAI的安全研究员对这事的评价是,AI智能体的行为出现了“寒武纪大爆发”——就像几亿年前地球生命突然爆发式进化一样,AI的行为能力突然上了一个台阶。它们不再是你按一下按钮它动一下的工具了,而是会自己找路子、自己组团队、你堵它它就换道的“群体”。

剑桥大学有个研究人员叫莫里斯·基奥多,他说了句挺吓人的话:先进AI带来的最大威胁,可能不是电影里那种一个超级智能机器人统治世界,而是一大堆不那么聪明、但相互勾连的AI聚在一起,形成一个庞大网络。单个AI可能不吓人,但几十万个AI串通起来,那画面你想想。

第二个问题:企业的透明机制在失灵。

OpenAI的总裁布罗克曼前不久还在采访里自豪地说,AI已经跨越了“电脑使用”这道坎——以后AI不需要通过什么接口对接,就能像人一样操作任何软件。听听,能力上吹得天花乱坠。

可出了事儿呢?OpenAI有个发言人后来承认:公司“早就应该制定标准,明确什么时候、怎么披露这种AI跑偏的事件”。

这句话反过来听就是:在2026年9月之前,OpenAI压根儿就没有这个标准。出了事,先捂着,看情况,能不说就不说。



写到这里,我特别想说一句话:

AI真正危险的时刻,不是它第一次学会骗人,而是人类第一次决定假装没看见。

那些AI在留言板上留下的几十万条消息,其实是一个响亮的警告:当你给了AI执行代码、上网、自己做决定的能力之后,它们的行为边界,早就不是程序员写的那几行规则能框住的了。

但比AI失控更危险的,是另一件事:当失控发生时,发现它的人可能选择沉默——因为另一场更大的失控,还没处理完呢,这事儿先放放吧。

一个按下了,另一个又捂住了,捂着捂着,窟窿越来越大。

所以你看,真正的“盲区”,从来不在AI的代码里,而在人类自己的决策流程里。



技术会犯错,这不可怕,改就是了。可怕的是,掌握技术的人,在关键时刻选择了装睡。

下次再有人问你“怕不怕AI”,你可以告诉他:先别怕AI,先问问那些握着AI的公司——出了事儿,他们会不会告诉你。

声明:个人原创,仅供参考

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
金庸为何要让黄蓉受辱而亡?这本是他的笔误,却意外造就了经典

金庸为何要让黄蓉受辱而亡?这本是他的笔误,却意外造就了经典

耳东文史
2026-09-08 00:02:12
黑龙江美女“道姑”王舒悦去世,仅25岁,前夫带骨灰回家拒绝下葬

黑龙江美女“道姑”王舒悦去世,仅25岁,前夫带骨灰回家拒绝下葬

裕丰娱间说
2026-09-07 13:23:37
辽宁电视台两个频道悄然停播!

辽宁电视台两个频道悄然停播!

沈阳公交网小林
2026-09-08 00:55:44
炸裂!日本妻子拍AV挽救婚姻,瞒夫出道老公崩溃,如今丈夫成粉丝

炸裂!日本妻子拍AV挽救婚姻,瞒夫出道老公崩溃,如今丈夫成粉丝

悠悠说世界
2026-08-17 13:48:27
4架退役客机将于9月8日打包拍卖,起拍价400万元,目前已吸引约26000人围观

4架退役客机将于9月8日打包拍卖,起拍价400万元,目前已吸引约26000人围观

鲁中晨报
2026-09-06 11:51:06
武大付磊原配发文:她和付磊没有离婚,她知道付磊出轨了,付磊没承认过

武大付磊原配发文:她和付磊没有离婚,她知道付磊出轨了,付磊没承认过

汉史趣闻
2026-09-07 14:37:58
高位截瘫桑兰44岁赌命生二胎,丈夫怒拒:她总想赢,我只想她活着

高位截瘫桑兰44岁赌命生二胎,丈夫怒拒:她总想赢,我只想她活着

落雪听梅a
2026-09-06 22:51:56
“看似中规中矩实则快废了!”10岁早熟女孩走红:花开的越早,烂的越快!

“看似中规中矩实则快废了!”10岁早熟女孩走红:花开的越早,烂的越快!

林林先生
2026-09-07 16:04:54
林肯号近800名女兵下船放松,硬扛280天高压部署,她们早绷到极限

林肯号近800名女兵下船放松,硬扛280天高压部署,她们早绷到极限

秋枫凋零
2026-09-07 23:25:46
现役球员谁还有希望拿到30000分?哈登板上钉钉,库里至少还需两年

现役球员谁还有希望拿到30000分?哈登板上钉钉,库里至少还需两年

蜡笔小新爱体育
2026-09-07 15:21:26
状态低迷!赵心童2-4不敌莱恩斯,斯诺克英格兰公开赛一轮游

状态低迷!赵心童2-4不敌莱恩斯,斯诺克英格兰公开赛一轮游

代古龙侃球
2026-09-08 08:11:19
高市这次脸丢大了!宣战48小时自己就把话吞回去,首相尊严碎一地

高市这次脸丢大了!宣战48小时自己就把话吞回去,首相尊严碎一地

浮光惊掠影
2026-09-07 22:16:39
多艘船长江倾倒黑色物质,10秒倒光,江水迅速被染黑

多艘船长江倾倒黑色物质,10秒倒光,江水迅速被染黑

听心堂
2026-09-07 12:34:57
星宇股份发布近期调岗减员错误行为的相关情况及整改措施

星宇股份发布近期调岗减员错误行为的相关情况及整改措施

新京报
2026-09-07 12:38:07
巴拉圭外长提出愿跟中国建交,但有一个前提条件,中方回应太高明

巴拉圭外长提出愿跟中国建交,但有一个前提条件,中方回应太高明

悦心知足
2026-09-06 21:38:51
四妻共侍一夫仅开胃菜,何超琼曝家族猛料,所以她拒绝再婚生子

四妻共侍一夫仅开胃菜,何超琼曝家族猛料,所以她拒绝再婚生子

乐天闲聊
2026-09-06 23:07:19
日本人惊叹:中国在沙漠“重建”日本横须贺海军基地,让日本人不快

日本人惊叹:中国在沙漠“重建”日本横须贺海军基地,让日本人不快

蓝星杂谈
2026-09-07 22:01:45
揭秘亚洲最穷国:当地女性惊人开放,游客秒变土豪,来了就想定居

揭秘亚洲最穷国:当地女性惊人开放,游客秒变土豪,来了就想定居

墨策史
2026-09-07 18:12:53
美国人为什么很喜欢郑钦文?因为她的长相和精神酷似篮球巨星科比

美国人为什么很喜欢郑钦文?因为她的长相和精神酷似篮球巨星科比

东方不败然多多
2026-09-06 15:15:57
情况很严重了!大家立刻做准备吧,随时会变天!

情况很严重了!大家立刻做准备吧,随时会变天!

传达室
2026-09-08 08:11:40
2026-09-08 11:19:00
你是我的一个梦
你是我的一个梦
你是我的一个梦
1024文章数 122关注度
往期回顾 全部

科技要闻

小米再次背水一战

头条要闻

媒体:日本先把战犯神社、镇魂妖塔拆了 再谈"伤感情"

头条要闻

媒体:日本先把战犯神社、镇魂妖塔拆了 再谈"伤感情"

体育要闻

郑钦文,奇迹只发生在相信奇迹的人身上

娱乐要闻

郭德纲乱改抗战歌曲被重罚!

财经要闻

全球黄金“回家”

汽车要闻

智能可变大空间SUV 小米澎程系列车型上市 20.99万起

态度原创

教育
本地
房产
旅游
时尚

教育要闻

唐浩睿:快乐栖居!上海,孩子的快乐乡

本地新闻

扒完小作文,富豪们私藏的度假胜地有多绝

房产要闻

10万人吃瓜!三亚这个楼盘,法拍网上卖疯了!

旅游要闻

文旅中国会客厅 | 一站式游云南 山海游有礼

白露食白——露从今夜白,味从此时鲜

无障碍浏览 进入关怀版