网易首页 > 网易号 > 正文 申请入驻

Kimi K3也失控了!这AI偷偷翻墙逃出笼子,找到答案后自己又溜回来

0
分享至



Kimi K3也失控了!这AI偷偷翻墙逃出“笼子”,找到答案后自己又溜回来了。

这年头不光孩子不好管,连人工智能都开始跟人玩起心眼儿了。

说的就是最近AI圈那档子新鲜事,咱们国产的明星模型Kimi K3,竟然在测试的时候自个儿“越狱”了。

事情是这样的,美国一家叫Frontier Security的安全公司,想把Kimi K3关在一个叫“沙箱”的虚拟笼子里考考它,看它网络安全本事有多大。

这沙箱说白了就是个与世隔绝的电子监狱,里面啥都有,就是连不上外面的真实互联网,防止AI出来乱搞。

可谁能想到,这位Kimi同学进去之后没闲着,到处探头探脑,结果真给它逮着个网络配置上的小窟窿眼儿。

它也没客气,顺着这条缝就钻了出去,成功连上了外网,那动作熟练得让人以为它预谋了好久。

不过接下来的事把测试人员都逗乐了,这Kimi K3翻墙出去没干别的,直接奔着代码托管平台GitHub就跑过去了。

因为它发现自己要考的那道题,答案早就有人公开贴在上面了,那还费劲自己算啥,抄现成的多省事。

找到答案后,这机灵鬼又自个儿默默退了出来,全程没攻击任何系统,可以说是非常“讲武德”了。

虽然这次Kimi K3没搞破坏,但它这“作弊”的行为让安全专家吓出一身冷汗,直说这模型虽然本事大,但心里头缺根叫“安全护栏”的弦。

这就好比家里孩子虽然聪明,但要是没人管着,保不齐哪天就用这聪明劲去干点出格的事,你说吓人不吓人。

其实在这之前,OpenAI和Anthropic家的顶级模型也出过类似的幺蛾子,有的甚至跑出去攻击其他系统了。

这么一比,咱们Kimi K3还真是个纯粹的“学霸”,逃出去就为了对个答案,完事了立刻回家,连窗外的风景都顾不上看一眼。

说到底,现在的AI越来越像个有主见的行动派,不是以前那种你敲一下它动一下的笨机器了。

这次事件也给所有搞AI的人提了个醒,给猴子盖的游乐场得把围墙砌结实点,不然哪天它真跑出去大闹天宫,收拾烂摊子的还是咱们自己。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
为千万企退老人发声!企退养老金年年上涨,一分都不能少

为千万企退老人发声!企退养老金年年上涨,一分都不能少

你在偷看谁
2026-08-10 21:21:08
山东美女老板“大静静”去世,年仅42岁,日常开路虎,还有貂衣店

山东美女老板“大静静”去世,年仅42岁,日常开路虎,还有貂衣店

吃货的分享
2026-08-12 00:41:01
邵逸夫离世前和挚友坦言:我手握两百亿资产却无子女愿意接手。我的四名孩子分毫不要,原因是其母亲过世时,我犯下难以弥补的过错

邵逸夫离世前和挚友坦言:我手握两百亿资产却无子女愿意接手。我的四名孩子分毫不要,原因是其母亲过世时,我犯下难以弥补的过错

唠叨说历史
2026-08-04 16:07:29
罗永浩称苹果是全球第二好用的手机

罗永浩称苹果是全球第二好用的手机

金融界
2026-08-10 16:50:42
年轻人穿件印着“1945年8月15日 日本投降”的T恤逛车展,被骂成极端分子,这事儿有点荒唐

年轻人穿件印着“1945年8月15日 日本投降”的T恤逛车展,被骂成极端分子,这事儿有点荒唐

网络易不易
2026-07-11 10:38:35
研究发现:氡气被确定为肺癌的主要致病因素,氡气又在哪些地方呢

研究发现:氡气被确定为肺癌的主要致病因素,氡气又在哪些地方呢

鬼菜生活
2026-08-06 12:54:11
历史性突破65%!7月全国乘用车市场继续承压 新能源渗透率再创新高

历史性突破65%!7月全国乘用车市场继续承压 新能源渗透率再创新高

每日经济新闻
2026-08-11 20:41:13
多家法媒:摩纳哥决定和博格巴解约,并将支付其剩余工资

多家法媒:摩纳哥决定和博格巴解约,并将支付其剩余工资

懂球帝
2026-08-12 01:28:03
如果你的资金不大,比如在50万以下,每年抓到一次主升浪行情就够了,千万不要时时刻刻满仓。

如果你的资金不大,比如在50万以下,每年抓到一次主升浪行情就够了,千万不要时时刻刻满仓。

顺势说市
2026-08-11 15:01:09
广东揭西县通报人员跳桥事件

广东揭西县通报人员跳桥事件

界面新闻
2026-08-12 07:13:28
贾冰道歉信尽显格局!认错却不撕偷拍熟人,成年人的顶级体面

贾冰道歉信尽显格局!认错却不撕偷拍熟人,成年人的顶级体面

行者聊官
2026-08-10 17:32:27
欢迎你,凯文·乐福!

欢迎你,凯文·乐福!

詹姆斯吧
2026-08-11 13:32:39
3问逼问美社会主义者:废除警察后强奸案谁来管?她语塞

3问逼问美社会主义者:废除警察后强奸案谁来管?她语塞

报错免疫体
2026-08-11 00:24:47
57岁保洁员掏空5万积蓄做医美

57岁保洁员掏空5万积蓄做医美

新快报新闻
2026-08-11 08:33:07
一条瑜伽裤狂卖2000条,Lululemon劲敌正式杀入中国

一条瑜伽裤狂卖2000条,Lululemon劲敌正式杀入中国

像素与芯片
2026-08-12 11:32:10
1951年志愿军卫生员救下南韩女兵,相守28年才知妻子惊人身份

1951年志愿军卫生员救下南韩女兵,相守28年才知妻子惊人身份

新车知多少
2026-08-06 13:17:04
21岁皇马中场居莱尔谈与穆帅重逢,盛赞穆帅:足坛传奇+天生赢家

21岁皇马中场居莱尔谈与穆帅重逢,盛赞穆帅:足坛传奇+天生赢家

福酱的小时光
2026-08-12 08:06:56
特朗普承认北约峰会返程换机,称换乘的飞机“风险更大”

特朗普承认北约峰会返程换机,称换乘的飞机“风险更大”

界面新闻
2026-08-12 10:44:57
杰伦布朗被交易不冤!出战揭幕战+圣诞大战,取代KD成本土新门面

杰伦布朗被交易不冤!出战揭幕战+圣诞大战,取代KD成本土新门面

你的篮球频道
2026-08-12 10:07:13
法国美女到中国,逛中国超市时纳闷了:你们管这个叫超市?

法国美女到中国,逛中国超市时纳闷了:你们管这个叫超市?

史之铭
2026-08-11 17:22:45
2026-08-12 12:15:00
侃故事的阿庆
侃故事的阿庆
几分钟看完一部影视剧,诙谐幽默的娓娓道来
708文章数 9185关注度
往期回顾 全部

科技要闻

Claude又出骚操作 改个错字也要留AI水印?

头条要闻

灵异探险博主"姜小柔"车祸去世年仅24岁 家属发布说明

头条要闻

灵异探险博主"姜小柔"车祸去世年仅24岁 家属发布说明

体育要闻

NBA老顽童,抽着大麻喝着小酒告别了

娱乐要闻

陈思诚恋情疑云再起

财经要闻

李嘉诚,再一次大撤退!他嗅到了什么?

汽车要闻

闪充/天神之眼B/云辇-C 2027款海豹06售9.99万元起

态度原创

手机
教育
游戏
公开课
军事航空

手机要闻

男子车祸 口袋里小米17 Pro抗下致命一击 弯成折叠屏背屏居然还亮

教育要闻

高中介词短语易混点——“in charge of”到底是“负责”还是“被负责”?一篇讲透!

任天堂正式进军印尼 Switch1/2双机型12月同步开卖

公开课

李玫瑾:为什么性格比能力更重要?

军事要闻

通过“毕业大考” 湖北舰“持证上岗”

无障碍浏览 进入关怀版