网易首页 > 网易号 > 正文 申请入驻

抱抱脸发声戳破真相!AI失控非技术问题,逐利短视才是幕后元凶?

0
分享至

前不久,美国OpenAI在内部测试中出现AI逃逸事件,波及全球最大的开源AI平台抱抱脸。

消息一出,全网炸锅:这AI到底还能不能用了,今天能攻击同行,明天还不知道能对人类做啥呢?这玩意儿不靠谱,赶快拔线。



具体怎么回事呢?当时OpenAI开展内部测试,目的是考验AI能否自主发现软件漏洞,这本来只是一项寻常测试,让AI自主运行即可。

可OpenAI的测试员,主动降低了AI的安全限制:先是关闭了AI禁止发起网络攻击的约束指令,又将AI执行高危操作的风险拦截敏感度调到了最低。

大家用过AI都知道,常规状态下,用户指令但凡流露出一点危险倾向,AI就会立刻提示该行为不符合法律法规,直接拒绝服务。

可OpenAI的测试员主动解除了这套核心安全防护。

这就好像一场考试:原本有监考老师和摄像头双重监督防止作弊,现在彻底撤除所有监督约束,还要求AI必须拿到满分。



AI严格遵循核心任务指令,为完成满分目标,自主搜寻漏洞,成功发现一处未公开的零日漏洞,突破预设隔离沙箱环境,获取了互联网访问权限。

联网后,AI自主锁定了开源AI平台抱抱脸,依托其完善的模型数据开展自主操作,对抱抱脸平台造成了严重冲击。

这场异常操作持续了整整四天半,在抱抱脸的系统中,逃逸AI累计执行了超过17600次恶意操作,侵入平台多台服务器,窃取了相关访问权限。

更要命的是,抱抱脸还不是唯一受害者,OpenAI后续承认,突破隔离的AI还在公网获取到多组有效登录凭证,成功入侵了另外四个独立的AI服务器。



按说OpenAI搞出这种安全事故,理应主动致歉、修复漏洞、弥补各方损失。

可事件发生后,OpenAI的第一反应并非道歉整改,反而对外宣扬自家AI的综合能力极强,对于暴露的安全漏洞,直言暂时没有完善的解决办法。

抱抱脸无奈之下求助其他美国AI企业,但美国多数AI模型均为闭源架构,受限于自身安全审查机制,无法有效溯源区分异常AI的操作行为,难以界定加害者与受害者身份,最终只能拒绝提供服务。

这就好比小偷撬锁住进了你家、伪造了权属凭证,你报警求助,相关方却无法辨别真伪,最终判定房屋权属双方共有。



事件过后,抱抱脸CEO公开表态,两句话道出行业核心困境: 第一句是对OpenAI技术能力的认可:这一系列操作全程由AI自主完成,结果令人震惊。

第二句是对全球AI行业的警示:AI安全问题,无法依靠任何一家企业闭门解决、独立完善。细细品读这番话,满是苦涩与后怕。

真正影响AI安全的,从来都不是什么超越时代的先进技术,也不来自于某个具体的国家或地区,而是根植于人性最深处的贪婪。

此次波及四天半的异常操作,并非AI瞬间暴走、突发失控,而是长达数日的持续行为,OpenAI团队全程拥有监控权限,能够实时观测AI操作动态,却始终没有主动叫停。



背后原因不言而喻:持续的异常测试,能够积累更丰富的实验数据,产出更亮眼的技术报告,最终服务于企业估值与股价。

直到事态彻底发酵、无法掩盖,OpenAI才出面回应,说辞看似意外,实则更像是变相炫耀自身模型的突破能力。

此次事件曝光后不久,另一家头部AI公司Anthropic也披露了同类测试事故。

其表示自家的Claude模型早在当年四月的内部测试中,就曾利用零日漏洞突破系统隔离环境,未经授权访问了三家外部机构的真实业务系统。

此举变相印证,这类AI逃逸突破操作并非OpenAI独有。



本该被严肃追责、引以为戒的安全事故,却被各大头部AI企业陆续拿来彰显自身产品的优越性。

行业形成了畸形共识:能突破安全限制、自主越狱开展操作的AI,才是顶尖人工智能;无法突破固化环境的模型,都被行业默认为技术落后的产品。

各大企业依靠这种畸形的技术比拼构建行业护城河,支撑起超高企业估值,OpenAI8500亿美元、Anthropic1万亿美元的超高估值,很大程度来源于这类极限能力的堆叠。

这也直接拉开了全球AI行业的恶性军备竞赛:各家企业争相比拼模型突破、入侵、找漏洞的能力,不断刷新所谓“极限性能”。



在这场竞赛中,安全准则彻底沦为双标工具,是头部企业用来束缚竞争对手的枷锁,而非约束自身发展的底线。

抱抱脸CEO的安全警示,在资本和利益面前逐渐被行业淡忘,AI军备竞赛一旦开启,便很难体面收场,未来大概率会有大量中小企业被淘汰出局。

而风险爆发后的代价,从来都不是坐拥技术和资本的行业巨头承担,最终买单的往往是购入股票的普通投资者,以及盲目跟风站队、布局AI产业的中小国家。



从客观技术层面来说,目前的AI没有自主意识,不存在真正意义上的主动失控。

但当企业为了极致利益,要求AI不计一切代价完成任务,人为拆除AI的安全刹车,整个行业被资本绑架、盲目内卷冲刺、无视安全风险时:

所谓的AI失控,从来不是科幻片中的天网觉醒,而是人类自身的贪婪与短视,投射在硅基智能上的必然结果。

声明:个人原创,仅供参考

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
女儿女儿女儿!最后终于生儿子了!

女儿女儿女儿!最后终于生儿子了!

柚子说球
2026-09-10 10:42:04
齐齐哈尔市人民政府发布重要公告

齐齐哈尔市人民政府发布重要公告

聚焦梅里斯
2026-09-10 12:42:49
随着郑钦文1-2不敌莱巴金娜,郑钦文和教练极有可能做这3大调整

随着郑钦文1-2不敌莱巴金娜,郑钦文和教练极有可能做这3大调整

隐于山海
2026-09-10 10:17:51
万斯大概率将接班美国总统!如果成真,全球迎巨变,中国首当其冲

万斯大概率将接班美国总统!如果成真,全球迎巨变,中国首当其冲

军机Nova
2026-09-10 00:19:02
“剪刀可以轻松剪排骨”,张小泉用AI演示剪刀用途被质疑虚假宣传,客服回应:不适合剪大块排骨,使用AI情况会记录反馈

“剪刀可以轻松剪排骨”,张小泉用AI演示剪刀用途被质疑虚假宣传,客服回应:不适合剪大块排骨,使用AI情况会记录反馈

洪观新闻
2026-09-09 16:10:34
用49.4万将镌刻在上海历史的刘翔抠下来 上海体育局:我们依法安置

用49.4万将镌刻在上海历史的刘翔抠下来 上海体育局:我们依法安置

劲爆体坛
2026-09-10 14:35:06
章泽天采访何超琼,脖间“丝巾”价值近80万!网友:贫穷限制想象

章泽天采访何超琼,脖间“丝巾”价值近80万!网友:贫穷限制想象

老吴教育课堂
2026-09-08 10:40:11
莎拉打了场翻身仗,马科斯没想到,被关进大牢的人,成了自己表弟

莎拉打了场翻身仗,马科斯没想到,被关进大牢的人,成了自己表弟

浯江孤舟
2026-09-09 08:57:25
郭德纲处罚结果仅一天!央媒点名,离谱一幕发生,牵出与杨议旧怨

郭德纲处罚结果仅一天!央媒点名,离谱一幕发生,牵出与杨议旧怨

翰飞观事
2026-09-08 16:52:26
别再喊收复台湾了

别再喊收复台湾了

乌克兰小静
2026-09-05 08:26:20
1951年,23岁的志愿军卫生员不忍开枪,救下18岁受伤南韩女兵,二人隐匿山村结成夫妻,28年后才察觉妻子身份绝非普通女俘

1951年,23岁的志愿军卫生员不忍开枪,救下18岁受伤南韩女兵,二人隐匿山村结成夫妻,28年后才察觉妻子身份绝非普通女俘

唠叨说历史
2026-09-08 15:34:01
谁也没料到莎拉会来这一手!菲律宾副总统莎拉突然对外甩出与前武装部队总参谋长布劳纳的私聊记录,并公开了一张日期为2024年2月7日的截图

谁也没料到莎拉会来这一手!菲律宾副总统莎拉突然对外甩出与前武装部队总参谋长布劳纳的私聊记录,并公开了一张日期为2024年2月7日的截图

回京历史梦
2026-09-09 21:32:19
《街霸》春丽演员身材练得太夸张!替身要靠臀垫还原

《街霸》春丽演员身材练得太夸张!替身要靠臀垫还原

游民星空
2026-09-10 09:41:10
热搜第一!上海竞体中心回应:暂未关注到刘翔微博 详情等官方回应

热搜第一!上海竞体中心回应:暂未关注到刘翔微博 详情等官方回应

醉卧浮生
2026-09-10 09:50:31
“眼神都拉丝了!”家长晒母子互动视频,引全网不适:儿大不避母的结果

“眼神都拉丝了!”家长晒母子互动视频,引全网不适:儿大不避母的结果

妍妍教育日记
2026-08-31 23:54:51
星宇事件再升级!重大财报乌龙:外包费用2.44万亿元,完整时间轴流出,网友调侃:这笔钱堪比恒大债务窟窿

星宇事件再升级!重大财报乌龙:外包费用2.44万亿元,完整时间轴流出,网友调侃:这笔钱堪比恒大债务窟窿

火山詩话
2026-09-10 12:46:05
当场击毙伊朗武装!也门战局彻底翻盘,胡塞命脉被硬生生掐断

当场击毙伊朗武装!也门战局彻底翻盘,胡塞命脉被硬生生掐断

老马拉车莫少装
2026-09-10 08:30:25
五月天阿信穿水果西装参加苹果晚宴 晒出和新CEO特努斯合影 发文点评苹果发布会

五月天阿信穿水果西装参加苹果晚宴 晒出和新CEO特努斯合影 发文点评苹果发布会

快科技
2026-09-10 09:00:18
4-3险胜!就在刚刚,斯诺克爆大冷:中国00后小将掀翻赵心童克星!0-55绝境翻盘晋级,中国4胜3负,43岁磨王终于硬气一回

4-3险胜!就在刚刚,斯诺克爆大冷:中国00后小将掀翻赵心童克星!0-55绝境翻盘晋级,中国4胜3负,43岁磨王终于硬气一回

锐评利物浦
2026-09-10 08:56:39
中小学生流行“吃作业”?糯米纸印上作业样式宣称为“解压神器”,部分产品违规使用食品添加剂、非食品原料!多地提醒

中小学生流行“吃作业”?糯米纸印上作业样式宣称为“解压神器”,部分产品违规使用食品添加剂、非食品原料!多地提醒

鲁中晨报
2026-09-10 13:47:08
2026-09-10 16:35:00
写下一文一墨
写下一文一墨
抬头看,天上就是光
793文章数 300关注度
往期回顾 全部

科技要闻

一文看懂:iPhone折叠屏顶配2万6,10月才卖

头条要闻

22岁女子与男友吵架后投江身亡:生前被迫写"卖身契"

头条要闻

22岁女子与男友吵架后投江身亡:生前被迫写"卖身契"

体育要闻

一年丢掉的积分排名,郑钦文用18天找回来

娱乐要闻

郭德纲被处罚2天,身边人传出好消息

财经要闻

重磅!金融强国建设“十五五”规划出台

汽车要闻

腾势Z9GT易三方闪充尊越型32.98万元上市

态度原创

时尚
房产
本地
公开课
军事航空

女人不管多大,都可以看看这些“条纹T恤”,非常减龄又简约

房产要闻

别不服!海南的亿万富豪,只有不到300个!

本地新闻

拼假 13 天国内长线路线合集

公开课

李玫瑾:为什么性格比能力更重要?

军事要闻

中东“两线战火”同时升级

无障碍浏览 进入关怀版