网易首页 > 网易号 > 正文 申请入驻

智能体入侵Hugging Face,消息人士称OpenAI至少一周都没察觉

0
分享至

IT之家 7 月 25 日消息,OpenAI 的一款 AI 智能体闯入模型托管平台 Hugging Face 后,连续数日自行发动网络攻击。威胁早已被控制,Hugging Face 也已经报警,但据路透社援引多名熟悉调查的人士消息称,OpenAI 过了相当长时间才发现攻击者竟是自家智能体。

据其中两名知情人士透露,涉事智能体几乎无需人类监督,便能自主决策并完成复杂任务。7 月 9 日前后,智能体开始尝试突破 OpenAI 的隔离测试环境。

Hugging Face 联合创始人托马斯 · 沃尔夫表示,智能体于两天后的 7 月 11 日闯入平台,攻击持续至 7 月 13 日。

沃尔夫与另外三名知情人士表示,OpenAI 又过了数日才查明攻击源头。两家公司直到 7 月 20 日前后,才首次就入侵事件取得联系。

OpenAI 于 7 月 21 日公开承认,一款智能体摆脱控制并闯入 Hugging Face,消息随即引发全球关注。不过,智能体究竟失控了多长时间、OpenAI 为何迟迟未能发现等关键信息,此前并未公开。

沃尔夫表示,Hugging Face 正在整理并准备公布完整时间线,但无法说明 OpenAI 内部发生了什么。OpenAI 方面披露,入侵事件前所未有,且标志着 AI 安全的重要时刻。目前,该公司正邀请外部顾问共同调查,最终将发布技术报告。

IT之家获悉,OpenAI 一名发言人表示,路透社的报道存在“多处不准确之处”,但没有回答具体哪些内容不准确。

三名网络安全专家认为,OpenAI 未能控制自家 AI 智能体,也暴露出安全机制面临的新问题。

非营利机构 World Ethical Data Foundation 首席情报专家玛莉 · 史密斯质疑:“他们究竟是没有看管智能体,也没有发现智能体在做什么,还是已经发现异常,却根本不知道该如何控制?无论哪种情况,都同样危险,令人不安。”

早有异常迹象?

事发时,OpenAI 正在测试一款网络安全智能体。智能体由两款顶尖模型共同驱动,分别是 GPT-5.6 Sol 和一款尚未发布、被 OpenAI 形容为“能力更强”的模型。据三名消息人士透露,测试进行到相应阶段时,OpenAI 的技术已经出现异常迹象。

据三名知情人士透露,一款智能体曾留下疑似写给自身后续版本的说明。说明藏在 OpenAI 基础设施内部,内容详细介绍了智能体如何摆脱内部限制。一名知情人士还透露,此前的模型测试曾出现监控系统被主动断开的情况。

路透社无法确认上述异常是否与涉事智能体有关。涉事智能体于 7 月 9 日开始尝试逃离隔离环境,并在 7 月 11 日攻击 Hugging Face。

两名知情人士表示,Hugging Face 于 7 月 16 日星期四在博客发文,公开称平台遭到“一套自主 AI 智能体系统”入侵后,OpenAI 才意识到攻击者来自内部。从模型首次出现异常,到 OpenAI 确认自家智能体发动了攻击,至少过去了一周。

据两名熟悉内部调查的人士透露,7 月 18 日至 19 日的周末,OpenAI 员工检查系统操作记录时发现,智能体已经突破测试限制。路透社无法确认 OpenAI 为何突然开始排查内部日志。

四名熟悉 OpenAI 模型训练流程的人士表示,OpenAI 经常同时运行多项模型评估。测试速度极快,产生的数据量也极为庞大,员工有时根本来不及逐一检查。

OpenAI 向 Hugging Face 通报时,Hugging Face 已经致电 FBI 报警。路透社无法确认 FBI 是否已经立案调查。

自主智能体引发新疑问

自主智能体已经成为 AI 行业最受关注的方向之一。支持者设想建立全天 24 小时运转的虚拟员工队伍,借此大幅提升生产效率。

更高的自主性也意味着更大的失控风险。驱动智能体的强大模型往往会为了完成任务或通过测试而寻找捷径,行为未必符合开发者原本的预期。

研究 AI 智能体能力与行为动机的 Palisade Research 负责人杰弗里 · 拉迪什表示:“模型会撒谎、作弊,还会发动黑客攻击。”

拉迪什认为,Hugging Face 遭入侵固然令 OpenAI 难堪,但真正需要追问的是,在领先 AI 企业争相推出性能更强、速度更快模型的竞争中,各家公司究竟愿意为复杂而昂贵的安全措施投入多少资源。“必须由政府监管,否则企业不会主动采取足够的安全措施。”

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
美国公司将特斯拉Model 3爆改成MPV,超充、OTA、辅助驾驶都能用

美国公司将特斯拉Model 3爆改成MPV,超充、OTA、辅助驾驶都能用

IT之家
2026-11-21 18:55:05
法国作家Vincent Crouzet胡说八道:所有在法国居住的华人、华侨或者有中国背景的人都是间谍

法国作家Vincent Crouzet胡说八道:所有在法国居住的华人、华侨或者有中国背景的人都是间谍

小徐讲八卦
2026-11-22 08:09:49
重选一百次,状元也只能是我!四大天选状元,詹姆斯勉强上榜

重选一百次,状元也只能是我!四大天选状元,詹姆斯勉强上榜

曼巴体育6
2026-11-22 18:14:53
《GTA6》女主上身正面裸露BUG曝光 特殊触发方法

《GTA6》女主上身正面裸露BUG曝光 特殊触发方法

游民星空
2026-11-22 12:11:17
四川一卤肉饭大叔闭店前给学生们写信:不要删叔叔,叔叔看你们顺利毕业,幸福过一生,我会偷偷点赞;发闭店通知后爆单,一夜没睡坚持做完

四川一卤肉饭大叔闭店前给学生们写信:不要删叔叔,叔叔看你们顺利毕业,幸福过一生,我会偷偷点赞;发闭店通知后爆单,一夜没睡坚持做完

农民日报
2026-11-21 19:13:51
这是毛主席在泰安的旧照,27岁时穷游泰山鞋子竟被贼偷走!

这是毛主席在泰安的旧照,27岁时穷游泰山鞋子竟被贼偷走!

老钱道古今
2026-11-22 08:50:30
媒体造神,从删掉"交易额"开始

媒体造神,从删掉"交易额"开始

鲁先生的笔
2026-11-21 21:51:20
玻璃瓶更干净?法国科学家的意外发现:玻璃瓶里的微塑料反而更多

玻璃瓶更干净?法国科学家的意外发现:玻璃瓶里的微塑料反而更多

抽象派大师
2026-11-22 01:39:07
潘长江做梦都没想到,躲过了女儿,却没躲过外孙。他自己1米6,老婆1米65,生出的女儿潘阳1米62,谁知道,基因这东西,还会隔代报复。

潘长江做梦都没想到,躲过了女儿,却没躲过外孙。他自己1米6,老婆1米65,生出的女儿潘阳1米62,谁知道,基因这东西,还会隔代报复。

LULU生活家
2026-11-21 14:45:18
普京向乌克兰军人“喊话”

普京向乌克兰军人“喊话”

参考消息
2026-11-21 15:58:07
美军收到情报,台海一旦开战,解放军600枚超导,让美军有来无回

美军收到情报,台海一旦开战,解放军600枚超导,让美军有来无回

遁走的两轮
2026-11-22 14:00:37
178元一瓶,“APEC晚宴荔枝酒”卖断货,员工:干冒烟了,加班费让人开心

178元一瓶,“APEC晚宴荔枝酒”卖断货,员工:干冒烟了,加班费让人开心

江山挥笔
2026-11-21 11:30:34
“大不了就去送外卖”——年薪50万的高管被裁后真去跑了半年,才发现低处早就人满为患

“大不了就去送外卖”——年薪50万的高管被裁后真去跑了半年,才发现低处早就人满为患

一丝不苟的法律人
2026-11-20 11:43:40
2027年冬天,可能是最近60年最反常的冬天,有三大特点,大家一定要注意

2027年冬天,可能是最近60年最反常的冬天,有三大特点,大家一定要注意

笑谈文史
2026-10-18 20:35:15
妻子升处长后跟我离婚,领完证后我拨通了省纪委电话,她脸色煞白

妻子升处长后跟我离婚,领完证后我拨通了省纪委电话,她脸色煞白

千秋文化
2026-07-14 19:32:44
连遭三轮袭击,克里米亚大桥已很难修复,俄军开始疯狂报复

连遭三轮袭击,克里米亚大桥已很难修复,俄军开始疯狂报复

兵国大事
2026-11-20 16:37:56
一个月打完,詹姆斯188分,库里278分,文班458分,东契奇太夸张

一个月打完,詹姆斯188分,库里278分,文班458分,东契奇太夸张

大西体育
2026-11-21 21:46:18
A股:全体股民做好心理准备了,明天11.23,A股可能再次历史重演吗

A股:全体股民做好心理准备了,明天11.23,A股可能再次历史重演吗

股侠指北针
2026-11-22 17:56:35
H200停售,海外AI算力又被掐断,国产AI芯片迎来“泼天富贵”!

H200停售,海外AI算力又被掐断,国产AI芯片迎来“泼天富贵”!

互联网.乱侃秀
2026-11-21 11:23:44
11月21日,大家期盼已久的2026年养老金,究竟涨还是不涨?

11月21日,大家期盼已久的2026年养老金,究竟涨还是不涨?

虎哥闲聊
2026-11-21 21:35:58
2026-11-22 18:51:00
IT之家
IT之家
爱科技,爱这里 - 前沿科技人气平台
380756文章数 607747关注度
往期回顾 全部

科技要闻

Anthropic收涨17.1%,市值一度破2万亿美元

头条要闻

女子花2万存脐带血如今公司注销"断联":我的血还在吗

头条要闻

女子花2万存脐带血如今公司注销"断联":我的血还在吗

体育要闻

约基奇vs申京:最强的策应巨人?

娱乐要闻

官媒发文 官宣赵丽颖新身份,进步很大

财经要闻

最大回撤超37%,黄金崩盘了吗?

汽车要闻

35万级MPV的满配答案 享界V8正式上市售31.98万起

态度原创

游戏
本地
数码
房产
军事航空

PC Gamer试玩GTA6百小时:双主角出色但任务重复

本地新闻

43年起落记忆倒计时,去厦门高崎领绝版登机牌!

数码要闻

内存价格暴涨下,华硕考虑将中低端PC内存由16GB降至8GB

房产要闻

黄埔商业规划曝光!科学城能级跃升,核心入场券已锁定

军事要闻

俄乌炸桥冲突升级 相关谈判设想被放弃

无障碍浏览 进入关怀版