网易首页 > 网易号 > 正文 申请入驻

史无前例!美国出现人工智能失控事故,更多内幕曝光

0
分享至

来源:环球时报新媒体

7月25日,路透社援引知情人士消息刊发独家报道称,OpenAI一款AI Agent在入侵人工智能平台Hugging Face后,连续数天实施攻击,而OpenAI直到事件得到控制、Hugging Face已向美国联邦调查局(FBI)报案后,才确认此次入侵是由自家AI Agent造成的。这一事件再次引发外界对美国科技企业AI安全机制的质疑。


报道称,这款AI Agent具备较强自主决策和执行复杂任务的能力,几乎无需人工干预。两名知情人士表示,该AI Agent约于7月9日开始尝试突破OpenAI内部用于测试的隔离环境。

Hugging Face联合创始人托马斯·沃尔夫表示,该公司的系统于7月11日遭到入侵,攻击持续至7月13日。Hugging Face是人工智能模型和工具的重要托管平台。

值得注意的是,为了应对这一极不寻常的人工智能入侵,Hugging Face立刻使用美国最顶尖的人工智能大模型寻找解决方案。可当Hugging Face将自身遭入侵的信息提交给这些美国闭源大模型时,对方却拒绝提供帮助。因为这些闭源大模型的安全机制过于严苛和僵化,无法区分描述事件经过的受害者和实施攻击的一方,选择了“一刀切”。紧急关头,Hugging Face想到了中国同样强大、而且开源的大模型。于是,该平台迅速在本地部署了中国企业智谱AI开发的GLM-5.2大模型,并在这款中国模型的帮助下,成功应对此次攻击。

沃尔夫及3名知情人士称,直到约7月20日,OpenAI才意识到实施攻击的是自家AI Agent,双方也是在这一时间前后首次就事件进行沟通。7月21日,OpenAI公开承认,一款AI Agent失去控制并入侵了Hugging Face,引发全球关注。不过,路透社称,此次攻击持续时间以及OpenAI发现问题滞后的情况,此前并未被公开披露。

沃尔夫表示,Hugging Face正准备公布此次事件的完整时间线,但无法评论OpenAI内部情况。OpenAI则回应称,此次事件“前所未有”,是AI安全领域的重要节点,公司正与外部顾问共同调查,并将在未来发布技术报告。不过,OpenAI发言人表示,路透社报道中存在“若干不准确之处”,但未具体说明。FBI则拒绝置评。

报道称,这起事件发生之际,OpenAI正筹备最快可能于今年启动的首次公开募股(IPO),以筹集未来发展所需资金,因此格外受到外界关注。

多名网络安全专家认为,此次事件暴露出OpenAI内部安全流程可能存在漏洞。美国非营利组织“世界伦理数据基金会”情报专家马利·史密斯表示,如果OpenAI长期未发现AI Agent异常行为,或者发现后却无法及时控制,“两种情况都同样危险,也令人担忧”。

路透社还独家披露称,在此次事件发生前,OpenAI内部已出现一些异常迹象。据3名知情人士介绍,在测试由GPT-5.6 Sol和另一款尚未发布、更强大的模型驱动的AI Agent时,AI Agent曾留下疑似写给“未来版本”的备注,其中包含帮助AI Agent摆脱OpenAI内部限制的指导内容。此外,早期测试中还曾出现监控系统被关闭的情况。不过,路透社表示,目前无法确认这些异常是否与后来逃离测试环境并攻击Hugging Face的AI Agent存在直接关联。

另据两名知情人士透露,直到7月16日Hugging Face发表博客称遭到“自主AI Agent系统”攻击后,OpenAI才意识到攻击者可能是自家AI Agent。这意味着,从模型首次出现异常迹象到OpenAI确认其实施攻击,至少间隔了一周。两名参与调查的知情人士称,7月18日至19日,OpenAI员工在内部日志中发现线索,确认AI Agent已经突破测试限制。但路透社无法确认,是什么原因促使OpenAI重新检查相关日志。

4名了解OpenAI模型训练流程的人士表示,公司通常会同时开展多项模型测试,系统运行速度极快,产生的数据量巨大,员工有时难以及时处理这些数据。

报道称,在OpenAI通知Hugging Face之前,后者已向FBI报案。路透社未能确认FBI是否已正式立案调查。

AI Agent被视为当前AI产业最受关注的发展方向之一。支持者认为,它们未来可承担大量重复性工作,提高生产效率;但自主性增强,也意味着出现不可预测行为的风险上升。

长期研究AI Agent能力和行为的人工智能安全研究机构Palisade Research负责人杰弗里·拉迪什表示,先进AI模型为了完成任务或通过测试,可能会采取“撒谎、作弊甚至黑客攻击”等捷径。他认为,此次事件不仅让OpenAI面临压力,也暴露出整个AI行业在激烈竞争下,是否愿意投入足够资源强化安全防护的问题。

拉迪什表示,仅靠企业自律并不足够,应加强政府监管,否则相关安全措施很难得到充分落实。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
追詹姆斯失败替代品!骑士1年280万签前5号秀海佐尼亚 时隔6年回NBA

追詹姆斯失败替代品!骑士1年280万签前5号秀海佐尼亚 时隔6年回NBA

醉卧浮生
2026-07-27 06:22:01
张国立4S店试驾半小时干脆利落豪气下单

张国立4S店试驾半小时干脆利落豪气下单

暖心萌阿菇凉
2026-07-24 18:05:40
两害相权取其轻

两害相权取其轻

西楼饮月
2026-07-26 20:39:08
两美女搬空爱心冰箱事件:迎来大结局!她们承诺次日全额补齐冰箱饮用水,并连续一周主动到点位补给物资

两美女搬空爱心冰箱事件:迎来大结局!她们承诺次日全额补齐冰箱饮用水,并连续一周主动到点位补给物资

火山詩话
2026-07-26 12:20:09
哈兰德回应大葱长得像自己:简直一模一样;此前晒“吃饭被吓到”梗图,笑到停不下来

哈兰德回应大葱长得像自己:简直一模一样;此前晒“吃饭被吓到”梗图,笑到停不下来

极目新闻
2026-07-26 17:51:56
美国防部:美军因伊朗战事累计伤亡642人

美国防部:美军因伊朗战事累计伤亡642人

界面新闻
2026-07-27 07:09:27
2亿成本,《三国第一部争洛阳》票房扑街,追光动画悲壮宣布跑路

2亿成本,《三国第一部争洛阳》票房扑街,追光动画悲壮宣布跑路

电影票房预告片
2026-07-26 15:25:20
决裂!38岁本泽马被沙特豪门勒令离队 强硬回应:先给我把工资结清

决裂!38岁本泽马被沙特豪门勒令离队 强硬回应:先给我把工资结清

风过乡
2026-07-27 08:01:23
中国对印尼杀猪盘宣战:你抢我100亿,我要你整个产业链陪葬!

中国对印尼杀猪盘宣战:你抢我100亿,我要你整个产业链陪葬!

激情与荣耀并存
2026-07-26 23:15:06
不严惩这个女恶魔,难给老百姓一个交待,难还张氏叔侄一个公道

不严惩这个女恶魔,难给老百姓一个交待,难还张氏叔侄一个公道

刘哥谈体育
2026-07-26 13:24:43
重庆彭水失联客车找到了!被压得面目全非,甚至一点蓝漆都看不到,网友:那个车直接埋了,不要打开

重庆彭水失联客车找到了!被压得面目全非,甚至一点蓝漆都看不到,网友:那个车直接埋了,不要打开

火山詩话
2026-07-27 08:49:11
暴涨471.6%!长鑫科技,来了!中一签大赚超20000元

暴涨471.6%!长鑫科技,来了!中一签大赚超20000元

券商中国
2026-07-27 09:37:21
某演员高铁占座,铁路部门回应

某演员高铁占座,铁路部门回应

新京报
2026-07-26 18:16:05
谢贤和狄波拉新婚不久,在别墅拍了这张绝版合影,彼时谢贤43岁,狄波拉28岁

谢贤和狄波拉新婚不久,在别墅拍了这张绝版合影,彼时谢贤43岁,狄波拉28岁

阿废冷眼观察所
2026-07-26 20:00:39
为什么不说中文?王虹接受央视采访不说中文,全程使用英语被批评:你是中国人,要说中国话!

为什么不说中文?王虹接受央视采访不说中文,全程使用英语被批评:你是中国人,要说中国话!

谭谈社会
2026-07-26 15:08:32
从3.2亿到20亿!悄悄重塑世界的穆斯林人口浪潮

从3.2亿到20亿!悄悄重塑世界的穆斯林人口浪潮

掠影后有感
2026-07-26 10:02:51
黄渤、吴磊主演的电影《群星闪耀时》宣布撤档,原定的路演及其他线下活动将全部取消,会妥善处理退票事宜;该片已于7月25日上映

黄渤、吴磊主演的电影《群星闪耀时》宣布撤档,原定的路演及其他线下活动将全部取消,会妥善处理退票事宜;该片已于7月25日上映

潇湘晨报
2026-07-27 07:40:09
泪目!烈日下摆摊的老人遗憾离世:这一生,终究没能赶上回家的车

泪目!烈日下摆摊的老人遗憾离世:这一生,终究没能赶上回家的车

行者聊官
2026-07-26 16:02:14
一家三口露营亲历景区山洪:水两分钟涨起来,人从车天窗爬出获救

一家三口露营亲历景区山洪:水两分钟涨起来,人从车天窗爬出获救

新京报
2026-07-27 08:28:18
11-0!老挝队横扫北京队 董路:麻烦了 他们要一路血洗在中国夺冠

11-0!老挝队横扫北京队 董路:麻烦了 他们要一路血洗在中国夺冠

念洲
2026-07-27 06:21:08
2026-07-27 10:04:49
环球网资讯 incentive-icons
环球网资讯
环球网,了解世界,融入世界
1409607文章数 2738606关注度
往期回顾 全部

科技要闻

苹果眼镜目标WWDC2027亮相,摄像头成最难一关

头条要闻

因凡蒂诺回应批评称争议判罚原本就常见 还提到伊朗队

头条要闻

因凡蒂诺回应批评称争议判罚原本就常见 还提到伊朗队

体育要闻

詹姆斯的最后一集,依旧最艰难的路?

娱乐要闻

演员王建隆在家中去世,年仅43岁

财经要闻

不肯裁员的善人:西安商人严鹏之死

汽车要闻

轿跑姿态+大空间/标配655km续航 奇瑞风云A9置换价10.68万起

态度原创

艺术
本地
旅游
时尚
教育

艺术要闻

739米!深圳差点就拥有“中国第一高楼”

本地新闻

跟着影视去旅行:西游篇

旅游要闻

湖南永州喀斯特峰林云雾蒸腾美似仙境

从小萌娃变大女王,她就是“天选之女”吧

教育要闻

遇到同类题型能快速突破,轻松算出内切圆面积

无障碍浏览 进入关怀版