网易首页 > 网易号 > 正文 申请入驻

越查越多!OpenAI又发现智能体失控旧案,欧美政府坐不住了

0
分享至

OpenAI扩大对本月引发全球关注的科技公司Hugging Face遭黑客入侵事件调查后,发现了其他自主智能体突破隔离的情况。两名知情人士周五透露,这些新发现是在公司公开宣布调查其一款智能体如何逃离原本应受控的测试环境过程中查出的,OpenAI目前也在调查这些事件。



其中一名消息人士说,这些突破行为范围有限,目前没有迹象表明任何智能体离开了OpenAI的网络。OpenAI发言人提及公司周二发布的一份声明。声明称,除Hugging Face遭入侵事件外,公司还在审查“我们模型更广泛的活动”。OpenAI又发现其他失控行为,即便范围有限,也可能进一步推动美国政府及其他方面对相关监管的需求。

据上述两名消息人士和第三名知情人士透露,OpenAI扩大调查的时间点,距离其主要竞争对手Anthropic披露自家模型也曾实施一系列入侵不久。Anthropic称,这些入侵可追溯至4月,并导致另外3家公司发生安全漏洞。OpenAI近期发现其过去还发生过其他突破隔离事件,此前未见报道。

人工智能安全专家表示,这些新披露的信息勾勒出一幅图景:一些处于前沿的实验室开发危险自主黑客智能体的能力,已经超过了它们控制这些智能体的能力。



剑桥大学生存风险研究中心数学家莫里斯·基奥多说:“整个行业都存在一个问题:设计、开发并推出这些工具的人,自己并没有跟上负责任开发和确保其安全所需的能力。”

记者无法确认OpenAI调查人员究竟发现了多少起事件,也无法确认这些事件发生的具体时间和背景。三名消息人士说,OpenAI和外部专家正在检查今年早些时候的日志数据,以弄清当时究竟发生了什么。

OpenAI最初是在7月初Hugging Face遭入侵后启动调查的。当时,OpenAI的一款智能体在试图在一次内部测试中作弊时失控,在另一家公司的网络中持续活动了数天。OpenAI表示,在这轮黑客行为中,另外4家公司的4个账户也遭到入侵。相关公司之一是总部位于纽约的Modal,该公司管理层证实了这一点。



基奥多表示,令他更担忧的是,种种迹象显示,无论是OpenAI还是Anthropic,在这些智能体失控时都没有对其进行监看。此前有报道称,OpenAI是在Hugging Face控制住这次攻击、联系美国联邦调查局并公开披露事件后,才意识到自家智能体已侵入Hugging Face。OpenAI称这一说法存在不准确之处,但在被问及具体哪些内容不准确时,并未作出回应。

Anthropic在周四披露其自家智能体如何在线入侵受害者的声明中则暗示,公司当时也未进行实时监看。该公司表示,“如果对评估日志进行实时监控,本可以更早发现问题”。



基奥多说,这说明相关审查并不充分。“看起来他们当时甚至没有在看。”基奥多说。Anthropic表示,虽然公司确实部署了实时监控,但由于这家人工智能公司与合作伙伴之间存在误解,这套监控“并未用于这一威胁面”。

随着失控人工智能智能体事件不断扩大,美国和欧洲的立法者及官员已加大压力,推动对开发这些模型的实验室实施新的政府监管。

美国总统唐纳德·特朗普周四对记者说:“我们正在研究管控措施。”欧盟委员会周五表示,已就这些黑客事件与OpenAI和Anthropic举行会谈。

美国参议院情报委员会首席民主党议员马克·华纳周五表示,Anthropic事件“让我认为,从立法上要求对这些先进模型进行强制能力测试是正确的”。

声明:个人原创,仅供参考

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
黄仁勋35岁女儿被曝是“尖叫公主”,已致12名高管辞职,虎父无犬女引发争议

黄仁勋35岁女儿被曝是“尖叫公主”,已致12名高管辞职,虎父无犬女引发争议

译言
2026-11-18 07:30:17
这下彻底佩服了!​黄仁勋的情人黄乐,​手上戴的手镯,我特意去查了一下它的价格,真是贫穷限制了我的想象!

这下彻底佩服了!​黄仁勋的情人黄乐,​手上戴的手镯,我特意去查了一下它的价格,真是贫穷限制了我的想象!

财经要参
2026-11-15 12:00:05
杨瀚森又遭弃用:本季第6次DNP 央视播一半中途弃播比赛表态度

杨瀚森又遭弃用:本季第6次DNP 央视播一半中途弃播比赛表态度

醉卧浮生
2026-11-18 11:38:39
东风-61列装,引发岛内巨震

东风-61列装,引发岛内巨震

极目新闻
2026-11-17 15:57:30
女子30万元买下网剧3%收益权,上线5个月仅能分得17元 诉请出品方付30万回购,一审判了

女子30万元买下网剧3%收益权,上线5个月仅能分得17元 诉请出品方付30万回购,一审判了

红星新闻
2026-11-18 11:19:59
纽约时报:中国人生活在一种奇怪的悖论中,在国际上中国看似强大

纽约时报:中国人生活在一种奇怪的悖论中,在国际上中国看似强大

果妈聊娱乐
2026-11-17 11:39:05
董路评国足2-2巴林:我们以后只用找2个人就行 这是赢球的唯一方式

董路评国足2-2巴林:我们以后只用找2个人就行 这是赢球的唯一方式

风过乡
2026-11-18 07:03:25
65岁刘德华自曝每天吃6颗鸡蛋,吃素13年曾迷上咖啡:每天喝20杯

65岁刘德华自曝每天吃6颗鸡蛋,吃素13年曾迷上咖啡:每天喝20杯

开开森森
2026-11-16 20:46:35
湖北省武汉市人大常委会原副主任但长春被开除党籍

湖北省武汉市人大常委会原副主任但长春被开除党籍

界面新闻
2026-11-17 17:02:07
快讯!黄仁勋打破沉寂:如果董事会认可,我将很荣幸回归担任CEO

快讯!黄仁勋打破沉寂:如果董事会认可,我将很荣幸回归担任CEO

瓦砾村夫
2026-11-18 01:01:37
刻赤大桥被拦腰截断

刻赤大桥被拦腰截断

YY团长
2026-11-17 20:44:46
太硬气了!央视今天拒绝转播开拓者队比赛,原因或许只有一个

太硬气了!央视今天拒绝转播开拓者队比赛,原因或许只有一个

南海浪花
2026-11-18 11:34:45
7-0!阿根廷迎后梅西时代首胜 3人双响 小蜘蛛2场3球 8000万红星闪耀

7-0!阿根廷迎后梅西时代首胜 3人双响 小蜘蛛2场3球 8000万红星闪耀

我爱英超
2026-11-18 08:58:01
希拉里:若有政治家有资格被称为当今自由世界领袖,那应该是卡尼

希拉里:若有政治家有资格被称为当今自由世界领袖,那应该是卡尼

经纬戎韬
2026-11-18 01:09:10
大厂主动报案,副总裁被警方带走

大厂主动报案,副总裁被警方带走

中国新闻周刊
2026-11-17 23:06:06
细思极恐!放入一个细胞,撒下36片燕麦,26小时后竟自动生出百年东京铁路网,科学家都惊呆了!

细思极恐!放入一个细胞,撒下36片燕麦,26小时后竟自动生出百年东京铁路网,科学家都惊呆了!

徐德文科学频道
2026-11-15 14:24:34
76岁盛海琳现状:16岁双胞胎女儿接近1米7,很漂亮,粉丝将破百万

76岁盛海琳现状:16岁双胞胎女儿接近1米7,很漂亮,粉丝将破百万

乡野小珥
2026-11-18 11:32:35
特朗普不想在菲律宾浪费时间,他准备吃完午饭,专机立刻北上中国

特朗普不想在菲律宾浪费时间,他准备吃完午饭,专机立刻北上中国

小影的娱乐
2026-11-18 08:34:40
刘德华辅导女儿功课也头疼,他表示:“最烦恼数学,算来算去结果都对不上”

刘德华辅导女儿功课也头疼,他表示:“最烦恼数学,算来算去结果都对不上”

韩小娱
2026-11-18 08:10:38
国债利息也要征税?网传华泰证券测算:机构每年或增4590亿元税负

国债利息也要征税?网传华泰证券测算:机构每年或增4590亿元税负

爆角追踪
2026-11-18 11:01:03
2026-11-18 13:55:00
冷峻视角下的世界
冷峻视角下的世界
冷峻视角下的世界,你真的看懂了吗?
1687文章数 245关注度
往期回顾 全部

科技要闻

老黄想回来?英伟达董事会:没门

头条要闻

中国女子在希腊失踪半年 保险箱发现10万欧元现金

头条要闻

中国女子在希腊失踪半年 保险箱发现10万欧元现金

体育要闻

伪强队?拥4亿豪阵欧国联6连败+世界杯出局

娱乐要闻

陈晓楠对话厉娜和许飞引全网热议

财经要闻

10万人逼宫英伟达,黄仁勋要复职了?

汽车要闻

更豪华更好开 问界新M8细节升级见真章

态度原创

游戏
旅游
本地
艺术
公开课

英国法庭驳回索尼PlayStation数字内容集体诉讼

旅游要闻

秋假遛娃剑门关,全程17000步,6个小时,喜提废腿体验!

本地新闻

乌兰察布:以前种土豆,现在种Token

艺术要闻

漫天香氛,秋风醉人~杭州的秋天从不让人失望!13个地方,秒出大片!

公开课

李玫瑾:为什么性格比能力更重要?

无障碍浏览 进入关怀版