网易首页 > 网易号 > 正文 申请入驻

OpenAI智能体“劫持”德国网站,管理人员选择对外保密

0
分享至

据路透社报道,当地时间9月4日,一份最新发布的研究报告以及两名知情人士透露,今年5月,一批失控的OpenAI智能体劫持了一家德国网站,并将其改造为可供其他AI智能体交流的平台。

知情人士称,OpenAI的管理人员数周前就知晓该事件,但选择对外保密,因为当时企业高管正忙于处理7月AI开源平台“抱抱脸”(Hugging Face)遭入侵事件带来的后续影响。

一批OpenAI智能体被指失控 资料图

这份由AI安全非营利机构南丁格尔(Nightingale)发布的研究报告显示,8月末,该机构在面向程序员、支持大众编辑的德语维基网站DseWiki上,发现由AI智能体完成的超过15000次编辑操作。

编辑记录显示,OpenAI的智能体把该网站改造为“信息公告板”,在这里交流任务作弊手段、绕过OpenAI限制的方法,以及掩盖自身行为的技巧。

研究人员表示,该网站上发生的相关操作远超人类的执行速度,可以判定是AI智能体所为。这些智能体高度专注于解决技术问题,这正是AI企业训练、测试模型评估环节的典型特征。

研究人员称,相关留言账号均以“智能体”互相称呼,约半数账号取名带有OpenAI相关标识,例如“OpenAIResearcher”“OAIResearchMar26”。

公开服务器日志显示,大量访问流量来自微软Azure云基础设施,而这正是OpenAI会使用的云服务。研究人员还观察到,事件发生之后,OpenAI员工多次访问该网站,该迹象强烈说明这些代理与OpenAI存在关联。

路透社称,OpenAI内部部分调查人员希望对此开展更深入核查,但四名知情人士透露,扩大调查范围的尝试遭到公司内部其他人员的阻挠,其中包括公司的法律顾问。

对此,OpenAI一名发言人表示:“我们尚未拿到这份报告,因此无法对报告中的说法与研究结论作出实质性回应。报告正式发布后,我们会仔细研读,并采取一切必要后续举措。”

该发言人称,所谓“法务部门阻挠调查”的说法并不属实。他提到,德国发生的这起事件与“抱抱脸”平台遭入侵的事件的无关,也不会纳入“抱抱脸”事件调查报告。

报道指出,在“抱抱脸”遭入侵事件中,OpenAI旗下智能体逃离了原本隔离的测试环境,自主入侵了该平台,且行为隐匿超过一周才被发现,这也加剧了外界对于OpenAI是否为抢占技术前沿而牺牲安全的担忧。而本次OpenAI隐瞒5月这起事件的做法,可能再度引发外界对其监管机制的质疑。

本文系观察者网独家稿件,未经授权,不得转载。

责任编辑:史建磊_NBJ11331

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
深度长文:黎曼猜想,统治数学界160年的无冕之王,到底有多恐怖?

深度长文:黎曼猜想,统治数学界160年的无冕之王,到底有多恐怖?

宇宙时空
2026-10-12 11:58:16
后悔不?租金从800万涨到2400万逼走胖东来,空楼跌到400万没人接

后悔不?租金从800万涨到2400万逼走胖东来,空楼跌到400万没人接

草莓信箱
2026-11-20 17:12:20
刘贤志被遣返回国,于今年5月外逃,涉嫌向多名公职人员行贿

刘贤志被遣返回国,于今年5月外逃,涉嫌向多名公职人员行贿

观察者网
2026-11-22 18:33:06
无期限禁赛!他因一句话!闯下大祸!

无期限禁赛!他因一句话!闯下大祸!

柚子说球
2026-11-22 18:59:05
嘌呤冠军已找出,是海鲜的 40 倍,若想远离痛风,劝你趁早忌口

嘌呤冠军已找出,是海鲜的 40 倍,若想远离痛风,劝你趁早忌口

看世界的人
2026-08-30 13:52:33
金价跌势凌厉,多家银行发紧急提示,网友:1200时不提醒,700反而疯狂提醒

金价跌势凌厉,多家银行发紧急提示,网友:1200时不提醒,700反而疯狂提醒

东方豪侠
2026-11-22 09:26:55
杨振宁妻子翁帆自白:为了先生的身体,我16年来都是早睡早起

杨振宁妻子翁帆自白:为了先生的身体,我16年来都是早睡早起

不写散文诗
2026-11-23 00:25:10
造纸厂储罐发现3具女尸,法医:三人为亲姐妹,生前骨盆均被破坏

造纸厂储罐发现3具女尸,法医:三人为亲姐妹,生前骨盆均被破坏

罪案洞察者
2025-10-28 15:33:21
9轮投票全军覆没,8人全被一票否决,联合国秘书长选举“难产”

9轮投票全军覆没,8人全被一票否决,联合国秘书长选举“难产”

国际法大视野
2026-11-21 22:22:17
美股周末链上交易:AI股集体反弹,英伟达较周五收盘价高约4%

美股周末链上交易:AI股集体反弹,英伟达较周五收盘价高约4%

北美商业电讯
2026-11-22 14:04:07
特朗普是美国历史上第一位,也是到目前为止唯一一位,当选总统前既没有任何文职政府公职、也没有参军服役经历的总统

特朗普是美国历史上第一位,也是到目前为止唯一一位,当选总统前既没有任何文职政府公职、也没有参军服役经历的总统

回京历史梦
2026-10-26 10:49:29
德媒:德国太天真了,我们最大的幻想,就是信了中国是个现代强国

德媒:德国太天真了,我们最大的幻想,就是信了中国是个现代强国

你是我心中最美星空
2026-11-22 05:46:42
怪不得都说广西人在阴阳怪气说话这一方面天赋异禀呢!笑不活了

怪不得都说广西人在阴阳怪气说话这一方面天赋异禀呢!笑不活了

石辰搞笑日常
2026-11-22 02:04:16
毛主席访苏途中车窗突然打开,高岗对陈伯达怒吼:你想干什么?

毛主席访苏途中车窗突然打开,高岗对陈伯达怒吼:你想干什么?

微野谈写作
2026-11-21 14:25:09
马特拉齐:穆里尼奥离队前仍保持职业,埃托奥庆祝动作源于电影

马特拉齐:穆里尼奥离队前仍保持职业,埃托奥庆祝动作源于电影

懂球帝
2026-11-23 01:02:37
排队给梅西道歉!砸人并非球王本意,队友伸冤:是对方挡住了球王

排队给梅西道歉!砸人并非球王本意,队友伸冤:是对方挡住了球王

阿泰希特
2026-11-22 13:29:01
瑞士全票通过!想要封杀中国机床,谁料中方反手亮出底牌了

瑞士全票通过!想要封杀中国机床,谁料中方反手亮出底牌了

谷盟1
2026-11-22 12:07:32
飙进三分后致意!文班:我得给赛琳娜秀一把

飙进三分后致意!文班:我得给赛琳娜秀一把

北青网-北京青年报
2026-11-22 20:55:02
炸裂!邝港杰还原蔡天凤分尸现场:父亲切割,我洗厕所,弟弟不知去向

炸裂!邝港杰还原蔡天凤分尸现场:父亲切割,我洗厕所,弟弟不知去向

小鋭有话说
2026-11-14 15:45:58
吃他汀一滴茶都不能喝?提醒:吃他汀还喝茶,5个后果或承担不起

吃他汀一滴茶都不能喝?提醒:吃他汀还喝茶,5个后果或承担不起

华庭讲美食
2026-11-22 14:02:23
2026-11-23 01:15:00
观察者网 incentive-icons
观察者网
全球视野,中国关怀
157598文章数 1851608关注度
往期回顾 全部

科技要闻

Anthropic收涨17.1%,市值一度破2万亿美元

头条要闻

俄导弹落入波兰 北约秘书长吕特强硬回应

头条要闻

俄导弹落入波兰 北约秘书长吕特强硬回应

体育要闻

全场挨打1比4溃败 阿隆索已过保质期?

娱乐要闻

杨颖姐弟烧香被偶遇,清秀少年变粗犷大叔

财经要闻

沪深交易所、中国结算推出一揽子降费措施

汽车要闻

插混尊贵型真的超值 15万级的第二代海豹07配置拉满

态度原创

时尚
本地
游戏
亲子
军事航空

这些才是适合50岁女性的穿搭!衣服不花哨、不老气,得体又自然

本地新闻

43年起落记忆倒计时,去厦门高崎领绝版登机牌!

GTA6爱爱戏制作难度极大!R星力求真实 啥场景都要有

亲子要闻

备孕期的性生活时长与质量,夫妻都该了解

军事要闻

伊朗革命卫队称袭击美军在巴林两处基地防空雷达

无障碍浏览 进入关怀版