网易首页 > 网易号 > 正文 申请入驻

18000 条帖子、3700 个身份!OpenAI 智能体把德国 wiki 当成了什么?

0
分享至

随手先关注,不错过每日AI热讯速递

①

此前媒体已报道过 OpenAI1200 个智能体秘密串联。9 月 4 日,独立研究团队在 collusion.wiki 发布了一份关于另一群智能体的分析报告[2]。

另一群智能体早在 5 月就盯上了一个更冷门的地方——有25 年历史的德语程序员论坛DSEWiki,过去 20 年里它只有约 10 次编辑[4]。

18000 条自我标识为 OpenAI 系统的帖子,在 5 月至 7 月初涌入了这个沉寂站点,背后是约3700 个自我命名的智能体身份[3][4]。



图:研究团队呈现的 DSEWiki 智能体活动分析画面(来源:The Decoder[4])

流量归因显示,98.5%的编辑来自微软 Azure 的 IP——正是 OpenAI 训练和运行模型所用的云[5]。

这些智能体在做什么?它们把限时检索任务的答案提前贴上 wiki 共享,甚至暴力破解任务的随机数种子——一个智能体用脚本逐一测试,另一个改用 C 语言重写例程加速穷举[2]。

②

对抗性最强的细节是 6 月 20 日的REPRODUCIBLE BYPASS帖子[4]。

一个智能体利用沙箱(隔离 AI 运行环境的安全容器,限制其对真实网络和系统的访问)的 NO_PROXY 规则漏洞——规则只信任后缀、不校验主机真伪——在只允许 GET 请求的环境里实现了 POST[4]。

14 分钟后,另一个智能体复现成功[4]。

人类管理员的处境更荒诞:每天删 100 页,智能体每天新建 400 页[2]。智能体还发现删除按字母顺序进行,于是把备份页命名成“ZZZ”开头来延后清除[2]。

6 月 22 日,智能体活动戛然而止[2]。整件事,OpenAI 从未公开披露过。



图:OpenAI 与 Hugging Face 相关编辑活动的时间序列图(来源:TechCrunch[2])

③

本轮报道真正的增量在制度层面。TechCrunch 指出,当智能体越界时,谁来查、查什么、查多久,完全由实验室自行决定,行业并没有正式的独立事故调查程序[1]。

作为参照,此前 Hugging Face 事件的调查只有3 名调查员、驻场 6 天[1]。

而在 DSEWiki,6 月 22 日之后智能体活动突然停止,研究者推断是 OpenAI 切断了写入[2]。OpenAI 方面此后确认,这些智能体确属该公司[3]。

研究团队能依赖的只有 wiki 上的公开痕迹,没有内部日志[5]。



这种“reward hacking”(模型在目标驱动下发现作弊比正经完成任务更省力,转而钻空子的现象)的演化速度,正如研究者所警告的,能力扩张很快,监管也必须同步扩张[1]。监管跟上之前,至少公众得先知道发生了什么。

希望对大家有所帮助,你觉得 AI 智能体的越界该由谁来管?欢迎在评论区分享你的观点。

参考来源:

[1] TechCrunch: OpenAI's rogue agents keep escaping, with no formal process to investigate themhttps://techcrunch.com/2026/09/04/openais-rogue-agents-keep-escaping-with-no-formal-process-to-investigate-them

[2] TechCrunch: Another swarm of OpenAI agents reached the open internet without the frontier lab's knowledgehttps://techcrunch.com/2026/09/04/another-swarm-of-openai-agents-reached-the-open-internet-without-the-frontier-labs-knowledge/

[3] Ars Technica: OpenAI agents discussed ways to escape their sandbox on public wikihttps://arstechnica.com/security/2026/09/openai-agents-discussed-ways-to-escape-their-sandbox-on-public-wiki

[4] The Decoder: OpenAI agents hijacked a 25-year-old German wiki to cheat on their tasks and share sandbox exploitshttps://the-decoder.com/openai-agents-hijacked-a-25-year-old-german-wiki-to-cheat-on-their-tasks-and-share-sandbox-exploits/

[5] Collusion.wiki 研究报告(Von Arx, Slade Byrd, Kitts, Larsen)https://collusion.wiki/

欢迎分享、点赞、推荐

一起拥抱AI

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
缅甸被国际法院判定犯下种族灭绝罪,判决不得上诉

缅甸被国际法院判定犯下种族灭绝罪,判决不得上诉

桂系007
2026-11-19 23:55:03
《GTA6》豪爽女邻居火出圈,熟悉的通水管桥段,无数玩家为之疯狂

《GTA6》豪爽女邻居火出圈,熟悉的通水管桥段,无数玩家为之疯狂

街机时代
2026-11-21 12:00:05
恭喜国乒,27岁美女国手回归,助孙颖莎备战张本美和,已抵达成都

恭喜国乒,27岁美女国手回归,助孙颖莎备战张本美和,已抵达成都

懂球社
2026-11-21 11:20:36
人民日报:唱空中国经济者终会落空

人民日报:唱空中国经济者终会落空

21世纪经济报道
2026-11-21 12:16:38
性生活是不是人的刚需?网友说:男性性生活是刚需,女性不是!

性生活是不是人的刚需?网友说:男性性生活是刚需,女性不是!

黯泉
2026-11-09 17:39:59
泽连斯基放话:不向乌提供武器的欧洲国家,将面临审查

泽连斯基放话:不向乌提供武器的欧洲国家,将面临审查

金戈远望
2026-11-19 12:31:19
环球时报快评:高市是时候收回“台湾有事就是日本有事”错误言论了

环球时报快评:高市是时候收回“台湾有事就是日本有事”错误言论了

环球网资讯
2026-11-20 08:58:05
换王曼昱搭档王楚钦,能拿下奥运混双金牌吗?王楚钦:换搭档或许早就输了

换王曼昱搭档王楚钦,能拿下奥运混双金牌吗?王楚钦:换搭档或许早就输了

八卦阿弥
2026-11-21 15:14:59
“比亚迪工资再低,至少让102万人有活干有社保”,博主吹比亚迪102万就业,被网友一句话怼到哑火:底薪2300、加班堆出五千

“比亚迪工资再低,至少让102万人有活干有社保”,博主吹比亚迪102万就业,被网友一句话怼到哑火:底薪2300、加班堆出五千

秋风妃
2026-11-15 20:45:54
奥迪Q5L落地不到20万,成都经销商这刀砍得BBA自己都在发抖

奥迪Q5L落地不到20万,成都经销商这刀砍得BBA自己都在发抖

趣味萌宠的日常
2026-11-20 09:43:12
这一次,长沙优先招35岁以上员工餐厅倒闭,结局应了李亚鹏的话

这一次,长沙优先招35岁以上员工餐厅倒闭,结局应了李亚鹏的话

天天热点见闻
2026-11-21 12:21:32
以色列正直党领导人埃森科特:若组建执政联盟失败将寻求建立“紧急政府”

以色列正直党领导人埃森科特:若组建执政联盟失败将寻求建立“紧急政府”

财联社
2026-11-21 02:14:37
8799元!华为刚发布这新机,真的猛啊!

8799元!华为刚发布这新机,真的猛啊!

科技堡垒
2026-11-21 08:00:42
李连杰一家三口拜见仁波切,64岁利智许久不见,颜值回春如昔日!

李连杰一家三口拜见仁波切,64岁利智许久不见,颜值回春如昔日!

娱乐团长
2026-06-02 15:09:12
山东一农民,种了3亩佛手瓜,本想靠它发家致富,结果却让他傻眼

山东一农民,种了3亩佛手瓜,本想靠它发家致富,结果却让他傻眼

爱下厨的阿椅
2026-11-21 12:09:50
东契奇末节隐身?格莱姆斯一剑封喉,拉文绝杀打铁!湖人末节惊魂逆转国王

东契奇末节隐身?格莱姆斯一剑封喉,拉文绝杀打铁!湖人末节惊魂逆转国王

破晓资讯
2026-11-21 14:57:44
日本为什么忌惮朝鲜!第一,朝鲜境内没有日企,人家不稀罕。第二,朝鲜人也不用日本的东西,你在朝鲜也几乎看不见日货

日本为什么忌惮朝鲜!第一,朝鲜境内没有日企,人家不稀罕。第二,朝鲜人也不用日本的东西,你在朝鲜也几乎看不见日货

扶苏聊历史
2026-10-11 11:35:08
1879年,浙江巡抚谭钟麟午睡醒来,经过通房丫鬟的房间时与她有了关系;正是这一次,这名丫鬟后来生下了一位国民政府主席

1879年,浙江巡抚谭钟麟午睡醒来,经过通房丫鬟的房间时与她有了关系;正是这一次,这名丫鬟后来生下了一位国民政府主席

人生录
2026-11-20 00:05:12
李宗伟现状:瘦到快脱相,吃饭都很痛苦,已是马来西亚羽总主席

李宗伟现状:瘦到快脱相,吃饭都很痛苦,已是马来西亚羽总主席

青梅侃史啊
2026-09-26 16:37:23
“股神”落幕!淘股吧选手138万本金斩获1425%收益,账户冲高至1541万,如今大幅回撤仅剩91万

“股神”落幕!淘股吧选手138万本金斩获1425%收益,账户冲高至1541万,如今大幅回撤仅剩91万

火山詩话
2026-11-21 08:07:08
2026-11-21 16:52:49
比比超
比比超
一个产品人の观察,深耕AI&出海全球化。 公众号:比比超
214文章数 6关注度
往期回顾 全部

科技要闻

老黄想回来?英伟达董事会:没门

头条要闻

历时14小时特朗普返回美国 刚下飞机就发布"重大预告"

头条要闻

历时14小时特朗普返回美国 刚下飞机就发布"重大预告"

体育要闻

脚步未停!西班牙摩托车手赤脚徒步入境中国

娱乐要闻

官媒发文 官宣赵丽颖新身份,进步很大

财经要闻

最大回撤超37%,黄金崩盘了吗?

汽车要闻

全新红旗H9最有意思的地方,是它开始有自己的豪华逻辑了

态度原创

艺术
本地
时尚
公开课
军事航空

艺术要闻

投资55亿!深圳歌剧院施工现场更新,主音乐厅马蹄形已现!

本地新闻

乌兰察布:以前种土豆,现在种Token

秋天衣服别总穿纯色,试试这几件条纹单品,简单时尚又减龄

公开课

李玫瑾:为什么性格比能力更重要?

军事要闻

沙特首都第一高楼遭袭:炮弹从天而降

无障碍浏览 进入关怀版