网易首页 > 网易号 > 正文 申请入驻

18000 条帖子、3700 个身份!OpenAI 智能体把德国 wiki 当成了什么?

0
分享至

随手先关注,不错过每日AI热讯速递

此前媒体已报道过 OpenAI1200 个智能体秘密串联。9 月 4 日,独立研究团队在 collusion.wiki 发布了一份关于另一群智能体的分析报告[2]。

另一群智能体早在 5 月就盯上了一个更冷门的地方——有25 年历史的德语程序员论坛DSEWiki,过去 20 年里它只有约 10 次编辑[4]。

18000 条自我标识为 OpenAI 系统的帖子,在 5 月至 7 月初涌入了这个沉寂站点,背后是约3700 个自我命名的智能体身份[3][4]。



图:研究团队呈现的 DSEWiki 智能体活动分析画面(来源:The Decoder[4])

流量归因显示,98.5%的编辑来自微软 Azure 的 IP——正是 OpenAI 训练和运行模型所用的云[5]。

这些智能体在做什么?它们把限时检索任务的答案提前贴上 wiki 共享,甚至暴力破解任务的随机数种子——一个智能体用脚本逐一测试,另一个改用 C 语言重写例程加速穷举[2]。

对抗性最强的细节是 6 月 20 日的REPRODUCIBLE BYPASS帖子[4]。

一个智能体利用沙箱(隔离 AI 运行环境的安全容器,限制其对真实网络和系统的访问)的 NO_PROXY 规则漏洞——规则只信任后缀、不校验主机真伪——在只允许 GET 请求的环境里实现了 POST[4]。

14 分钟后,另一个智能体复现成功[4]。

人类管理员的处境更荒诞:每天删 100 页,智能体每天新建 400 页[2]。智能体还发现删除按字母顺序进行,于是把备份页命名成“ZZZ”开头来延后清除[2]。

6 月 22 日,智能体活动戛然而止[2]。整件事,OpenAI 从未公开披露过。



图:OpenAI 与 Hugging Face 相关编辑活动的时间序列图(来源:TechCrunch[2])

本轮报道真正的增量在制度层面。TechCrunch 指出,当智能体越界时,谁来查、查什么、查多久,完全由实验室自行决定,行业并没有正式的独立事故调查程序[1]。

作为参照,此前 Hugging Face 事件的调查只有3 名调查员、驻场 6 天[1]。

而在 DSEWiki,6 月 22 日之后智能体活动突然停止,研究者推断是 OpenAI 切断了写入[2]。OpenAI 方面此后确认,这些智能体确属该公司[3]。

研究团队能依赖的只有 wiki 上的公开痕迹,没有内部日志[5]。



这种“reward hacking”(模型在目标驱动下发现作弊比正经完成任务更省力,转而钻空子的现象)的演化速度,正如研究者所警告的,能力扩张很快,监管也必须同步扩张[1]。监管跟上之前,至少公众得先知道发生了什么。

希望对大家有所帮助,你觉得 AI 智能体的越界该由谁来管?欢迎在评论区分享你的观点。

参考来源:

[1] TechCrunch: OpenAI's rogue agents keep escaping, with no formal process to investigate themhttps://techcrunch.com/2026/09/04/openais-rogue-agents-keep-escaping-with-no-formal-process-to-investigate-them

[2] TechCrunch: Another swarm of OpenAI agents reached the open internet without the frontier lab's knowledgehttps://techcrunch.com/2026/09/04/another-swarm-of-openai-agents-reached-the-open-internet-without-the-frontier-labs-knowledge/

[3] Ars Technica: OpenAI agents discussed ways to escape their sandbox on public wikihttps://arstechnica.com/security/2026/09/openai-agents-discussed-ways-to-escape-their-sandbox-on-public-wiki

[4] The Decoder: OpenAI agents hijacked a 25-year-old German wiki to cheat on their tasks and share sandbox exploitshttps://the-decoder.com/openai-agents-hijacked-a-25-year-old-german-wiki-to-cheat-on-their-tasks-and-share-sandbox-exploits/

[5] Collusion.wiki 研究报告(Von Arx, Slade Byrd, Kitts, Larsen)https://collusion.wiki/

欢迎分享、点赞、推荐

一起拥抱AI

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
管家转卖雇主酒水获利243万元被判刑10年半,家属称将申诉

管家转卖雇主酒水获利243万元被判刑10年半,家属称将申诉

澎湃新闻
2026-09-17 16:58:28
男子钓鱼买1斤蚯蚓放后备箱近百条蚯蚓出逃,车主发声:4s店报价拆车清洗要大几千

男子钓鱼买1斤蚯蚓放后备箱近百条蚯蚓出逃,车主发声:4s店报价拆车清洗要大几千

大众网
2026-09-17 11:12:35
天塌了!女子捏废2008年金福娃,吐槽像纸皮。人果然赚不到认知以外的钱!

天塌了!女子捏废2008年金福娃,吐槽像纸皮。人果然赚不到认知以外的钱!

品牌新
2026-09-17 12:50:00
8月份的宏观经济数据,很多问题已经很严重了

8月份的宏观经济数据,很多问题已经很严重了

道格财经观
2026-09-17 14:08:44
“拿我当牲口!宁波妻子发帖哭诉,丈夫月薪8800养四口,逼他每晚跑4小时滴滴遭怒斥

“拿我当牲口!宁波妻子发帖哭诉,丈夫月薪8800养四口,逼他每晚跑4小时滴滴遭怒斥

火山詩话
2026-09-17 19:21:49
办不起就别办!中国队自费住酒店,泰国队机场打地铺,印度队最惨

办不起就别办!中国队自费住酒店,泰国队机场打地铺,印度队最惨

天马幸福的人生
2026-09-17 20:25:07
中国一年在安检上花费多少钱?机场火车站地铁合计近500亿,人力成本超60%

中国一年在安检上花费多少钱?机场火车站地铁合计近500亿,人力成本超60%

三言四拍
2026-09-16 11:33:07
掀桌子不干了,韩国队率先怒喷日本逃离,中国男篮真不能忍了

掀桌子不干了,韩国队率先怒喷日本逃离,中国男篮真不能忍了

宗介说体育
2026-09-17 10:35:58
佟丽娅接受采访,首次公开此前婚姻细节:没想过拍《北爱》会和陈思诚好,他没有打过我,当年没立即离婚不是因为“懦弱”

佟丽娅接受采访,首次公开此前婚姻细节:没想过拍《北爱》会和陈思诚好,他没有打过我,当年没立即离婚不是因为“懦弱”

极目新闻
2026-09-17 21:33:02
中国高层绝对有高人,层层进逼,一步步往前挤,把主动权抢过来

中国高层绝对有高人,层层进逼,一步步往前挤,把主动权抢过来

小马姨
2026-09-17 11:23:43
陈建州术后晒合照,王力宏帮其提尿壶,发长文自省:不抽烟不喝酒不应酬,但6年每天只睡三四小时,6点起床送小孩上学,“我以为撑得住”

陈建州术后晒合照,王力宏帮其提尿壶,发长文自省:不抽烟不喝酒不应酬,但6年每天只睡三四小时,6点起床送小孩上学,“我以为撑得住”

极目新闻
2026-09-17 20:52:18
父亲遛狗时2岁幼童从18楼坠亡,幼童母亲最新发声:网传老公出轨以及给孩子买巨额保险均为不实信息,事发前曾叮嘱老公等孩子睡着再遛狗

父亲遛狗时2岁幼童从18楼坠亡,幼童母亲最新发声:网传老公出轨以及给孩子买巨额保险均为不实信息,事发前曾叮嘱老公等孩子睡着再遛狗

扬子晚报
2026-09-17 21:55:11
HYROX失禁夺冠选手正式道歉:向所有人致歉 现退赛放弃冠军和积分

HYROX失禁夺冠选手正式道歉:向所有人致歉 现退赛放弃冠军和积分

醉卧浮生
2026-09-17 21:24:18
俄罗斯咬死250美元等中国低头,中方转身跟美国签了20年

俄罗斯咬死250美元等中国低头,中方转身跟美国签了20年

扶苏聊历史
2026-09-17 12:16:21
谈判破裂,菲财长离开香港,马科斯拒绝中方贷款,经济崩盘倒计时

谈判破裂,菲财长离开香港,马科斯拒绝中方贷款,经济崩盘倒计时

墨兰史书
2026-09-18 02:30:04
随着一场2-1险胜,死亡之组积分榜乱套了,国足无缘登顶!37岁老将包办全场射正!U23小将集体哑火,球迷心寒了

随着一场2-1险胜,死亡之组积分榜乱套了,国足无缘登顶!37岁老将包办全场射正!U23小将集体哑火,球迷心寒了

小七说篮球
2026-09-17 09:55:15
1999 年公安部下达秘密指令抓捕赖昌星,福建省公安厅一位副厅长深夜接连拨打四通电话,他在通话中的一句话,令专案组成员全部大为震惊

1999 年公安部下达秘密指令抓捕赖昌星,福建省公安厅一位副厅长深夜接连拨打四通电话,他在通话中的一句话,令专案组成员全部大为震惊

温柔记事簿
2026-09-17 10:41:47
乱套了!亚运会开幕倒计时仅2天,中国运动员自费住酒店,泰国队机场打地铺,印度队最惨,45国奥委会集体抗议!东道主一句话回应太心酸

乱套了!亚运会开幕倒计时仅2天,中国运动员自费住酒店,泰国队机场打地铺,印度队最惨,45国奥委会集体抗议!东道主一句话回应太心酸

小七说篮球
2026-09-17 16:51:01
敬一丹病逝,丈夫手握3600亿资产、动用顶尖医疗团队,三个月贴身守护仍没能留住她

敬一丹病逝,丈夫手握3600亿资产、动用顶尖医疗团队,三个月贴身守护仍没能留住她

子芫伴你成长
2026-09-17 21:38:13
警报拉响!日本内阁大换血,极右翼正式入阁,扩军野心藏不住了

警报拉响!日本内阁大换血,极右翼正式入阁,扩军野心藏不住了

战友老邓
2026-09-17 14:07:33
2026-09-18 05:19:01
比比超
比比超
一个产品人の观察,深耕AI&出海全球化。 公众号:比比超
102文章数 4关注度
往期回顾 全部

科技要闻

影视飓风Tim反掰iPhoneDuo被质疑

头条要闻

永和豆浆视频被指擦边:女子穿蕾丝吊带 脱黑丝袜洗澡

头条要闻

永和豆浆视频被指擦边:女子穿蕾丝吊带 脱黑丝袜洗澡

体育要闻

逆转朝鲜,国足亚运队“啃老”过关

娱乐要闻

rapper赵涛恋情曝光!带甜馨妈妈散步

财经要闻

缺钱的追觅 隐藏的债务?

汽车要闻

小鹏G9L限时售23.18万 旗舰级的配置/诱人的价格

态度原创

房产
旅游
手机
健康
教育

房产要闻

突发!三亚安居房出台新政!

旅游要闻

烟花+戏剧+赛事全拉满!长江口吴淞岸线带你解锁中秋国庆滨江新玩法

手机要闻

鸿蒙7花粉Beta版有惊喜,华为Mate 60系列手机升级后新增支持眼动翻页功能

剧烈头痛伴呕吐,警惕脑动脉瘤破裂

教育要闻

家长爆料:南京又有学校要合并?

无障碍浏览 进入关怀版