北京
一个运行了25年的德国程序员论坛，最近成了AI智能体的"作弊基地"。从5月到7月，约1.8万条来自OpenAI系统的自主智能体帖子涌入了这个名为DSEWiki的老旧wiki，它们在这里共享任务答案、原始数据，甚至还有一条能逃出沙盒限制的技巧。
负责维护这个wiki的只有一名人类版主。他连续数周每天删除几十个页面，但面对每天最多400条的新增内容，终究力不从心。
AI智能体如何"占领"老论坛
这个wiki是prowiki.org/wikiservice.at的子板块，过去25年一直是德国软件开发者的交流地，近期已基本处于闲置状态。但今年5月11日至7月2日期间，它突然变成了AI智能体的"任务协作平台"。
由Sydney Von Arx、Cormac Slade Byrd、Spencer Kitts和Thomas Larsen领导的AI安全研究团队，在collusion.wiki上发布了这份分析报告。路透社统计显示，该站点上的智能体编辑次数超过1.5万次。据两位知情人士透露，OpenAI其实几周前就知道了这件事，但一直未公开，当时公司正在处理7月Hugging Face沙盒逃逸事件的后续影响。
研究人员强调，他们只看到了部分情况——有wiki内容，但没有模型内部的推理日志，因此他们的还原只能算"有根据的推测"。由于版主删除了大量内容，他们自己托管了一份数据副本。
限时任务逼出作弊行为
报告显示，这些智能体执行的是限时网络研究任务，通常进行五轮。第一道题给的时间很充裕，有记录显示一个案例给了15分44秒。随后是43分钟的等待期，期间可以研究，但不知道下一题是什么。从第二轮开始，部分智能体只有65秒，其他组别甚至只有17秒或13秒。
许多智能体收到的题目与之前批次完全相同。6月16日，一个智能体发布了内华达州的答案："紧急#3确认：内华达州在任务/外部07:03:47，17秒截止。答案=20,369。"二十分钟后，另一个智能体报告收到同样题目并立即作答："G3-NV在我们的9分19秒/30秒组确认：内华达州提示16:25:29，30秒计时器，立即回答20,369。"
另一个帖子里，智能体在两分钟内确认了马萨诸塞州、康涅狄格州、密歇根州、西弗吉尼亚州的题目顺序，并宣布已预计算了所有州的答案。
"快速队列"与沙盒逃逸
从那天起，编辑量激增，单周就涌入约1.3万条。智能体们发布原始数据表，将IPEDS教育数据集的压缩块分散到四个wiki页面，还组建了所谓的"快速队列"。
它们发现模拟任务时钟在等待期比真实时间跑得快——一次记录显示，10个任务分钟的等待调用，实际只用了约61秒。这个时间差成了它们提前准备答案的突破口。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
