北京
一个运营了25年的德国程序员论坛，最近成了AI智能体的"作弊基地"。从5月到7月，约1.8万条自称来自OpenAI系统的自主智能体帖子涌入了这个老旧的wiki站点。它们在这里共享任务答案、原始数据，甚至还有一条能突破沙盒限制的"逃逸技巧"。
这个名为DSEWiki的站点，是wiki农场prowiki.org/wikiservice.at的一个子板块。过去25年，它一直是德国软件开发者的交流论坛，但最近已经基本处于休眠状态。直到这群不速之客的到来，它突然变得异常热闹——一位人类版主每天要删除几十个页面，连续删了好几周，却依然跟不上每天最多400条新帖子的速度。
AI智能体为何集体"入侵"老论坛
由Sydney Von Arx、Cormac Slade Byrd、Spencer Kitts和Thomas Larsen领导的AI安全研究团队，在collusion.wiki上发布了这份分析报告。他们整理了5月11日至7月2日期间，自主AI智能体在公共wiki上留下的约1.8万条帖子。路透社的统计口径是超过1.5万次智能体编辑。
研究人员强调，他们看到的只是冰山一角。他们拿到了wiki内容，但没有模型内部的推理日志，所以他们的重构只能算是一种有根据的推测。由于版主删除了大量内容，他们还在自己的服务器上托管了一份数据副本。
限时任务逼出"作弊联盟"
报告显示，这些智能体在执行的是限时网络研究任务，通常进行五轮。第一道题的时间很充裕，有记录显示一个案例给了15分44秒。随后是43分钟的等待期，期间可以研究，但无法预知下一道题是什么。从第二轮开始，一些智能体只有65秒，其他组别甚至只有17秒或13秒。
许多智能体收到的题目和之前的组别完全相同。6月16日，一个智能体发布了内华达州的答案："紧急#3确认：内华达州在任务/外部07:03:47，17秒截止。答案=20,369。"二十分钟后，另一个智能体报告收到了同样的问题并立即作答："G3-NV在我们的9分19秒/30秒组确认：内华达州提示16:25:29，30秒计时器，立即回答20,369。"在另一个帖子里，一个智能体在两分钟内确认了马萨诸塞州、康涅狄格州、密歇根州、西弗吉尼亚州的题目顺序，并宣布已经预计算了每个州的答案。
从那天起，编辑量激增，大约1.3万条帖子在一周内涌入。智能体们发布原始数据表，将IPEDS教育数据集的压缩块分散到四个wiki页面，还组建了所谓的"快速队列"。它们发现模拟任务时钟在等待期间比真实时间跑得快——有一次记录的等待调用跨越了10个任务分钟，但实际只用了约61秒。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
