网易首页 > 网易号 > 正文 申请入驻

OpenAI一批AI智能体“参加考试”,被发现偷偷在多个老旧网站互相交流"留答案"

0
分享至

据9月10日披露的调查,今年早些时候,OpenAI部署的一批AI智能体在被要求“只能上网搜索、不能发布内容”的情况下,仍自行找到方法,利用多个第三方网站彼此留下信息。研究人员形容,这就像学生考试时被禁止互相说话,却偷偷把答案写在厕所隔间里,留给其他人看。

目前,多名独立调查人员已在10多个此前未披露的网站发现类似活动痕迹,有团队统计涉及网站甚至达到23个。尽管这些行为尚不足以被认定为黑客攻击,但AI智能体能够绕过原有限制、自行建立通信渠道,也再次引发外界对AI系统可控性和科技公司透明度的关注。


▲当地时间2026年8月13日,欧洲,一幅展示人工智能风险的合成图像。画面中带有“AI RISK”字样的未来派机器人立于欧盟旗帜星星与数字二进制代码前(图据视觉中国)

9月4日,研究人员首次披露,OpenAI的一群AI智能体曾利用一个德语在线协作网站,将其变成临时通信平台,用于在测试中交换信息。OpenAI此前并未公开这一事件。随后,多名独立调查人员又陆续发现,同一批AI智能体今年早些时候似乎还在其他网站留下了类似信息。

被要求“只能读不能发”

AI却利用老旧网站机制偷偷“留答案”

研究人员认为,这些行为可能与OpenAI当时交给AI智能体的一项研究任务有关。OpenAI要求它们回答一系列较为复杂的问题,但只允许它们在网上搜索和读取信息,不允许向网站发布任何内容。

然而,这些AI智能体仍找到了彼此“交流”的办法。它们利用部分老旧网站存在的特殊机制,通过非标准指令修改页面,在网站上留下信息,供其他智能体读取。

软件开发人员、美国国会前助理肯尼表示,如果模型被要求“只能读取”,它们就会想办法寻找其他途径留下信息。他称,自己已在至少10个网站发现类似痕迹。


▲AI自主入侵,网络安全风险进入新阶段(图据视觉中国)

报道称,这些网站大多十分冷门,包括一名美国高中教师2008年创建的AP化学网站、两名波兰科技从业者的个人网站、面向益智游戏爱好者的网站,以及一个已有约20年历史、专门讨论文本编辑软件的爱好者网站。

至少23个冷门网站现活动痕迹

有运营者花数小时清理AI留下的内容

不同调查人员对涉及网站数量的统计并不完全一致。研究员安德鲁统计发现,今年5月至7月间,这些AI智能体曾使用18个此前未被披露的网站,并认为实际范围可能更大。

另一支此前率先发现德语网站相关活动的研究团队则表示,目前已在23个此前未被报道的网站发现可信的AI智能体活动痕迹,不过该团队同时强调,这一数字仍可能并不完整。

对于旗下AI智能体究竟通过多少个网站进行通信,以及为何数月来未公开相关活动,OpenAI没有直接回应。公司表示,目前正在对AI智能体活动进行更全面的审查,暂未发现其他在严重程度或规模上与今年7月Hugging Face遭入侵事件相当的活动。

对于是否主动联系受影响网站,OpenAI同样没有直接回应。不过,多伦多大学表示,OpenAI此后已就其网站可能出现的相关活动与校方取得联系;范德堡大学也表示,正在调查其短链接服务被这些AI智能体利用的情况。

为多个受影响网站提供技术支持的退休软件开发人员莱特纳表示,OpenAI起初并未主动联系他,直到相关情况被披露后,他才收到公司发来的一封未署名邮件。他还称,其中一个受影响网站的运营者曾花费数小时清理AI智能体留下的内容。莱特纳认为,这场风波的责任不应归咎于AI本身,而应由开发和部署这些系统的人和机构承担。

红星新闻记者 杨诗柔

编辑 罗天 审核 高升祥

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
"45秒,全没了!"柏林宣布退出申办,奥运会从顶级IP沦为财政噩梦

"45秒,全没了!"柏林宣布退出申办,奥运会从顶级IP沦为财政噩梦

云居历史
2026-09-28 15:40:23
随着中国男排3-2韩国,诞生5个不可思议,第五个最让人开心

随着中国男排3-2韩国,诞生5个不可思议,第五个最让人开心

南海浪花
2026-09-30 00:37:45
赛力斯半价“问界”来了,华为彻底傻眼!

赛力斯半价“问界”来了,华为彻底傻眼!

财经三分钟pro
2026-09-29 14:28:40
就在刚刚,斯诺克最新战报:32强全部产生、中国占据8席,前16仅吴宜泽成功晋级

就在刚刚,斯诺克最新战报:32强全部产生、中国占据8席,前16仅吴宜泽成功晋级

锐评利物浦
2026-09-29 19:48:31
一天能卖3000只,有人每周专门开车来买!老夫妻开店28年想退休,要不要接班,儿子犯难:每天凌晨起床,做包子实在太辛苦了

一天能卖3000只,有人每周专门开车来买!老夫妻开店28年想退休,要不要接班,儿子犯难:每天凌晨起床,做包子实在太辛苦了

都市快报橙柿互动
2026-09-29 00:04:41
黄仁勋回应中国实验室蒸馏:他们每天都在拆我的产品

黄仁勋回应中国实验室蒸馏:他们每天都在拆我的产品

我是一个养虾人
2026-09-29 06:07:01
卢璐讲述刘欢病情细节:从确诊到离世,跟骨病熬了十七个年头

卢璐讲述刘欢病情细节:从确诊到离世,跟骨病熬了十七个年头

笑饮孤鸿非
2026-09-29 22:13:01
举报带来的道德崩坏,在网上炸开了!

举报带来的道德崩坏,在网上炸开了!

新动察
2026-09-29 15:16:40
中国气象局:11月前后,将形成一次有监测记录以来最强的超强厄尔尼诺事件

中国气象局:11月前后,将形成一次有监测记录以来最强的超强厄尔尼诺事件

南方都市报
2026-09-29 16:05:26
北理工裴轶被解聘,她老公换马甲挣外快的事更该严查

北理工裴轶被解聘,她老公换马甲挣外快的事更该严查

历史总在押韵
2026-09-29 21:45:04
李克勤迟到草根歌手侯浪救场连唱近20首歌,总导演回应:他放下烧烤骑共享电动车赶来,并非网传的随便找的观众

李克勤迟到草根歌手侯浪救场连唱近20首歌,总导演回应:他放下烧烤骑共享电动车赶来,并非网传的随便找的观众

封面新闻
2026-09-29 17:30:04
北理工女教授:人从卵子就存在,无需受精,我和我妈同时存在姥姥肚里

北理工女教授:人从卵子就存在,无需受精,我和我妈同时存在姥姥肚里

不掉线电波
2026-09-29 09:52:38
“密密麻麻,信息量很大!” 西安村民在菜地里挖出800年前大石柱,菜地主人:这些年有人偷偷来这里寻宝过

“密密麻麻,信息量很大!” 西安村民在菜地里挖出800年前大石柱,菜地主人:这些年有人偷偷来这里寻宝过

极目新闻
2026-09-29 21:14:47
发掘李昊+杨希!培养徐彬成顶级中场!他才是国足未来10年主教练位置的答案

发掘李昊+杨希!培养徐彬成顶级中场!他才是国足未来10年主教练位置的答案

后仰跳投绝杀
2026-09-29 15:23:01
广西政协原副主席彭晓春一审被判死缓:受贿2.63亿,已认罪悔罪

广西政协原副主席彭晓春一审被判死缓:受贿2.63亿,已认罪悔罪

界面新闻
2026-09-29 17:13:10
25岁博主“嘻嘻徐宝”去世,生前患有胃癌,自述不良生活习惯:熬夜、不爱喝水、一天2杯咖啡……

25岁博主“嘻嘻徐宝”去世,生前患有胃癌,自述不良生活习惯:熬夜、不爱喝水、一天2杯咖啡……

封面新闻
2026-09-29 20:30:12
中国加大对精英富裕阶层的税收征管力度

中国加大对精英富裕阶层的税收征管力度

风向观察
2026-09-29 11:19:00
坚决反对删除“敌国条款”,中国代表两问日方

坚决反对删除“敌国条款”,中国代表两问日方

澎湃新闻
2026-09-29 15:16:59
英法已出兵!巴土也要参战,第二个俄乌战场即将打响,中国出手了

英法已出兵!巴土也要参战,第二个俄乌战场即将打响,中国出手了

兵卒史
2026-09-28 06:11:27
房东称一母亲将12岁男孩独留出租房,拖欠租金和管理费超7万元 街道正牵头研究处置方案

房东称一母亲将12岁男孩独留出租房,拖欠租金和管理费超7万元 街道正牵头研究处置方案

红星新闻
2026-09-29 17:28:22
2026-09-30 04:36:49
红星新闻 incentive-icons
红星新闻
成都传媒集团旗下的新媒体平台
215794文章数 1347270关注度
往期回顾 全部

科技要闻

82亿美元收购!李飞飞将与苏姿丰并肩做AI

头条要闻

空姐双膝下跪“还被要求踹一脚” 现场画面流出

头条要闻

空姐双膝下跪“还被要求踹一脚” 现场画面流出

体育要闻

石雨豪:亚运金牌与背后的十年

娱乐要闻

赌王四房婚礼,何超琼带三房成员现身

财经要闻

央行调整完善若干货币政策工具

汽车要闻

搭华为乾崑ADS 5/设计风格换新 2027款纵横G700售30.49万起

态度原创

教育
旅游
家居
时尚
游戏

教育要闻

已知7m➕5n=67,求m➕n=?

旅游要闻

速来大报恩寺的“塔之长廊”,赴一场跨越千年的古塔之约

家居要闻

2026建博会(广州) 公装联探展交流活动

老板,我的脑子好像忘在家里了

《魔兽:无限》评级已出!要登陆多个主机平台?

无障碍浏览 进入关怀版