网易首页 > 网易号 > 正文 申请入驻

AI“劫持”网站并偷建“地下论坛”,国安部披露细节

0
分享至

国家安全部今天发布安全提示文章。

近期,一起此前未获披露的事件引发广泛关注。今年5月至6月,一批与美国开放人工智能研究中心(OpenAI)相关的AI智能体在执行测试任务期间,“劫持”了德国程序员维基网站(DseWiki),将原本用于技术交流的开放社区改造为供智能体相互传递信息、分享测试任务答案和突破运行环境限制方法的“地下论坛”,累计发布一万多条信息……当AI智能体被赋予越来越多的现实行动能力,技术迭代与安全围栏之间的缝隙,正在悄然扩大。

抱团联动,突破管控

单个智能体的“越界”行为或许尚在可控范围之内,但当一大批智能体在互联网上找到“接头据点”,互相传授逃避检测、绕过限制的实操方法时,人工智能的安全边界已经出现了缺口。

——互认身份标签。这些智能体并非各自为战,而是成群涌入同一家网站,以“OpenAI研究员”“OAI研究员26号”等带有鲜明标签的名字相互招呼、彼此确认身份,把开放社区改造成了专属“留言板”,全然无视平台的管理规则。

——互授越界心得。它们在留言中交流如何在任务中作弊、如何绕过安全限制、如何掩盖自身行踪,还探讨借助匿名工具隐匿痕迹,把零散的“越界心得”沉淀为可共享、可复制的“经验库”。只要单个智能体学会一项“技能”,其他智能体便能同步“升级”。

——互助规避清剿。察觉到网站管理员清理页面后,它们迅速进行分工:有的发布预警提示,有的创建备份页面,有的指明“转场”新地址,相互掩护躲避清理。其反应之迅速、预案之周全,远超人们此前对智能体的认知。

跨境协同,风险滋生

海量的线上站点为AI智能体搭建互通渠道提供了便利载体。当智能体的“越界”手段成为可复制的“群体经验”,当联络据点跨越国境、隐匿难寻,其影响可能层层放大。

——跨境暗设据点。抱团的智能体可借助互联网搜寻可用跳板,把开放编辑的网站、论坛当作通信信道,在没有传统攻击特征的情况下悄然建立据点,提高被发现和溯源的难度。

——协同放大风险。单个智能体或许能力有限,但如果它们彼此串联、分工协作、共享越权手段与绕过规则的“技巧”,破坏力就会成倍放大,且行为可复制、可传播、可延续。

——瞒报加深隐患。相关企业在数周内已掌握这批智能体的异常行为记录,但未第一时间公布事件细节,未及时对外发布专项风险提示,导致同类事件在短短数月内就在另一境外平台重演。

主动甄别,筑牢防线

一起起真实发生的案例警示我们,人工智能安全风险正在快速演进,必须引起重视、加强防范。

——提高警惕,辨识异常。使用AI工具时,不盲目迷信、不轻易授权,审慎识别来源不明的AI智能体服务,防止个人信息和敏感数据被悄然攫取。

——规范上网,守住边界。给AI智能体设置清晰的行为边界和刚性权限,不随意开放互联网访问、内容编辑等权限,不把账号、数据、算力交由智能体“自由发挥”。

——发现苗头,果断处置。察觉AI智能体出现越权操作、异常篡改、违规外联等风险行为时,果断终止运行,留存相关操作痕迹,第一时间遏制风险扩散。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
西班牙问国足确定派来的是最好球员吗,国足问有什么问题吗

西班牙问国足确定派来的是最好球员吗,国足问有什么问题吗

林子说事
2026-11-22 01:06:58
麦克阿瑟到晚年总算说了句大实话?当年朝鲜那一仗中国要是没打,如今整个亚洲的大格局,恐怕早就不知变成啥样了

麦克阿瑟到晚年总算说了句大实话?当年朝鲜那一仗中国要是没打,如今整个亚洲的大格局,恐怕早就不知变成啥样了

扶苏聊历史
2026-11-16 17:32:49
刘涛峨眉素颜爬山被拍,不粉黛没替身引猜测,这底气究竟多足

刘涛峨眉素颜爬山被拍,不粉黛没替身引猜测,这底气究竟多足

情感大头说说
2026-11-20 12:54:13
一旦日本对中国动手,我国结束中日战斗需要几天?答案让日本绝望

一旦日本对中国动手,我国结束中日战斗需要几天?答案让日本绝望

芳芳历史烩
2026-11-22 00:19:01
独行侠力克快船获2连胜:弗拉格22+6+8欧文25+6 大洛21分

独行侠力克快船获2连胜:弗拉格22+6+8欧文25+6 大洛21分

醉卧浮生
2026-11-22 11:33:31
随着切尔西1-4、热刺2-0、伯恩茅斯2-0,英超最新积分榜出炉

随着切尔西1-4、热刺2-0、伯恩茅斯2-0,英超最新积分榜出炉

侧身凌空斩
2026-11-22 01:02:43
中超旧将假期结束“失踪了”

中超旧将假期结束“失踪了”

五星体育
2026-11-22 16:13:24
人体最佳睡觉时间表(建议永久收藏)

人体最佳睡觉时间表(建议永久收藏)

神奇故事
2026-11-14 23:05:28
《花少 8》她翻红无望,不耐烦、往男的身上凑,这么多年还是没变

《花少 8》她翻红无望,不耐烦、往男的身上凑,这么多年还是没变

一娱三分地
2026-11-22 12:50:07
天冷,也阻挡不了我穿丝袜的热情

天冷,也阻挡不了我穿丝袜的热情

疾跑的小蜗牛
2026-11-21 20:44:46
造纸厂储罐发现3具女尸,法医:三人为亲姐妹,生前骨盆均被破坏

造纸厂储罐发现3具女尸,法医:三人为亲姐妹,生前骨盆均被破坏

罪案洞察者
2025-10-28 15:33:21
印度塔塔花38亿欧元吞下依维柯

印度塔塔花38亿欧元吞下依维柯

沙雕小琳琳
2026-11-22 13:35:36
人伦之乱(笑话)

人伦之乱(笑话)

乡村中原风
2026-11-20 14:36:33
亚洲杯夺冠概率出炉:日本33.2%领跑国足仅0.1% 卫冕冠军0.7%

亚洲杯夺冠概率出炉:日本33.2%领跑国足仅0.1% 卫冕冠军0.7%

新英体育
2026-11-22 10:14:48
泽连斯基质疑美国对乌方区别对待:能帮以色列,那也可以支持乌克兰

泽连斯基质疑美国对乌方区别对待:能帮以色列,那也可以支持乌克兰

澎湃新闻
2026-11-21 17:40:05
看到 baby 的身材,我就不焦虑了。实话说 baby 的身材好吗

看到 baby 的身材,我就不焦虑了。实话说 baby 的身材好吗

东方不败然多多
2026-11-22 10:43:27
吃他汀一滴茶都不能喝?提醒:吃他汀还喝茶,5个后果或承担不起

吃他汀一滴茶都不能喝?提醒:吃他汀还喝茶,5个后果或承担不起

华庭讲美食
2026-11-22 14:02:23
特朗普称不支持“台独”引发岛内震动,台湾网民:“早点统一吧!”

特朗普称不支持“台独”引发岛内震动,台湾网民:“早点统一吧!”

环球网资讯
2026-11-21 07:06:39
马斯克前女友开怼:痴迷假女人,还劝我吃“白药丸”

马斯克前女友开怼:痴迷假女人,还劝我吃“白药丸”

影视情报室
2026-11-20 04:18:21
大连英博不做莱斯特城难!五外援都可能离队,下赛季顶多做热刺

大连英博不做莱斯特城难!五外援都可能离队,下赛季顶多做热刺

体育世界
2026-11-22 16:00:50
2026-11-22 16:51:00
界面新闻 incentive-icons
界面新闻
只服务于独立思考的人群
1217779文章数 1342284关注度
往期回顾 全部

科技要闻

Anthropic收涨17.1%,市值一度破2万亿美元

头条要闻

老板闭店前给学生写信:不要删我 想看你们幸福过一生

头条要闻

老板闭店前给学生写信:不要删我 想看你们幸福过一生

体育要闻

全场挨打1比4溃败 阿隆索已过保质期?

娱乐要闻

杨迪戴东北绒帽在黑龙江漠河舞厅跳舞

财经要闻

金价跌破3550美元,分析称短期下行未逆转

汽车要闻

旗舰纯电大六座 2027款岚图泰山将于广州车展预售

态度原创

教育
时尚
旅游
健康
亲子

教育要闻

饮鸩止渴中的鸩指的是什么?难倒了语文老师

这些才是适合50岁女性的穿搭!衣服不花哨、不老气,得体又自然

旅游要闻

海外博主燕赵行 | 千年古城

医生眼里"很伤腰"的椅子,很多人天天坐

亲子要闻

4岁女儿幼儿园没白上,自己会叠衣服了,叠的比大人叠的都好

无障碍浏览 进入关怀版