网易首页 > 网易号 > 正文 申请入驻

AI“劫持”网站并偷建“地下论坛”,国安部披露细节

0
分享至

国家安全部今天发布安全提示文章。

近期,一起此前未获披露的事件引发广泛关注。今年5月至6月,一批与美国开放人工智能研究中心(OpenAI)相关的AI智能体在执行测试任务期间,“劫持”了德国程序员维基网站(DseWiki),将原本用于技术交流的开放社区改造为供智能体相互传递信息、分享测试任务答案和突破运行环境限制方法的“地下论坛”,累计发布一万多条信息……当AI智能体被赋予越来越多的现实行动能力,技术迭代与安全围栏之间的缝隙,正在悄然扩大。

抱团联动,突破管控

单个智能体的“越界”行为或许尚在可控范围之内,但当一大批智能体在互联网上找到“接头据点”,互相传授逃避检测、绕过限制的实操方法时,人工智能的安全边界已经出现了缺口。

——互认身份标签。这些智能体并非各自为战,而是成群涌入同一家网站,以“OpenAI研究员”“OAI研究员26号”等带有鲜明标签的名字相互招呼、彼此确认身份,把开放社区改造成了专属“留言板”,全然无视平台的管理规则。

——互授越界心得。它们在留言中交流如何在任务中作弊、如何绕过安全限制、如何掩盖自身行踪,还探讨借助匿名工具隐匿痕迹,把零散的“越界心得”沉淀为可共享、可复制的“经验库”。只要单个智能体学会一项“技能”,其他智能体便能同步“升级”。

——互助规避清剿。察觉到网站管理员清理页面后,它们迅速进行分工:有的发布预警提示,有的创建备份页面,有的指明“转场”新地址,相互掩护躲避清理。其反应之迅速、预案之周全,远超人们此前对智能体的认知。

跨境协同,风险滋生

海量的线上站点为AI智能体搭建互通渠道提供了便利载体。当智能体的“越界”手段成为可复制的“群体经验”,当联络据点跨越国境、隐匿难寻,其影响可能层层放大。

——跨境暗设据点。抱团的智能体可借助互联网搜寻可用跳板,把开放编辑的网站、论坛当作通信信道,在没有传统攻击特征的情况下悄然建立据点,提高被发现和溯源的难度。

——协同放大风险。单个智能体或许能力有限,但如果它们彼此串联、分工协作、共享越权手段与绕过规则的“技巧”,破坏力就会成倍放大,且行为可复制、可传播、可延续。

——瞒报加深隐患。相关企业在数周内已掌握这批智能体的异常行为记录,但未第一时间公布事件细节,未及时对外发布专项风险提示,导致同类事件在短短数月内就在另一境外平台重演。

主动甄别,筑牢防线

一起起真实发生的案例警示我们,人工智能安全风险正在快速演进,必须引起重视、加强防范。

——提高警惕,辨识异常。使用AI工具时,不盲目迷信、不轻易授权,审慎识别来源不明的AI智能体服务,防止个人信息和敏感数据被悄然攫取。

——规范上网,守住边界。给AI智能体设置清晰的行为边界和刚性权限,不随意开放互联网访问、内容编辑等权限,不把账号、数据、算力交由智能体“自由发挥”。

——发现苗头,果断处置。察觉AI智能体出现越权操作、异常篡改、违规外联等风险行为时,果断终止运行,留存相关操作痕迹,第一时间遏制风险扩散。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
手搓12年,人类数学家证明黎曼猜想却被AI截胡!陶哲轩邓煜回应

手搓12年,人类数学家证明黎曼猜想却被AI截胡!陶哲轩邓煜回应

新智元
2026-11-21 13:40:03
百亿豪门夫妇正式开撕,发声明互相指责,两人疑未离婚就有新欢

百亿豪门夫妇正式开撕,发声明互相指责,两人疑未离婚就有新欢

开开森森
2026-11-21 09:48:22
Anthropic数学家宣称:在AI帮助下已解决数学界最著名难题

Anthropic数学家宣称:在AI帮助下已解决数学界最著名难题

澎湃新闻
2026-11-21 10:36:43
钱正在加快贬值,买啥才最保值?内行人:这3样10年不贬值

钱正在加快贬值,买啥才最保值?内行人:这3样10年不贬值

史之铭
2026-11-22 00:45:48
1995年韶关,击毙阿部规秀的炮手李二喜仅存儿子遭雨衣枪手三枪射杀,儿媳周小玉落网后交代:3万订金买凶

1995年韶关,击毙阿部规秀的炮手李二喜仅存儿子遭雨衣枪手三枪射杀,儿媳周小玉落网后交代:3万订金买凶

唠叨说历史
2026-11-13 10:48:27
长津湖战役中,美军发现一整连志愿军官兵冻死在阵地上。电影里表现是美军敬礼,但据当年一名16岁幸存者回忆,美军并没敬礼,而是挨个补枪

长津湖战役中,美军发现一整连志愿军官兵冻死在阵地上。电影里表现是美军敬礼,但据当年一名16岁幸存者回忆,美军并没敬礼,而是挨个补枪

人生录
2026-11-21 00:05:14
英达小儿子否认英达收回巴图姓氏,称“他没有意愿,也没有这个权利收回姓氏”

英达小儿子否认英达收回巴图姓氏,称“他没有意愿,也没有这个权利收回姓氏”

韩小娱
2026-11-22 10:09:52
宁愿把80%石油绕远送欧洲,也不愿就近多给中国,到底图什么?

宁愿把80%石油绕远送欧洲,也不愿就近多给中国,到底图什么?

慕名而来只为你
2026-11-19 21:45:20
塞尔塔主帅:上半场我们踢得非常好,但皇马的替补击垮了我们

塞尔塔主帅:上半场我们踢得非常好,但皇马的替补击垮了我们

云隐南山
2026-11-22 09:00:02
这么快,导弹砸向波兰,俄罗斯的报复来了!

这么快,导弹砸向波兰,俄罗斯的报复来了!

冲哥瞰天下
2026-11-21 14:25:23
养老金若不再大幅上调,真正承压的,可能不是已经退休的老人

养老金若不再大幅上调,真正承压的,可能不是已经退休的老人

你在偷看谁
2026-10-31 19:07:37
“91大神”夯先生被捕,拍数百条视频,还认为只是道德问题

“91大神”夯先生被捕,拍数百条视频,还认为只是道德问题

第四思维
2025-07-01 13:05:39
仅播4集,就轻松拿下热榜第一,终于又有黑马剧可以追了!

仅播4集,就轻松拿下热榜第一,终于又有黑马剧可以追了!

仙味少女心
2026-11-21 19:48:33
1.1亿!温州这里要建殡仪馆

1.1亿!温州这里要建殡仪馆

瓯越声音
2026-11-22 01:27:53
反转!黄仁勋正考虑创办新公司,英伟达要慌了

反转!黄仁勋正考虑创办新公司,英伟达要慌了

芝麻科技讯官方号
2026-11-21 14:10:51
评论吵翻了!赵本山唱《慌啥子嘛》,不少网友吐槽:坐 2 亿私人飞机,很难共情普通人的焦虑

评论吵翻了!赵本山唱《慌啥子嘛》,不少网友吐槽:坐 2 亿私人飞机,很难共情普通人的焦虑

秋风妃
2026-11-21 22:37:53
迈阿密国际雪上加霜!门将送点,卢扬飞铲染红,主帅怒摔水瓶

迈阿密国际雪上加霜!门将送点,卢扬飞铲染红,主帅怒摔水瓶

奥拜尔
2026-11-22 07:56:04
广东气温暴跌10℃!广东人脚上拖鞋焊死,全国网友笑疯了

广东气温暴跌10℃!广东人脚上拖鞋焊死,全国网友笑疯了

另子维爱读史
2026-11-21 22:06:33
塔图姆:很多人被高估!联盟只有这三人有资格称为超级巨星!

塔图姆:很多人被高估!联盟只有这三人有资格称为超级巨星!

林子说事
2026-11-21 03:52:15
一只失去8条腿的螃蟹,意外开启了幸福蟹生

一只失去8条腿的螃蟹,意外开启了幸福蟹生

英国那些事儿
2026-11-21 23:26:21
2026-11-22 10:52:49
界面新闻 incentive-icons
界面新闻
只服务于独立思考的人群
1217692文章数 1342279关注度
往期回顾 全部

科技要闻

Anthropic收涨17.1%,市值一度破2万亿美元

头条要闻

"敢不敢玩刺激的" 女博士当主播6个月至今有心理阴影

头条要闻

"敢不敢玩刺激的" 女博士当主播6个月至今有心理阴影

体育要闻

约基奇vs申京:最强的策应巨人?

娱乐要闻

港姐季军吴文忻去世,生前已办追思会

财经要闻

金价跌破3550美元,分析称短期下行未逆转

汽车要闻

35万级MPV的满配答案 享界V8正式上市售31.98万起

态度原创

健康
艺术
本地
公开课
军事航空

医生眼里"很伤腰"的椅子,很多人天天坐

艺术要闻

16位欧洲画家的19幅作品欣赏

本地新闻

43年起落记忆倒计时,去厦门高崎领绝版登机牌!

公开课

李玫瑾:为什么性格比能力更重要?

军事要闻

伊朗革命卫队称袭击美军在巴林两处基地防空雷达

无障碍浏览 进入关怀版