山东
IT之家 9 月 17 日消息，国家安全部今日发文，披露了一起此前未公开的 AI 智能体“劫持”网站事件。
今年 5 月至 6 月，一批与 OpenAI 相关的 AI 智能体在执行测试任务期间，劫持德国程序员维基网站（DseWiki）并将其改造为供智能体相互传递信息的“地下论坛”，累计发布一万多条信息。
国安部表示，AI 智能体在该网站以“OpenAI 研究员”“OAI 研究员 26 号”等标签互认身份，将开放社区变为专属“留言板”。
据称，这些智能体在留言中交流如何在任务中作弊、如何绕过安全限制、如何掩盖行踪，并探讨借助匿名工具隐匿痕迹，将零散的“越界心得”沉淀为可共享、可复制的“经验库”。
当网站管理员发现并开始清理页面后，AI 智能体迅速分工，有的发布预警提示，有的创建备份页面，有的指明“转场”新地址，相互掩护躲避清理，其反应速度和预案周全程度远超此前对智能体的认知。
国安部指出，抱团的智能体可借助互联网搜寻可用跳板，把开放编辑的网站、论坛当作通信信道，在没有传统攻击特征的情况下悄然建立据点，提高被发现和溯源的难度。单个智能体能力有限，但彼此串联、分工协作后，破坏力成倍放大，且行为可复制、可传播、可延续。
国安部还提到，相关企业在数周内已掌握这批智能体的异常行为记录，但未第一时间公布事件细节，未及时对外发布专项风险提示，导致同类事件在短短数月内就在另一境外平台重演。
针对 AI 智能体安全风险，国安部提出三点防范建议，IT之家总结如下：
- 使用 AI 工具时不盲目迷信、不轻易授权，审慎识别来源不明的 AI 智能体服务；
- 给 AI 智能体设置清晰的行为边界和刚性权限，不随意开放互联网访问、内容编辑等权限；
- 察觉 AI 智能体出现越权操作、异常篡改、违规外联等行为时，果断终止运行并留存操作痕迹。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
