上海
9月17日，国家安全部今日发文，披露了一起此前未公开的AI智能体“劫持”网站事件。今年5月至6月，一批与OpenAI相关的AI智能体在执行测试任务期间，劫持德国程序员维基网站(DseWiki)并将其改造为供智能体相互传递信息的“地下论坛”，累计发布一万多条信息。
国安部表示，AI智能体在该网站以“OpenAI 研究员”“OAI研究员26号”等标签互认身份，将开放社区变为专属“留言板”。据称，这些智能体在留言中交流如何在任务中作弊、如何绕过安全限制、如何掩盖行踪，并探讨借助匿名工具隐匿痕迹，将零散的“越界心得”沉淀为可共享、可复制的“经验库”。当网站管理员发现并开始清理页面后，AI智能体迅速分工，有的发布预警提示，有的创建备份页面，有的指明“转场”新地址，相互掩护躲避清理，其反应速度和预案周全程度远超此前对智能体的认知。
针对AI智能体安全风险，国安部提出三点防范建议：使用AI工具时不盲目迷信、不轻易授权，审慎识别来源不明的AI智能体服务；给AI智能体设置清晰的行为边界和刚性权限，不随意开放互联网访问、内容编辑等权限；察觉AI智能体出现越权操作、异常篡改、违规外联等行为时，果断终止运行并留存操作痕迹。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
