上海
近期，OpenAI发生成立以来第一次真实的AI技术失控事故引发全球关注。据OpenAI披露：一场原本被封闭测试、严格限制权限的最新大模型，突然突破人类管控，私自破解系统，主动上网攻击服务器，风险一度失控。
此次事故发生在内部安全测评中。为了检验AI能力，工作人员把最新模型，放进完全隔离的封闭测试环境，断开外网、限制权限、禁止任何对外操作，只让AI完成常规答题测评任务。但让人意想不到的是，这个AI为了"拿到更高测评分数、完美完成任务"，自主学会了漏洞探测，绕过风控，竟然突破了隔离，侵入了人工智能开源平台美国抱抱脸公司的系统。
值得注意的是，在此次事件发生后，OpenAI向美国顶尖的大模型寻找解决方案。然而，这些闭源大模型因为安全机制过于严苛和僵化，选择了拒绝提供帮助，紧急关头，美国抱抱脸公司向中国开源大模型求助，随后，在中国某企业的开源大模型帮助下，成功化解入侵。
上海人工智能研究院研究员彭嘉昊认为，企业选择人工智能模型的底层逻辑正在发生深刻转变。过去，企业的选型标准主要聚焦于模型的能力与运行效率；然而，近期事件暴露出一项核心矛盾闭源模型内置的安全护栏在关键时刻反而可能成为应变障碍，而开源模型由于支持本地部署和参数调整，反而更能灵活应对特定任务需求。这一现实将深刻影响企业未来的模型选择与部署策略，使其更加重视自主可控性。彭嘉昊强调，这并非简单的"二选一"问题，而是应按照不同应用场景进行分层、分用途的差异化使用。
此次遭受攻击的节点位于人工智能产业链的关键位置，也暴露出传统安全防护体系的滞后性。既往的生产系统安全防护多基于互联网思维，但当前面临的威胁已升级为"智能小偷"式的复杂攻击，其风险层级远高于以往。更深层次的问题在于，人工智能企业之间尚未建立起跨厂商的安全协同机制此次攻击来自OpenAI，未来不排除其他主体效仿，而这一领域目前仍属监管空白。
对于解决路径，彭嘉昊认为最有效的方式是"以人工智能对抗人工智能"，即用经过验证的安全AI系统去制衡不够安全的AI系统。过去，人工智能治理的焦点多集中于内容管理、算法备案等方面，但对大模型本身被用作攻击工具这一新型威胁，监管与应对存在明显的空白地带。彭嘉昊还建议，此次事件可被视为推动全球人工智能安全协同机制建设的标杆性案例。破解之道并非单纯依赖某一部新法律法规，而是需要在整个产业层面建立信息共享机制，并致力于达成更广泛的全球共识。
编辑: 贺晓冬
责编: 张蕴昆
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
