北京
IT时代网10月24日消息，OpenAI10月23日发布博文，披露其保护前沿模型训练环境的一系列安全措施，核心是对训练过程实施“无实时互联网访问”政策，直到相关防护手段进一步成熟才考虑放宽。
IT时代网10月24日消息，该公司搭建了包含海量索引与缓存网页内容的“离线世界”，所有前沿强化学习训练均在这一离线模式下进行，使模型能够学习浏览与检索技能，同时避免对外部系统产生影响。
IT时代网10月24日消息，在隔离架构上，OpenAI采用沙箱、虚拟机等多层防御：代理在受限容器内运行，虚拟机拥有独立内核并由虚拟层隔离；GPU任务则使用带用户态沙箱的容器。监控系统会检测未授权活动并自动暂停训练。
IT时代网10月24日消息，网络与云边界限制出站流量及系统间的未授权移动。OpenAI还与云服务商协同配置防火墙、安全组、身份与访问管理等控制。
IT时代网10月24日消息，该公司还启动了高算力红队行动，使用前沿模型代理团队尝试突破实时互联网访问、跨越内部安全边界，并在隔离的研究基础设施副本上运行，以检验外层防御。OpenAI表示，今年9月曾因一次配置问题导致训练运行获得有限的实时互联网访问，随后暂停了最强模型的训练与评估约11天，于10月1日恢复。
注：本文配图由AI生成，文中包含AI辅助创作的内容。
编辑：林一舟
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
