北京
来源：环球网
【环球网科技综合报道】8月8日消息，据路透社报道，近日，人工智能企业 OpenAI 对外发布消息，基于全面安全评估结论，决定延缓旗下 Astra 大模型对外发布，并配套出台一系列严格安全管控举措，防范该模型潜在网络安全风险。
据 OpenAI 介绍，经内部团队联合行业专家综合研判，Astra 模型在智能体编程、网络安全相关能力上实现显著突破。依照企业《准备框架》评估标准，该模型成为 OpenAI 首款网络安全风险评级达 “关键” 级别的人工智能模型，其两项核心高风险能力引发安全层面高度关切。
一方面，该模型可脱离人工干预，在多重安全加固的核心真实系统内，自主识别、生成不同危害等级的零日漏洞利用程序；另一方面，仅依靠高层级攻击目标指令，就能独立设计、完整执行全新端到端网络攻击流程，具备较强自主渗透能力。OpenAI 同时澄清，这款尚未正式面世的模型，并未参与此前针对 Hugging Face 平台的网络攻击活动。
为规范模型研发流程、化解潜在安全隐患，OpenAI 同步落地多层级安全约束机制。
一是收紧模型研发全流程管控。搭建独立隔离测试环境，严格限定模型网络、工具访问权限，对模型权重开展加密防护，增设全天候风险监测体系，实行沙箱隔离运行；同步叫停内部所有未达到全新安全标准的 Astra 相关研发工作；
二是实现全周期动态风险监测。针对 Astra 全部智能体应用，覆盖训练、评测全阶段，建立高风险行为、对齐失效问题全域监控体系，通过解析模型思维链路，提前识别、阻断各类高危操作；
三是深化多方协同安全测试。主动对接相关政府监管机构与专业 AI 安全机构联合开展模型安全测试，向第三方合作评测主体统一输出标准化安全管控规范，保障高风险评测工作全程安全可控；
OpenAI 首席执行官山姆・奥特曼表示，Astra 模型综合性能表现突出，企业将在全面完善安全防护体系、消除各类风险隐患后，稳步推进该模型的公开落地进程。（纯钧）
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
