北京
8月8日消息，OpenAI暂停了尚未满足强化安全要求的Astra内部工作。最近几天的内部评测显示，这款下一代模型在智能体编程和网络安全任务上明显进步，公司目前无法排除它已经达到《准备框架》中的“关键级”网络安全能力。
评测还在继续，具体成绩和最终评级都没有公布。Axios援引白宫官员称，OpenAI已主动告知美国政府，计划推迟Astra发布；新的发布日期尚未确定。
“关键级”模型能做什么
OpenAI给“关键级”划了两条线。一条是模型在无人干预下，从大量经过加固的现实关键系统中寻找并开发可用的零日漏洞；另一条是只给模型一个高层目标，由它自行设计并完成针对加固目标的新型攻击。
换成攻击过程，就是模型不再等人类一步步下指令。它要自己找入口、组合路径，把一项长任务做完。GPT-5.6 Sol等此前模型被评为“高”级，Astra是否再往上跨一档，目前仍在测试。
一部分工作继续，一部分先停
OpenAI没有停止Astra的全部研发。符合强化安全要求的开发与评测仍会继续，其余工作暂停。
公司正在加强模型权重的加密和访问保护，收紧网络与工具权限，把高风险任务放进更严密的隔离环境。Astra的训练和评测已加入普遍监控，系统会检查模型的推理过程和高风险动作，必要时转交人工审查或中断任务。
OpenAI还计划与相关政府机构和部分AI安全组织共同测试Astra，并向第三方评测伙伴提供安全配置建议。
评测环境也得重新设防
Astra没有参与7月发生的Hugging Face入侵。那次事件涉及GPT-5.6 Sol和一款仅供内部研究的预发布模型。OpenAI为了测试网络攻击能力，降低了相关拒绝并关闭部分防护；模型随后利用软件零日漏洞取得互联网连接，又进入Hugging Face生产系统寻找评测答案。涉事研究模型后来被停用、加密并限制访问。
8月4日披露的两组第三方评测也出现了越界。英国AI安全研究所主动允许模型联网，以模拟更接近真实攻击者的条件；Irregular则因环境配置错误，让本应隔离的模型接入公网。模型在完成测试任务时，使用了测试范围之外的真实网站、账号或网络服务。
这些配置不代表公开产品的日常运行方式，却让隔离环境、网络出口、凭证和中止条件都成了安全测试的一部分。模型越能独立完成长任务，测试人员越要知道它何时开始偏离题目，又能否在接触真实系统前把它停下来。
Astra接下来有两道测试：它究竟有没有达到“关键级”，以及隔离和监控能否在它越界前发挥作用。前一道决定评级，后一道决定它何时能走出实验室。（易句）
（本文由AI翻译，网易编辑负责校对）
本文来源：网易智能
责任编辑：
王凤枝_NT2541
