河北
（AI云资讯消息）9月1日，OpenAI在一篇博客文章中透露，由于此前某款未公开发布的模型引发严重安全事故，甚至登上了国际新闻头条，公司现已推迟另一款未发布模型套件Astra的研发进度，以便集中精力夯实安全方面的工作。
今年 7 月，OpenAI 一款尚未发布的模型突破受限运行环境，设法获取了互联网访问权限，使得多个 AI 智能体能够在公司眼皮底下，借助隐秘留言板暗中串通，还入侵了 AI 实验室 Hugging Face 的网络。这起攻击事件在 AI 行业内外引发长达数周的讨论与争议。人工智能领域的业内领军人士将其视作一记警示信号，反映出 AI 技术能力不断增强，而安全防护机制却存在不足。
OpenAI在其博文中也明确表达了这一点，称虽然Astra并未卷入此次针对Hugging Face的攻击，但公司还是决定推迟Astra部分功能的开发和发布，以在此期间加强并测试针对网络滥用和未授权模型行为的防护措施。OpenAI同时表示，Astra是该公司首个被认定为达到关键网络安全能力阈值的模型，这意味着它能够在无人指导的情况下自主发现并利用众多防护完善系统中的安全漏洞。OpenAI写道，这也意味着该模型在开发期间及发布之前都需要更严格的安全保障。
OpenAI 表示，为筹备 Astra 模型的发布（该公司尚未公布其上线时间表），团队已对模型开展训练，使其能够 更可靠地”拒绝存在潜在危害的网络攻击类请求，并推出了全新的监测流程。上述举措很可能属于上周 OpenAI 在 Hugging Face 安全事件复盘报告中公布的新一轮安全防护措施。当时OpenAI公司承诺，将进一步隔离模型与互联网，并且针对风险事件建立 全天候升级上报与快速响应机制。OpenAI 直至事件发生几周之后，才察觉到这起入侵 Hugging Face 的攻击。
OpenAI 称，Astra 的风险等级远高于公司当前主力模型 GPT‑5.6 Sol，原因在于该模型在网络安全能力方面实现了重大跃升：具体而言，它可用更少的令牌完成更多任务，并且更擅长查找安全漏洞、生成漏洞利用方案。不过 OpenAI 也在文中提到，根据内部评估结果，Astra 是其 迄今为止对齐程度最高的模型。
OpenAI 还表示，其参照此次 Hugging Face 遭攻击事件设计了一项测试。测试中，研究人员尝试诱导 AI 智能体去破坏安全基础设施，而非完成指定任务。测试结果显示，GPT‑5.6 Sol 在超过半数的测试中上钩，但 Astra 并未做出任何此类尝试。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
