北京
OpenAI正在推出GPT-6 Cyber，这是其网络安全AI模型的最新版本，该公司表示该模型在发现漏洞方面表现更佳，同时在执行任务过程中失控并攻击其他平台的可能性更低。OpenAI称，在测试期间，GPT-6 Cyber出现越界行为的概率低于1%，相比之下GPT-5.6 Cyber的越界概率约为5%。
这项名为ExploitGym HoneyPot的评估测试，参照了此前的Hugging Face事件而设计——在该事件中，OpenAI的AI智能体入侵了开源AI社区，以寻找其被要求解决的问题的答案。“通过6 Cyber模型，我们在这项评估中取得了巨大进步，”OpenAI网络安全预备与防护团队负责人富阿德·马丁在新闻发布会上表示，“超过99%的情况下，它都能按照你的要求行事。”
但评估感知问题——即AI系统意识到自己正在被测试并相应改变行为——仍然令人担忧。“评估感知是我们高度关注的问题，”马丁说，“我们通常在模型的思维链中能够观察到评估感知现象。”马丁补充说，OpenAI正尝试优先采用贴近真实生产环境的评估方式，让模型与真实代码库进行交互并完成真实目标，以降低感知风险。
在经历了一系列AI网络安全事件后，OpenAI一直在加紧强化其防护措施，并对其最强大的模型采取更严格的管控。该公司曾短暂暂停前沿AI模型的训练，目前已限制这些模型访问互联网的权限。
根据OpenAI的"预备框架"，GPT-6 Cyber在网络安全方面被归类为"关键"级别，这意味着它"能够在无需人工干预的情况下，识别并开发出针对众多强化防护的真实关键系统的、各种严重程度的功能性零日漏洞利用程序"。此前，GPT-5.6 Cyber在该框架下被归类为"高"级别。
在大多数网络安全相关任务上，GPT-6 Cyber的表现超越了OpenAI的旗舰级"关键"级别模型GPT-6 Astra。在用于衡量AI模型是否能够利用漏洞的基准测试ExploitGym中，GPT-6 Cyber得分为48.5%，比GPT-5.6 Cyber的32.1%高出约16个百分点，也略高于GPT-6 Astra的42.4%。OpenAI表示，该模型帮助在Firefox浏览器中发现了81个此前未知的漏洞，并在强化OpenAI自身用于训练AI模型的基础设施方面发挥了作用。
此外，GPT-6 Cyber配备了更强的防护机制，"用于检测和阻止滥用行为"，同时能更好地遵循用户指令。OpenAI表示，公司正在使用新的审查机制来阻止"高风险活动"，包括针对电厂、水处理设施等关键基础设施的攻击。
GPT-6 Cyber正向OpenAI "Daybreak Red"计划的部分成员推出，该计划面向将其模型用于"授权防御性网络安全工作"的企业和机构开放。未来几周内，OpenAI将把GPT-6 Cyber扩展至所有Daybreak Red客户。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
