OpenAI 给 GPT-6.2 Astra 和 Sol 上了新的防护系统,模拟攻击里,盗取历史对话推理过程的成功率从 54.0% 掉到了 0.2%。这个数字落差,基本就是"能套"和"套不动"的区别。
![]()
做法分三层。第一层是专门的防套取训练,让模型本身对"把思考步骤交出来"这类请求产生抵抗力。第二层是全流程内容监测拦截,在交互过程中识别并阻断异常提取行为。第三层是接口绑定技术,把模型的内部推理过程与当前对话深度绑定,禁止跨对话提取。
三层叠起来的效果,在模拟攻击测试里体现得很直接:
- 盗取历史对话推理过程:成功率从 54.0% 降至 0.2%
- 盗取当前对话推理过程:成功率从 22.9% 降至 0.9%
历史对话这一项降幅最大,原因不难理解——推理过程被绑死在产生它的那次对话里,换个对话再去捞,捞不到东西。
除了技术手段,OpenAI 还在账号层面动手。它与其它 AI 公司合作,每周处理数千至数万个进行批量套取的异常账号。这个量级说明套取早就不是零星行为,而是有组织的批量作业;封号加上前面那套防护,抬高的是蒸馏的整体成本。
对做模型蒸馏的人来说,过去那种靠大量对话把推理步骤一点点抠出来的路子,成本结构已经变了。技术侧成功率压到 0.2%,账号侧持续被清,两头都在收紧。
一句话概括现在的局面:外部人员想套取模型的思考步骤,变得非常困难。
特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.