网易首页 > 网易号 > 正文 申请入驻

OpenAI反蒸馏防护进展:GPT-6.2 Astra思考链提取成功率从54%降至0.2%

0
分享至

IT之家 11 月 21 日消息,当地时间 11 月 20 日,OpenAI 发布公告介绍了针对「对抗性蒸馏」(Adversarial Distillation)的防御措施。

OpenAI 称其已加强 GPT-6.2 Astra 和 GPT-6.2 Sol 对内部推理思考链(Chain-of-Thought)的保护,以降低其他模型通过提取推理过程获取其能力的风险。


OpenAI 表示,对抗性蒸馏是指未经授权地利用前沿 AI 模型的输出训练其他模型,使后者获得相似能力,却不具备原模型相应的安全防护。该行为可能导致网络安全、生物学等领域的高风险能力被转移到安全限制较弱的模型中。


在内部自适应黑盒红队测试中,OpenAI 测试了攻击者提取模型此前请求和当前请求中受保护推理内容的成功率。

结果显示,针对此前请求推理内容的提取成功率,从 GPT-6 Astra 原有安全机制下的 54.0%,降至 GPT-6.2 Astra 更新安全机制后的 0.2%;针对当前请求推理内容的提取成功率,则从 22.9% 降至 0.9%。测试结果汇总了 6 个攻击模型的数据。

为实现上述防护,OpenAI 采用了多层措施,包括通过对抗性训练让模型识别并拒绝推理链提取请求,利用输入和输出分类器检测相关攻击及推理内容泄露,以及通过 API 限制不同会话、模型和组织之间的推理内容复用。IT之家附图如下:


其中,GPT-6.2 Astra 和 GPT-6.2 Sol 会将受保护的推理内容与生成它的对话历史关联起来。如果此前的消息被修改,API 会丢弃基于该消息生成的后续推理内容。此外,安全防护较弱的旧版模型也无法读取这两个新模型的受保护推理内容。

在针对相关行为的执法方面,OpenAI 称,今年以来,公司每周都会对涉及未经授权蒸馏活动的账号采取措施,规模从数千个到数万个不等,今年夏季以来相关执法规模明显增加。公司还会调查协调进行大规模提取的账号网络,并与其他模型提供商分享攻击指标,以协助识别相关滥用行为。

OpenAI 还介绍了其对蒸馏安全风险的研究。公司内部测试发现,与仅使用模型最终回答、推理摘要和工具交互记录训练的学生模型相比,使用教师模型完整推理轨迹进行监督微调的学生模型,通常能够获得更好的网络安全能力迁移效果。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
这下彻底佩服了!​黄仁勋的情人黄乐,​手上戴的手镯,我特意去查了一下它的价格,真是贫穷限制了我的想象!

这下彻底佩服了!​黄仁勋的情人黄乐,​手上戴的手镯,我特意去查了一下它的价格,真是贫穷限制了我的想象!

财经要参
2026-11-15 12:00:05
曾率海港夺中超冠军!曝60岁名帅被推荐给蓉城 与郑智李霄鹏竞争

曾率海港夺中超冠军!曝60岁名帅被推荐给蓉城 与郑智李霄鹏竞争

我爱英超
2026-11-21 17:13:47
广东男篮爆冷出局,赛后媒体人不留情面揭开伤疤,说到点子上了

广东男篮爆冷出局,赛后媒体人不留情面揭开伤疤,说到点子上了

南海浪花
2026-11-22 05:37:34
真的来了!特斯拉突然发布年度重磅产品

真的来了!特斯拉突然发布年度重磅产品

XCiOS俱乐部
2026-11-22 09:20:07
金价跌势凌厉,多家银行发紧急提示,网友:1200时不提醒,700反而疯狂提醒

金价跌势凌厉,多家银行发紧急提示,网友:1200时不提醒,700反而疯狂提醒

东方豪侠
2026-11-22 09:26:55
167年黎曼猜想终于官宣确认!陶哲轩的2050预测,只撑了35天

167年黎曼猜想终于官宣确认!陶哲轩的2050预测,只撑了35天

AI范儿
2026-11-22 02:35:46
“好好学习吧,令爱的长相走不了这条路!”家长晒艺术照,心态崩了!

“好好学习吧,令爱的长相走不了这条路!”家长晒艺术照,心态崩了!

世界圈
2026-10-27 09:17:34
IGN:《GTA6》高人气美女很恐怖!杰森躲过一劫

IGN:《GTA6》高人气美女很恐怖!杰森躲过一劫

游民星空
2026-11-20 12:11:29
6-5!英锦赛一夜3场绝杀:中国军团5胜2负,丁俊晖首场对手3选1

6-5!英锦赛一夜3场绝杀:中国军团5胜2负,丁俊晖首场对手3选1

球场没跑道
2026-11-22 09:03:41
9个经济体的GDP不如深圳一个市?这届APEC,让全球重新认识了中国

9个经济体的GDP不如深圳一个市?这届APEC,让全球重新认识了中国

随遇而安之心
2026-11-21 19:31:03
与印度比赛时做出嫌臭手势,柏林联合15岁小将陷种族歧视争议

与印度比赛时做出嫌臭手势,柏林联合15岁小将陷种族歧视争议

懂球帝
2026-11-21 23:31:14
湖南出现历史上最荒唐法官!判男方净身出户,然后跟拿到全部资产的女方结婚

湖南出现历史上最荒唐法官!判男方净身出户,然后跟拿到全部资产的女方结婚

爆角追踪
2025-11-23 11:25:00
高市早苗摸特朗普后背遭躲闪,日网友痛斥:没资格当首相

高市早苗摸特朗普后背遭躲闪,日网友痛斥:没资格当首相

沧海一粟1155
2026-11-21 08:13:58
“A10后备厢装几箱啤酒就被压露底”,零跑汽车回应:系物品超过设计承重上限所致,已与用户沟通并获得理解,后续将优化用车指引

“A10后备厢装几箱啤酒就被压露底”,零跑汽车回应:系物品超过设计承重上限所致,已与用户沟通并获得理解,后续将优化用车指引

政知新媒体
2026-11-21 09:48:46
385米!胡塞打出超高战绩

385米!胡塞打出超高战绩

星火聊天下
2026-11-21 14:23:43
盛世脆断之前,无人感到安全

盛世脆断之前,无人感到安全

海涛评论
2026-11-20 00:44:37
宏远速递!广东连创队史纪录,陈老板做重要决定,贝帅暂时离队

宏远速递!广东连创队史纪录,陈老板做重要决定,贝帅暂时离队

多特体育说
2026-11-22 08:20:05
“拼命生产裁减工人,到时候卖给空气”?浙江车间299台注塑机仅8人值守,网友急了:全部失业谁有钱消费

“拼命生产裁减工人,到时候卖给空气”?浙江车间299台注塑机仅8人值守,网友急了:全部失业谁有钱消费

王老师你还好吗
2026-11-21 13:43:36
2004年,43岁的高市早苗第一次结婚,嫁给了52岁、离过婚还带着三个孩子的山本拓。

2004年,43岁的高市早苗第一次结婚,嫁给了52岁、离过婚还带着三个孩子的山本拓。

回京历史梦
2026-11-21 09:30:09
伺候宋美龄大半辈子的老佣人,临死之际才肯吐露:她能活到106岁,凭借的哪里是那些补品,真正见效莫过于这件事!

伺候宋美龄大半辈子的老佣人,临死之际才肯吐露:她能活到106岁,凭借的哪里是那些补品,真正见效莫过于这件事!

扶苏聊历史
2026-11-21 17:42:04
2026-11-22 10:20:49
IT之家
IT之家
爱科技,爱这里 - 前沿科技人气平台
380722文章数 607744关注度
往期回顾 全部

科技要闻

Anthropic收涨17.1%,市值一度破2万亿美元

头条要闻

女子花2万存脐带血如今公司注销"断联":我的血还在吗

头条要闻

女子花2万存脐带血如今公司注销"断联":我的血还在吗

体育要闻

约基奇vs申京:最强的策应巨人?

娱乐要闻

官媒发文 官宣赵丽颖新身份,进步很大

财经要闻

最大回撤超37%,黄金崩盘了吗?

汽车要闻

35万级MPV的满配答案 享界V8正式上市售31.98万起

态度原创

亲子
家居
教育
旅游
游戏

亲子要闻

宝宝必看的5个启蒙动画,豆瓣评分都是在9.0以上

家居要闻

2026建博会(广州) 公装联探展交流活动

教育要闻

曾经“感动中国”的庞众望完成清华大学博士论文答辩,本人发声:将继续潜心钻研,在科研探索的道路上不断前行

旅游要闻

喀什旅游的游客因清廷中唯一的维吾尔族妃子的故事而奔赴这里参观

PC Gamer试玩GTA6百小时:双主角出色但任务重复

无障碍浏览 进入关怀版