网易首页 > 网易号 > 正文 申请入驻

大模型蒸馏要完了?Anthropic Fable5.1 给Claude思考过程"上锁"

0
分享至

刚刚,Anthropic发布了Fable 5.1。


值得注意的一个细节是,随着新版本上线,Anthropic也对Claude API的一个关键机制进行了调整。

在最新文档描述中,Fable 5.1改变了Messages API处理思考块的方式。

对于新API账户,开发者不能再在多轮对话中随意编辑思考块周围的上下文,包括消息、工具和系统提示。

所谓“思考块”,是Claude在生成最终答案之前产生的推理步骤。

在API中,这些内容会以“思考块”的形式返回给用户。在多轮对话中,API用户通常会在下一轮请求中,将这些思考块与系统提示、工具以及此前的消息一起发送回来,让Claude获得完整的对话上下文。

现在,Anthropic开始对这些内容进行一致性验证。

对于受到影响的Fable 5.1账户,如果此前思考块之前的系统提示、工具或者消息被修改,API将返回错误。API会验证思考块是否与产生它时所使用的相同系统提示、工具和消息一起被发送回来。

如果开发者确实需要修改此前的上下文,可以选择使用“非严格”模式。此时请求仍然可以继续,但受到影响的思考块会从模型看到的内容中删除。模型将在看不到这些此前思考内容的情况下继续响应,API返回结果也会告知开发者哪些思考块被删除。

Anthropic解释,这一改变主要针对AI蒸馏。

改变对话早期轮次,是非法蒸馏活动中常见的技术。其目的之一,是提取高级模型的能力,尤其是模型的思考过程,并将这些能力用于训练另一个未经授权的模型。

Anthropic称,这类蒸馏通常可以工业规模进行,使用数千个虚假账户。


此前,Anthropic已经对Claude的思考块进行加密,以防止这类行为。

但又发现,如果攻击者先修改思考块之前的对话内容,就可能让Claude重新解密并输出此前的推理。

这样训练出来的系统,可以继承原本不具备的能力,同时却不一定继承原模型针对网络攻击、武器开发等广泛滥用风险建立的安全保障措施。

因此,这次API调整的目标,就是让这种蒸馏活动更加困难。

Anthropic表示,这项措施建立在现有反蒸馏措施之上,包括增强的蒸馏分类器,以及限制从更高级模型向具有较弱安全保障的低能力模型转移会话或推理。

不过,这一变化也可能影响正常的API集成。

Anthropic特别提到,一些会在对话进行到一半时重写早期轮次的集成可能需要调整,例如上下文压缩和注入系统提醒等场景。

Anthropic同时指出,保持思考块与原始上下文一致也有额外好处:API可以更频繁地重复利用缓存提示,从而降低成本和响应时间。

这项更新目前并不是对所有账户立即生效。

在Fable 5.1上,更新适用于2026年8月31日12:00:00 UTC之后创建的新API账户。

具体包括这一日期之后创建的新Claude Platform组织、Amazon Bedrock账户、Google Cloud Vertex AI项目以及Microsoft Azure Foundry项目。

Anthropic采取的是分阶段执行方式,从新账户开始,因为这些账户中观察到的蒸馏相关滥用浓度最高。

现有账户目前不会受到影响,这也给开发者留下时间,让测试框架和API集成适应新的处理方式。

但Anthropic已经明确表示,未来模型也将采用这一机制,并最终适用于所有用户。

需要注意的是,Claude Code、Claude Cowork、Claude.ai以及通过第三方产品使用Claude的用户不受此次变化影响;Fable 5.1之外的模型也不受影响。

从API层面看,这次变化并不是简单地禁止用户获取思考内容,而是改变了一个关键规则。

如果你想让模型继续看到此前的思考块,那么此前产生这些思考的系统提示、工具和消息上下文就必须保持一致。

Anthropic希望通过这一机制,堵住利用修改历史对话来获取和批量提取模型推理能力的路径。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
拉拉克岛遭美军打击后,伊朗正陷入三重困境

拉拉克岛遭美军打击后,伊朗正陷入三重困境

斌闻天下
2026-09-02 07:10:05
大势已去!中国开启美债撤离计划,“救美救中” 时代正式终结?

大势已去!中国开启美债撤离计划,“救美救中” 时代正式终结?

趣味萌宠的日常
2026-09-02 02:29:28
比亚迪韩国高速被现代追尾,结果韩国网友破防了

比亚迪韩国高速被现代追尾,结果韩国网友破防了

热点科技
2026-09-01 14:52:28
日本已直接出兵参战,与五万朝鲜军队正面交火,战况激烈。美国媒体彻底看傻了眼:一旦冲突继续升级,会不会真的引爆第三次世界大战?

日本已直接出兵参战,与五万朝鲜军队正面交火,战况激烈。美国媒体彻底看傻了眼:一旦冲突继续升级,会不会真的引爆第三次世界大战?

人生录
2026-08-29 00:05:14
中国稀土太子爷奢靡生活,40万一餐,父子挥霍百亿资产

中国稀土太子爷奢靡生活,40万一餐,父子挥霍百亿资产

让生活充满温暖
2026-08-04 16:03:21
星宇股份董事长两次道歉

星宇股份董事长两次道歉

扬子晚报
2026-09-02 12:48:05
湖南炎陵遭遇极端强降雨,已致2人死亡2人失联

湖南炎陵遭遇极端强降雨,已致2人死亡2人失联

界面新闻
2026-09-02 15:30:23
中俄领导人讨论了中美俄三方在APEC会晤可能性?外交部:目前无可提供的信息

中俄领导人讨论了中美俄三方在APEC会晤可能性?外交部:目前无可提供的信息

澎湃新闻
2026-09-02 15:38:29
重磅!七部门出手,激活内需60万亿社零!

重磅!七部门出手,激活内需60万亿社零!

新浪财经
2026-09-02 06:57:57
央视直播美网第二轮时间表!9月2日,CCTV5+直播郑钦文冲击5连胜

央视直播美网第二轮时间表!9月2日,CCTV5+直播郑钦文冲击5连胜

薇说体育
2026-09-02 10:46:41
CCTV5直播!中国女篮今晚死磕美国,1分惜败西班牙的她们,能否在8名WNBA状元头上抢下小组第二

CCTV5直播!中国女篮今晚死磕美国,1分惜败西班牙的她们,能否在8名WNBA状元头上抢下小组第二

静谧而安g
2026-09-02 12:23:17
以色列活捉哈马斯“反间谍总管”,受伤在地上爬行被带走

以色列活捉哈马斯“反间谍总管”,受伤在地上爬行被带走

桂系007
2026-09-02 02:45:59
重磅!交易浓眉哥?奇才要搅动NBA……

重磅!交易浓眉哥?奇才要搅动NBA……

体育新角度
2026-09-02 10:37:42
巨亏近100亿,高瓴割肉跑了

巨亏近100亿,高瓴割肉跑了

投资家
2026-09-01 20:45:25
我们又输了!中国女篮54-83法国女篮,韩旭归队,张子宇缺阵

我们又输了!中国女篮54-83法国女篮,韩旭归队,张子宇缺阵

雅儿姐姐爱侃剧
2026-09-02 13:55:40
花15万娶23岁白俄罗斯妻子,婚后第30天他发现她在偷偷学中文

花15万娶23岁白俄罗斯妻子,婚后第30天他发现她在偷偷学中文

真实人物采访
2026-09-01 11:35:05
美国力邀俄罗斯重返G20 “背刺”欧洲?

美国力邀俄罗斯重返G20 “背刺”欧洲?

看看新闻Knews
2026-09-01 23:35:05
马杜罗发朋友圈,全世界都沉默了:原来蹲大牢比当总统还舒服?

马杜罗发朋友圈,全世界都沉默了:原来蹲大牢比当总统还舒服?

民间胡扯老哥
2026-09-01 06:44:17
央视网评:“取消ETC”呼声背后,收费站拥堵的“锅”谁来背?

央视网评:“取消ETC”呼声背后,收费站拥堵的“锅”谁来背?

澎湃新闻
2026-09-01 17:55:39
60岁郭富城把9岁女儿带上杭州演唱会舞台,两分多钟双人齐舞卡点精准让全场沸腾引热议

60岁郭富城把9岁女儿带上杭州演唱会舞台,两分多钟双人齐舞卡点精准让全场沸腾引热议

喜欢历史的阿繁
2026-09-02 03:06:11
2026-09-02 17:23:00
AI先锋官 incentive-icons
AI先锋官
AIGC大模型及应用精选与评测
654文章数 103关注度
往期回顾 全部

科技要闻

凌晨最强模型上新,Claude Fable 5.1发布

头条要闻

功夫巨星陈观泰去世:凭《马永贞》成名 发掘了周星驰

头条要闻

功夫巨星陈观泰去世:凭《马永贞》成名 发掘了周星驰

体育要闻

一次有奖问答,让他成为欧冠主帅

娱乐要闻

香港武打影星陈观泰离世,终年80岁

财经要闻

需要重视的全球“资金失衡”

汽车要闻

一汽-大众新能源的新答案 试驾ID. AURA T6

态度原创

数码
本地
健康
游戏
公开课

数码要闻

全新华为MatePad Air预热 9月7日与三折叠一起发布

本地新闻

昆明的雨,解锁汪曾祺的浪漫雨季

越吃越爆痘?医生讲清7大真相

《GTA6》露西娅演员回归ins:消失后首发文 身材超辣

公开课

李玫瑾:为什么性格比能力更重要?

无障碍浏览 进入关怀版