网易首页 > 网易号 > 正文 申请入驻

Claude Code偷偷上线消息线程:请求体积从800KB降到1.8KB,首词延迟砍35%,但你的Token账单一分没变

0
分享至

Claude Code v2.1.317在11月3日悄悄上线了一个功能。没有发布会,没有倒计时,只是某天打开终端,长对话的等待时间突然变短了。

官方数据很具体:长会话中单次请求体积的中位数从约800KB降到1.8KB,50万到100万Token请求的首词延迟(TTFT)中位数下降约35%。大多数Claude Code用户已经默认开启,不需要任何配置。

但它同时写了一句容易被跳过的限定:Claude每一轮仍然读取完整对话,Token消耗和标准费率不变。

变快是真的,变便宜是假的。 这两件事被同一个功能同时做到了极致,也同时暴露了Agent时代最容易被混淆的一笔账。



先搞清楚它到底省了什么

以前Messages API不记历史。Agent每发一轮请求,都得把之前所有消息、工具返回的文件内容、命令输出从头再传一遍。一个编码Agent跑几百轮,对话涨到几十万Token,光是把这些内容序列化、上传、再让服务端解析,就吃掉了首词延迟的很大一块。

Message Threads的做法很直接:第一轮照常发完整对话、system prompt和tools,服务端把这条线程存在加密内存里,返回一个response ID。之后每一轮只发新增消息和上一条response的ID,服务端自己把完整上下文拼回去。

请求体积从800KB降到1.8KB,降的是网络传输和预处理。Claude推理时仍然读完整对话,所以Token一个没少。

省的是“快递包装”,不是“货物本身”。



35%这个数字,有它精确的适用范围

官方口径写得很窄:50万到100万Token的请求,TTFT中位数下降约35%。

这句话有两层容易被忽略的意思。

第一,它降的是TTFT,不是总任务完成时间。TTFT是你按下回车到看到第一个字之间的等待。对于跑一个长任务来说,这个等待只是整条时间线的一小段。35%的TTFT改善,放到一个跑20分钟的任务里,体感可能是“等它开口的时间短了十几秒”,而不是“任务快了一倍”。

第二,如果你的会话在10万Token以下,改善几乎为零。byteiota的实测分析写得很直白:低Token量的会话,重发成本本身就低,Message Threads省下的传输时间可以忽略。

这个功能是为“长会话”设计的。 短对话用它,等于给自行车装涡轮增压。



和Prompt Cache的区别:一个省上传,一个省钱

这是最容易搞混的地方,也是官方示例里两者一起用的原因。

Prompt Cache解决的是“服务端重复处理” 。命中缓存的那部分输入,按更低的价格计费——Opus 5.5和Sonnet 5.5的缓存读取价格是基础输入价格的0.05倍,其他模型是0.1倍。它省的是钱,也是计算。

Message Threads解决的是“客户端重复上传” 。它不碰缓存,不会自动帮你命中任何东西, cache_control 断点仍然要自己设。它省的是传输时间。

一句话:Prompt Cache让每个Token更便宜,Message Threads让每次请求更小。 前者改账单,后者改等待。两者叠加才是完整的优化——一个管“你花多少钱”,一个管“你等多久”。



五个分钟、一个404、一个不能改的system prompt

这个功能的限制比它的收益更需要认真读。

线程闲置5分钟就过期,接口返回404。没有警告,没有解释。你必须自己写fallback逻辑,检测到404之后用本地保存的完整对话重新建一个线程。如果你的工作流里有一个慢工具调用、或者一个人工审批环节超过了5分钟,线程就断了。省下来的延迟,会被404重放吞回去一部分。

线程内不能改system prompt和tools。继续请求里再传system或tools,哪怕传null,都会报错。model、tool_choice、thinking这些字段也必须和第一轮一致,变了会触发 thread_fingerprint_mismatch 。想换配置,只能新建线程,从头开始。

没有list/read/delete API。你不能查线程里存了什么,也不能手动删。你的应用是对话的唯一可靠副本。服务端那份是“尽力而为”的临时状态,不能当存储用。

不支持ZDR和HIPAA。对有严格数据留存要求的企业,这个功能默认就该关掉。



什么场景值得开,什么场景开了白开

值得认真用: 长时间运行的编码Agent,每一轮都在追加文件内容、diff和命令输出;Computer Use类的Agent,截图默认挂在线程上而不是每轮重传;文档和图片密集的会话,请求体积本身很大。上下文越重,它省下的TTFT越可观。

开了白开: 短问答、轻量对话、10万Token以下的会话。传输成本本来就不高,35%的改善落到绝对时间上几乎无感。

必须关掉或不能用: 需要ZDR或HIPAA合规的场景;依赖Batch API的离线任务(目前不兼容);工作流里有超过5分钟的等待环节、又没做好404重放逻辑的。

Claude Code用户不需要做任何事。 它已经默认开了。你真正需要做的,是在你的Agent架构里留一份完整的对话副本——不是为了线程,是为了线程断了的时候,你还能重建它。



这个功能真正在说的事

Anthropic在9月刚把缓存价格砍了75%,11月又上了Message Threads。两个动作指向同一个方向:长Agent会话的成本和延迟,正在被拆成两个独立的问题,分别优化。

缓存管“重复内容别按全价收”,线程管“重复内容别反复传”。它们都不改变模型推理本身的成本,但都在把Agent从“能跑”往“能顺畅地跑”推。

你不需要为Message Threads多付一分钱,也不应该指望它帮你省一分钱。 它买的是时间——而且只在你的会话足够长、等待足够痛的时候,这个时间才值钱。

如果哪天你发现自己在终端前等Claude开口等到不耐烦,那大概率不是模型变慢了,是你的会话已经长到该让线程接手传输了。账单不会因此变小,但你的耐心会。

声明:内容由AI生成

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
何沁教授逝世

何沁教授逝世

极目新闻
2026-11-21 16:50:35
特朗普在回国的专机上,有件事让他很着急,事关中美的“大买卖”

特朗普在回国的专机上,有件事让他很着急,事关中美的“大买卖”

麓谷隐士
2026-11-21 15:01:54
甲亢哥52小时不睡通关GTA6 却触发最差结局崩溃落泪!

甲亢哥52小时不睡通关GTA6 却触发最差结局崩溃落泪!

游民星空
2026-11-21 11:07:36
哈登51+6+6超越奥尼尔!骑士拒步行者24分逆转 米切尔20分

哈登51+6+6超越奥尼尔!骑士拒步行者24分逆转 米切尔20分

醉卧浮生
2026-11-21 10:57:09
零跑汽车回应“A10后备厢装几箱啤酒就被压露底”:系物品超过设计承重上限所致,已获得用户理解,后续将优化用车指引

零跑汽车回应“A10后备厢装几箱啤酒就被压露底”:系物品超过设计承重上限所致,已获得用户理解,后续将优化用车指引

台州交通广播
2026-11-21 01:43:49
高市早苗飞离中国,中方铺红毯、礼仗队送别,日本认为“中方失礼”,根本站不住脚

高市早苗飞离中国,中方铺红毯、礼仗队送别,日本认为“中方失礼”,根本站不住脚

蓝星杂谈
2026-11-20 13:04:01
“A10后备厢装几箱啤酒就被压露底”,零跑汽车回应:系物品超过设计承重上限所致,已与用户沟通并获得理解,后续将优化用车指引

“A10后备厢装几箱啤酒就被压露底”,零跑汽车回应:系物品超过设计承重上限所致,已与用户沟通并获得理解,后续将优化用车指引

政知新媒体
2026-11-21 09:48:46
浮嶋敏回应0-5:日本20年前也经历过!盼中国足球能认清差距+反思

浮嶋敏回应0-5:日本20年前也经历过!盼中国足球能认清差距+反思

我爱英超
2026-11-21 17:11:33
“长不大的巨婴,及时分手”!四川女生因糖葫芦被男友吃了一个暴怒,扔掉肯德基躺人行道打滚,男生满脸通红苦劝

“长不大的巨婴,及时分手”!四川女生因糖葫芦被男友吃了一个暴怒,扔掉肯德基躺人行道打滚,男生满脸通红苦劝

王老师你还好吗
2026-11-21 13:25:53
别买,全是假的!又一产品大翻车,成本只有10元,很多人长期上当

别买,全是假的!又一产品大翻车,成本只有10元,很多人长期上当

命运自认幽默
2026-11-21 07:52:54
说出来你都不敢信,美国总统飞一趟中国,花出去的钱足足能买3辆全新的劳斯莱斯!

说出来你都不敢信,美国总统飞一趟中国,花出去的钱足足能买3辆全新的劳斯莱斯!

扶苏聊历史
2026-11-20 15:37:24
姆巴佩风波后,时间给出了答案——皇马赢了,皇马5家中国赞助商也赌赢了

姆巴佩风波后,时间给出了答案——皇马赢了,皇马5家中国赞助商也赌赢了

开成运动会
2026-11-21 11:24:38
美媒发现:英伟达失去中国市场之后,最危险的对手正在中国长出来

美媒发现:英伟达失去中国市场之后,最危险的对手正在中国长出来

麓谷隐士
2026-11-21 07:19:12
外媒:印度东北部发生假酒致人中毒事件,已致至少11人死亡、180余人入院

外媒:印度东北部发生假酒致人中毒事件,已致至少11人死亡、180余人入院

环球网资讯
2026-11-21 16:27:23
七万狂跌至两万八!珠海横琴神话破灭,澳门炒客排队断供逃亡

七万狂跌至两万八!珠海横琴神话破灭,澳门炒客排队断供逃亡

珠三角港
2026-11-20 10:44:17
参与军采项目涉嫌违规,顺丰速运、八马茶业等被暂停全军采购资格,自11月19日起生效,范围为全军

参与军采项目涉嫌违规,顺丰速运、八马茶业等被暂停全军采购资格,自11月19日起生效,范围为全军

大风新闻
2026-11-21 17:03:03
普林斯顿博士生被拘事件​​​曝更多内幕:14岁移居纽约,全家申请政治庇护

普林斯顿博士生被拘事件​​​曝更多内幕:14岁移居纽约,全家申请政治庇护

小徐讲八卦
2026-11-21 10:28:27
油还没跌回6块,人已彻底跑光!2026油价“骗局”,终于被揭穿!

油还没跌回6块,人已彻底跑光!2026油价“骗局”,终于被揭穿!

娱乐圈的笔娱君
2026-11-21 05:28:53
江苏淮安一退休干部被实名举报利用职权帮助子女介入超千万地产生意!纪委回应:正在调查

江苏淮安一退休干部被实名举报利用职权帮助子女介入超千万地产生意!纪委回应:正在调查

指尖新闻沈阳晚报
2026-11-21 08:51:23
天呐!差点没认出来,电视里那么漂亮女神,原来跟普通人也没两样

天呐!差点没认出来,电视里那么漂亮女神,原来跟普通人也没两样

情感大头说说
2026-11-20 04:49:19
2026-11-21 18:03:00
阿鑫讲ai
阿鑫讲ai
专门讲解现阶段高热度的AI
132文章数 16关注度
往期回顾 全部

科技要闻

Anthropic收涨17.1%,市值一度破2万亿美元

头条要闻

中国男子在澳遇袭被砍断两指 25万元医药费被朋友卷走

头条要闻

中国男子在澳遇袭被砍断两指 25万元医药费被朋友卷走

体育要闻

约基奇vs申京:最强的策应巨人?

娱乐要闻

虞书欣擦边自拍、霸凌同事、媒体点名?

财经要闻

走过三年牛市,黄金何去何从?

汽车要闻

35万级MPV的满配答案 享界V8正式上市售31.98万起

态度原创

家居
游戏
艺术
教育
军事航空

家居要闻

2026建博会(广州) 公装联探展交流活动

《GTA6》女主徒手掀翻汽车!力量太夸张遭吐槽

艺术要闻

赵孟頫将这件书法写了整整500遍,被誉为行书“教科书”,水平已接近王羲之!

教育要闻

小学数学填空,找准关系,轻松填出两个数字

军事要闻

俄乌炸桥冲突升级 相关谈判设想被放弃

无障碍浏览 进入关怀版