网易首页 > 网易号 > 正文 申请入驻

模型读完就忘?测试时训练让推理过程自己学

0
分享至

十多年来,深度学习一直把训练和推理隔成两件事。预训练阶段,大规模GPU集群花上几个月,用梯度下降更新数十亿个权重;一旦部署上线,这些权重就被冻住了。

推理时,模型想吸收新信息,只能往上下文窗口里塞token。会话一结束,或者上下文窗口一滚动,交互中学到的东西就全没了。更麻烦的是,标准循环模型和状态空间层会把过去的token压进一个固定大小的向量,在百万级token的长流里,细粒度信息必然丢失。

为了让部署后的模型能真正边用边学、又不触发灾难性遗忘,研究者把目光投向测试时训练(Test-Time Training,TTT)和嵌套学习(Nested Learning)架构。

隐藏状态本身就是一个神经网络

TTT重新定义了序列模型的隐藏状态。它不再把对话历史压成一个静态向量,也不依赖不断膨胀的键值缓存(KV cache),而是让隐藏状态本身成为一个紧凑、快速更新的神经网络。

推理过程中每来一个新token或一帧传感器数据,模型就在前向传播内部执行一次内循环自监督梯度步,直接更新内部记忆模块的快速权重。

换句话说,模型是在对自己当前读到的上下文做训练,把新规则、用户代码库、陌生的题目结构直接编码进临时的神经权重,然后再生成下一个token。

没有标签,靠什么更新权重

推理时没有标准答案,模型怎么知道该往哪个方向更新?TTT层用的是自监督重建任务:内部快速模型尝试预测输入token的掩码视图或投影视图,预测误差产生干净的梯度信号,在微秒级完成快速权重更新。

并非每个token都值得写进记忆。受认知神经科学启发,Titans这类架构会测量“惊讶度”,也就是预测表示与实际输入之间梯度的幅度。日常填充性的token只触发极小更新,意外的事实、新的API定义、环境的突然变化才会触发高优先级的记忆写入。

为了防止模型在适配单次会话时覆盖掉核心世界知识,嵌套学习按更新频率把参数拆开:

  • 慢速外层权重:训练完成后冻结,保留基础推理能力、语言流畅度和广泛的世界知识。
  • 快速内层权重:临时的、会话范围的神经记忆模块,快速适配本地上下文,切换任务时干净重置。

为什么这条路线值得关注

一是线性时间扩展与更强的召回。Transformer的KV缓存在计算上呈二次增长、在显存上线性增长,而TTT层维持一个恒定大小的权重矩阵,同时能存下比简单线性状态向量丰富得多的关系关联。

二是对陌生领域的真实适配。当模型被放进一套专有企业代码库或一门新发明的编程语言里,配备TTT的智能体会动态调整内部表示,而不是只靠脆弱的上下文示例硬撑。

三是持续学习的基础。把高惊讶度的会话更新在离线阶段固化下来,组织就有机会在静态预训练模型和不断演化的机构知识之间搭一座桥。

自然界的智能不会因为离开教室就停止更新。把前向传播变成一个连续的、嵌套的优化循环,测试时训练拆掉了训练与部署之间那道硬边界——模型每读一个token,都可能比之前更聪明一点。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
突发!黄仁勋正考虑创办一家全新的半导体公司

突发!黄仁勋正考虑创办一家全新的半导体公司

大厂财经社
2026-11-20 11:12:34
沉痛送别!斯琴高娃离世,网友悼念错了:那位76岁老戏骨还在拍戏

沉痛送别!斯琴高娃离世,网友悼念错了:那位76岁老戏骨还在拍戏

月光作笺a
2026-11-20 07:11:51
女子带闺蜜回家,闺蜜上了爸爸的床:他们结婚那晚,闺蜜被杀死了|法堂

女子带闺蜜回家,闺蜜上了爸爸的床:他们结婚那晚,闺蜜被杀死了|法堂

汉史趣闻
2026-11-20 15:02:57
特朗普率十多名高官访华,美国终于发现:想绕开中国没那么容易

特朗普率十多名高官访华,美国终于发现:想绕开中国没那么容易

麓谷隐士
2026-11-20 06:44:04
美悬赏1000万美元搜集缅甸电诈园区线索,知情人:园区以“欧美盘”为主,已基本搬空

美悬赏1000万美元搜集缅甸电诈园区线索,知情人:园区以“欧美盘”为主,已基本搬空

红星新闻
2026-11-20 15:33:23
A股又是大跌,原因不找了!黄金崩跌,峰哥狂买:最对不起就是各位金友

A股又是大跌,原因不找了!黄金崩跌,峰哥狂买:最对不起就是各位金友

金石随笔
2026-11-20 12:39:37
天呐!差点没认出来,电视里那么漂亮女神,原来跟普通人也没两样

天呐!差点没认出来,电视里那么漂亮女神,原来跟普通人也没两样

情感大头说说
2026-11-20 04:49:19
特朗普临走撂下句话,我越想越不对劲:这哪是夸中国,分明是报价

特朗普临走撂下句话,我越想越不对劲:这哪是夸中国,分明是报价

天光破云来
2026-11-20 13:12:25
男子让好友睡自己妻子,遭好友拒绝,愤怒下将好友妻子和娃杀死

男子让好友睡自己妻子,遭好友拒绝,愤怒下将好友妻子和娃杀死

夜话奇谭
2026-11-20 14:15:49
高市见了普京

高市见了普京

周边问题研究所
2026-11-20 13:12:01
阿里巴巴因隐瞒与黄仁勋外遇对象业务关系遭股东起诉

阿里巴巴因隐瞒与黄仁勋外遇对象业务关系遭股东起诉

互联网大观
2026-11-20 13:49:45
悲催!20多年倾尽60万培养的211毕业生遭裁员,河南老父亲发帖控诉,引发轩然大波

悲催!20多年倾尽60万培养的211毕业生遭裁员,河南老父亲发帖控诉,引发轩然大波

火山詩话
2026-11-20 09:53:44
它是“菜中人参”,冬天遇到别手软,买10斤囤着,随吃随取特省事

它是“菜中人参”,冬天遇到别手软,买10斤囤着,随吃随取特省事

阿龙美食记
2026-11-19 11:00:12
APEC三方会晤刚落幕,返程飞机上川普变卦,大国棋局迎来惊天变化

APEC三方会晤刚落幕,返程飞机上川普变卦,大国棋局迎来惊天变化

战友老邓
2026-11-20 12:37:32
丢人!一女博主自曝在德国15年,交往过大量的外国男人,后续会出专题系列

丢人!一女博主自曝在德国15年,交往过大量的外国男人,后续会出专题系列

小徐讲八卦
2026-11-20 06:39:39
刚刚,英伟达收到传票!

刚刚,英伟达收到传票!

EETOP半导体社区
2026-11-20 13:41:07
全面下跌,何时见底?

全面下跌,何时见底?

星图金融研究院
2026-11-20 15:37:21
邝港智供词炸裂!谭方骏喜欢的是他,曾与蔡天凤3人同睡一张床

邝港智供词炸裂!谭方骏喜欢的是他,曾与蔡天凤3人同睡一张床

社会日日鲜
2026-11-20 10:27:11
克里米亚大桥完全断了,大帝不想打了,但谈的过程川普想重构北约

克里米亚大桥完全断了,大帝不想打了,但谈的过程川普想重构北约

邵旭峰域
2026-11-20 15:03:48
把反华做成生意的Anthropic 上市了,封号不退钱,一年收割中国用户 200 亿

把反华做成生意的Anthropic 上市了,封号不退钱,一年收割中国用户 200 亿

起点财经
2026-11-20 09:50:54
2026-11-20 19:03:00
薛定谔的BUG
薛定谔的BUG
有态度网友ytd
271文章数 113关注度
往期回顾 全部

科技要闻

Anthropic收涨17.1%,市值一度破2万亿美元

头条要闻

历时14小时特朗普返回美国 刚下飞机就发布"重大预告"

头条要闻

历时14小时特朗普返回美国 刚下飞机就发布"重大预告"

体育要闻

脚步未停!西班牙摩托车手赤脚徒步入境中国

娱乐要闻

官媒发文 官宣赵丽颖新身份,进步很大

财经要闻

最大回撤超37%,黄金崩盘了吗?

汽车要闻

交付破16万台背后 全新ES8凭什么成为「高端纯电第一车」?

态度原创

艺术
手机
数码
家居
房产

艺术要闻

这才是怀素《自叙帖》原貌,台北故宫秘藏几十年,揭露唐人草书真实笔法!

手机要闻

华为星芒首款旗舰降临 OSTA O1 Pro发布:5499元起

数码要闻

重力星球飞雀S1PRO鼠标今晚开售!镁合金壳49克699元

家居要闻

2026建博会(广州) 公装联探展交流活动

房产要闻

黄埔商业规划曝光!科学城能级跃升,核心入场券已锁定

无障碍浏览 进入关怀版