网易首页 > 网易号 > 正文 申请入驻

NeurIPS 2026 | 如何让LLM在推理中不断进化

0
分享至



随着人工智能(AI)系统的大规模部署,AI 服务正成为能源消耗增长的关键驱动因素,尤其是在大型语言模型(LLM)推理服务方面。LLM 服务过程中,基于真实用户交互生成的大规模 LLM 推理促使我们重新思考如何利用推理过程本身来改进服务系统,特别是实现高效的特定任务 LLM 自适应。

主流的 LLM 自适应方法基于调优技术(例如,参数高效微调(PEFT)、提示调优等)和知识增强技术(例如,检索增强生成(RAG)、提示工程等)。知识增强技术主要通过注入知识来实现,并且与 LLM 推理过程中修改内部权重无关。调优技术通常依赖于反向传播,与推理本身相比会产生额外的资源开销。相反,新兴的仅前向学习方法[1],仅依赖于前向传播,正成为 LLM 推理中一种很有前景的自适应方法。

一句话概括:LLM 在推理的过程中不断进化, 在仅前向(无后向传播)中实现对下游任务的自适应。



  • 论文标题:Efficient LLM Adaptation with Forward-Only Passes
  • 研究团队:隆德大学(瑞典), Google DeepMind (纽约)
  • 论文链接:https://arxiv.org/abs/2611.10610
  • NeurIPS 官方页面:https://neurips.cc/virtual/2026/loc/atlanta/poster/148809

核心贡献:

利用 LLM 前向传播中激活值的角度集中度来衡量参数 SVD 中不同 rank 对激活值的贡献并对相应的 ranks 进行裁剪

本文旨在实现LLM 推理服务过程中仅通过前向传播即可高效自适应 LLM。我们提出仅前向搜索来加速所选权重矩阵的识别,其方法是利用奇异值分解(SVD)分量引起的激活与隐藏状态之间的角度集中度差异。每个 SVD 分量引起的激活的角度集中度用于衡量其对隐藏状态角度集中度的贡献——分散或集中。我们的前向搜索包含以下步骤:

第一,具有多个 SVD 分量的 SVD 分解



第二,所有 SVD 分量的激活值之和可恢复标准的前向传播



第三,角度集中度计算

前向传播测量角度集中度,以确定哪个权重矩阵具有最高的离散度,该权重矩阵随后用于降秩运算。



结果

结果表明,与基于梯度的方法(LASER-Grad)相比,我们的前向方法具有更低的峰值内存和更高的加速比;与穷举搜索方法(LASER)相比,我们也具有更高的加速比和相当的精度。



我们证明,与基于梯度的方法相比,我们的前向搜索方法在各种数据集(包括知识推理、知识干预、多跳推理、事实验证、公平性和偏见评估、幻觉检测和信息检索)上实现了更低的峰值内存占用和更高的加速比;与穷举搜索方法相比,该方法也具有更高的加速比和相当的准确率。



GPT-J 评估报告准确率(Acc,%)、加速比和峰值内存(Mem)



Roberta 评估报告准确率(Acc,%)、加速比和峰值内存(Mem)

扩展实验进一步证明了我们前向搜索方法的有效性和鲁棒性,以及其增强微调过程的能力。



GPT-J




Roberta on Bios Gender

此外,我们还对各种参数量高达 570 亿的 LLM 进行了广泛的实验,包括 LLaMA2 DeepSeekV1、Mistral、Qwen2 及其专家混合模型(MoE)版本,以及多模态 Gemma 4。结果表明,我们的前向搜索方法具有很强的泛化能力。



我们在消融实验中展示了我们提出的高效分层搜索算法能够有效且鲁棒地加速计算,同时保持下游精度。此外,与 LASER-Grad 相比,我们的仅前向方法在不同的序列长度下,峰值内存显著降低,加速比更高。





我们将 Key、Query、Value 等权重矩阵添加到默认的 FFN 输入/输出中。相应结果表明,我们的仅前向搜索可以得到与仅考虑默认 FFN 输入/输出时相同的 top-j 权重矩阵。换句话说,注意力模块中的权重矩阵可以忽略不计,从而加快计算速度。

相关工作:

LLM 压缩、LLM 自适应、仅前向学习

LLM 压缩:模型压缩技术通常旨在减少模型存储而不影响下游精度。迄今为止,包括量化、蒸馏、张量分解、剪枝和键值缓存压缩在内的 LLM 压缩方法,也旨在保持下游精度,但在一定程度上需要额外的步骤,例如微调和对齐,或者在压缩后通过推理来提高下游精度。值得注意的是,在奇异值分解(SVD)中选择性地去除权重矩阵的高阶分量可以提高下游精度。

LLM 自适应:将 LLM 适配到下游任务通常涉及调优技术和知识增强技术。调优技术包括监督式微调 (SFT) 、PEFT(例如低秩自适应 (LoRA)、适配器调优等)、提示调优、前缀调优、偏置高效微调 (BEFT) 、指令调优以及以下对齐技术,以及测试时训练。然而,这些调优技术通常依赖于反向传播。即使是无需训练的 LLM 对齐方法,与推理本身相比,仍然会产生额外的资源开销。此外,知识增强技术,包括 ICL、提示指令、检索增强生成、提示工程、激活控制以及基于工具的方法,主要通过增强提示或注入信息来运行,并且与在 LLM 推理过程中修改内部权重是正交的。

仅前向学习:新兴的仅前向学习算法展现了模型自适应的一个有前景的趋势,即从依赖反向传播转向更直接地依赖前向传播,这在当前 LLM 规模空前庞大的时代尤为重要。然而,仅前向学习扩展到更深层模型(例如 LLM)的可扩展性仍然是一个具有挑战性的问题。在仅前向传播技术中,前向梯度法可以通过对多个扰动进行平均或利用局部损失进行更好的梯度估计来扩展到更深的模型,而零阶优化可以扩展到更深的模型和 LLM。此外,扩展到 LLM 的进化策略要么需要调整输入提示/嵌入,要么需要多次迭代(调整)前向传播。

结语

新兴的仅前向学习方法,仅依赖于前向传播,无需任何后向传播,正逐步被应用到大模型领域,发挥更实际的作用。

总而言之,由于本文提出的方法完全摒弃了反向传播梯度计算,并且具备低内存占用和高加速比,它未来完全可以在真实的 LLM 推理服务过程中实现在线实时适应。系统可以利用来自用户交互的偏好数据或自标记验证数据,在服务期间动态地、低成本地调整模型,使其更贴合特定任务或用户群体,具有极高的商业价值。

[1] Baichuan Huang, Alexander Ororbia, Amir Aminifar. Backpropagation-Free Learning: On the Emergence of Forward-Only Algorithms. TechRxiv. 2026.

DOI: https://doi.org/10.36227/techrxiv.176739859.93468234/v1

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
不得了!日本做了一个极其恶劣的决定!

不得了!日本做了一个极其恶劣的决定!

故事终将光明磊落
2026-11-20 14:44:07
它是“菜中人参”,冬天遇到别手软,买10斤囤着,随吃随取特省事

它是“菜中人参”,冬天遇到别手软,买10斤囤着,随吃随取特省事

阿龙美食记
2026-11-19 11:00:12
APCE上的温情一幕,让人好感动!

APCE上的温情一幕,让人好感动!

低调看天下
2026-11-20 15:46:04
创业板指跌逾3% 下跌个股近5200只

创业板指跌逾3% 下跌个股近5200只

财联社
2026-11-20 10:25:04
歌手张宇去世,年仅48岁

歌手张宇去世,年仅48岁

东方不败然多多
2026-11-20 16:36:51
尾盘,A股突变,爆天量了!

尾盘,A股突变,爆天量了!

中国基金报
2026-11-20 15:53:51
显著提高农民养老金,是一种历史契约,农民也有社保视同缴费资格,理由除公粮外,还有一个更硬核的没人说 | 何兰生

显著提高农民养老金,是一种历史契约,农民也有社保视同缴费资格,理由除公粮外,还有一个更硬核的没人说 | 何兰生

农见度
2026-11-20 21:48:04
突发!黄仁勋再曝新消息,该来的还是来了!

突发!黄仁勋再曝新消息,该来的还是来了!

财经要参
2026-11-20 16:00:05
老人学会网购后 一口气下单15吨薯条喂猪:5毛一斤 比玉米饲料还划算 一拌上饲料猪就“抢着吃”

老人学会网购后 一口气下单15吨薯条喂猪:5毛一斤 比玉米饲料还划算 一拌上饲料猪就“抢着吃”

闪电新闻
2026-11-20 10:50:52
贾国龙又推新招牌,这次能撑多久?丨大象财富

贾国龙又推新招牌,这次能撑多久?丨大象财富

大象新闻
2026-11-20 18:35:02
深圳女高管和每一任男友发生关系前,都要先拉他去体检,防止被传染

深圳女高管和每一任男友发生关系前,都要先拉他去体检,防止被传染

江山挥笔
2026-11-19 14:15:33
山东省原副省长闫剑波,辞去山东省委委员职务;今年9月已跨省任厦门代市长;曾任禹城市委书记、济宁市委副书记、威海市委书记等职

山东省原副省长闫剑波,辞去山东省委委员职务;今年9月已跨省任厦门代市长;曾任禹城市委书记、济宁市委副书记、威海市委书记等职

极目新闻
2026-11-20 18:40:29
高市早苗APEC独坐角落扇扇子,引日本网民群嘲:是去丢人现眼的吗?

高市早苗APEC独坐角落扇扇子,引日本网民群嘲:是去丢人现眼的吗?

可达鸭面面观
2026-11-20 08:41:45
首款鸿蒙 AI 手机发布:华为全新子品牌 OSTA 星芒有一个「增援未来计划」

首款鸿蒙 AI 手机发布:华为全新子品牌 OSTA 星芒有一个「增援未来计划」

爱范儿
2026-11-20 17:27:02
男子花800元购仿真虎皮坐垫在院里晾晒,被路过萌娃误传为“有人杀虎”,当事人:吓了一跳,林业局找上门,派出所也准备出警

男子花800元购仿真虎皮坐垫在院里晾晒,被路过萌娃误传为“有人杀虎”,当事人:吓了一跳,林业局找上门,派出所也准备出警

潇湘晨报
2026-11-20 12:00:15
A股又是大跌,原因不找了!黄金崩跌,峰哥狂买:最对不起就是各位金友

A股又是大跌,原因不找了!黄金崩跌,峰哥狂买:最对不起就是各位金友

金石随笔
2026-11-20 12:39:37
男子让好友睡自己妻子,遭好友拒绝,愤怒下将好友妻子和娃杀死

男子让好友睡自己妻子,遭好友拒绝,愤怒下将好友妻子和娃杀死

夜话奇谭
2026-11-20 14:15:49
突发!63 岁黄仁勋正在考虑创立新公司,网友:一定要自己控股呀!

突发!63 岁黄仁勋正在考虑创立新公司,网友:一定要自己控股呀!

起点财经
2026-11-20 13:46:06
多家头部公募发声:A股有望迎估值修复窗口

多家头部公募发声:A股有望迎估值修复窗口

第一财经资讯
2026-11-20 17:05:04
武汉95后小伙子承父业收废品,买到一架客机,拆解视频意外爆火,本人回应:把童年顺口溜干成了现实

武汉95后小伙子承父业收废品,买到一架客机,拆解视频意外爆火,本人回应:把童年顺口溜干成了现实

极目新闻
2026-11-20 15:01:38
2026-11-20 22:15:00
机器之心Pro incentive-icons
机器之心Pro
专业的人工智能媒体
14524文章数 142761关注度
往期回顾 全部

科技要闻

Anthropic收涨17.1%,市值一度破2万亿美元

头条要闻

交钱5年房子没盖女子要求退房退款被拒 当地称可换房

头条要闻

交钱5年房子没盖女子要求退房退款被拒 当地称可换房

体育要闻

脚步未停!西班牙摩托车手赤脚徒步入境中国

娱乐要闻

官媒发文 官宣赵丽颖新身份,进步很大

财经要闻

最大回撤超37%,黄金崩盘了吗?

汽车要闻

35万级MPV的满配答案 享界V8正式上市售31.98万起

态度原创

家居
艺术
亲子
本地
公开课

家居要闻

2026建博会(广州) 公装联探展交流活动

艺术要闻

被机器人“七弟”爱上的她:艾西瓦娅·雷与印度歌舞片中的女性形象

亲子要闻

奶奶给大孙买的草莓真甜,姥姥给的高粱米做一锅,焦黏喷香都爱吃

本地新闻

43年起落记忆倒计时,去厦门高崎领绝版登机牌!

公开课

李玫瑾:为什么性格比能力更重要?

无障碍浏览 进入关怀版