网易首页 > 网易号 > 正文 申请入驻

一文读懂「AI大模型高效推理」:分类、局限性和3大提升方法

0
分享至

在一些需要慢思考的场景中,如数学问题求解或科学研究,大型推理模型(LRM)需要在给出最终回答之前,进行分析性和深思熟虑的推理。

然而,LRM 深思熟虑的推理过程导致其资源消耗极高,带来了 token 消耗大、内存开销高和推理时增加等一系列挑战,这不仅增加了服务公司的推理成本,也降低了用户的体验。

以往针对 LLM 推理效率的研究,如模型压缩、高效模型设计和系统级优化等,虽然能够缓解高内存开销和推理时增加的问题,但并非专门为 LRM 设计,无法有效地解决 LRM 中 token 低效的问题。

为此,来自新加坡国立大学的团队及其合作者进行了专门针对 LRM 的高效推理方法的综述,重点关注在保持推理质量的同时缓解 token 效率低下的问题。主要贡献如下:

  • 对当前的 LRM 高效推理方法进行了全面的论文综述,并进行了分层分类,即显式紧凑型思维链(explicit compact CoT)和隐式潜在型思维链(implicit latent CoT),以及优缺点讨论。

  • 从性能和效率的角度对最新方法进行了实证研究,并从用户控制、可解释性、安全性和应用方面总结了 4 个挑战:用户可控推理、推理可解释性与效率平衡、安全保障和应用拓展。

  • 强调了从模型合并、非自回归架构和 agent 路由的角度进一步改进现有方法的技术见解。

图|综述框架

图|大型推理模型的推理方法分类

相关研究论文以

Efficient Inference for Large Reasoning Models: A Survey
为题,已发表在预印本网站 arXiv 上。

LRM 的两大分类

根据当前的研究形式,研究团队将 LRM 分为了两大类:

  • 显式紧凑型 CoT,通过引入显式指令、奖励或预算约束来鼓励使用较短的推理链,而不是冗长的 CoT。

  • 隐式潜在型 CoT,将显式的长 CoT 压缩为紧凑、连续的推理状态。

图|GSM8K 数据集上最新推理方法的基准测试

研究团队认为,隐式潜在型 CoT 在推理准确度上可以超过显式紧凑型 CoT,同时也能够显著降低生成的成本。

1.显式紧凑型 CoT

最近的研究关注如何在保持推理准确性的同时,开发更紧凑的推理路径:

CoT 压缩。通过将中间推理限制在必要步骤、使用一个小的路由模型生成推理草图、动态调整推理 token 等方式,在保持解决方案质量的同时简化推理过程。但可能会牺牲透明度,存在忽略关键的中间逻辑的风险,这可能会破坏可解释性。

基于紧凑推理链的微调。利用 LLM 生成压缩的长 CoT 版本、整理专家验证的简洁答案、标注数据集进行微调等方法,提高了 LRM 的效率,但成本高,并且依赖于精心整理的数据集和大量再处理工作,限制了它们对开放式领域的适应性。

基于奖励的激励。越来越多的研究引入明确的奖励信号,例如基于长度的奖励以抑制冗长的推理;利用强化学习训练模型以进行动态资源分配;基于推理成本控制推理分布;平衡对心推理路径的探索与对简洁、已验证推理路径的利用;交互式或用户导向的长度控制机制。

但是,这类激励信号可能导致模型倾向于简单答案,影响复杂任务的深度推理。并且,仅靠效率不足以实现实际部署,现实的应用程序需要在紧凑性、推理鲁棒性、可解释性和域泛化(domain generalization)之间取得平衡。

图|显式紧凑型 CoT 的要点

2.隐式潜在型 CoT

隐式潜在型 CoT 则通过将推理从显式 token 转移到潜在 token,在隐藏层而非自然语言中编码推理,以此提升 token 效率。用知识蒸馏、潜在嵌入、沉思 token 等方法,优化了各个层面的推理,在保持准确性的同时减少了延迟。

这类方法通过内化推理步骤提高效率,在推理准确性上甚至可以超越显式 CoT 方法,且能显著降低生成成本,展现出良好的可扩展性,但牺牲了模型的可解释性,使得推理过程难以验证。

图|隐式潜在型 CoT的要点

研究团队认为,未来的工作应侧重于从潜在表征中提取人类可解释的推理痕迹,从而实现效率和透明度的平衡。

局限性和挑战

此外,研究团队也从用户体验、可解释性、安全性和应用性的角度,讨论了现有推理方法的局限性和挑战。

图|局限性和挑战的要点

在用户体验方面,尽管部分 LRM 已支持用户配置推理模式,使用户能够调整推理深度,在透明度和效率之间取得平衡,同时优化用户体验,但还需探索更精细的控制机制,可以侧重于用户的交互式和个性化推理。

在可解释性上,当前为提高效率的方法可能会降低可解释性,比如减少显式推理步骤或转向潜在表示推理,使得理解模型结论的得出过程变得困难。未来的研究应开发适应性推理策略来平衡效率和可解释性。

当涉及安全性时,现有高效推理方法在提升 token 效率的同时,可能会破坏 LRM 的安全对齐,增加越狱攻击和隐私泄露等风险。未来的工作应在训练中整合安全约束,并制定更强有力的基于推理的保障措施。

从应用的角度来看,在社会科学、情感智能和创意写作等领域,LRM 存在开放式问题,比如难以制定明确目标,且高计算需求和延迟限制了其在时间敏感领域的应用。高效的推理方法则可以提高 LRM 在更广泛应用中的可行性,例如实时应用程序和开放式任务。

3 个方法,提高推理效率

那么,如何提高 LRM 的推理效率呢?

研究团队从新架构、模型合并、agent 路由 3 个方面提出了提升 LRM 推理效率的策略。

在新架构方面,主要包括混合自回归和扩散模型、内存高效 transformers 和基于图的推理,是进一步提高推理效率同时保持推理质量的潜在技术。

在模型合并上,将传统 LLM 和 LRM 的模型权重合并,使合并后的模型兼具 LLM 的快速响应和 LRM 的推理能力。但在模块选择、权重分配和架构兼容性方面存在挑战。

agent 路由则是根据任务难度为不同的 LRM 分配资源,以优化推理效率。目前包括两种路由策略:一是基于路由模型,通过训练一个独立的路由模型,根据输入任务的特征决定使用哪个 LRM;二是基于信心指标,利用模型对自身预测的信心程度来选择合适的 LRM 。

图|进一步优化的要点

如需了解更多详情,请查看原论文。

论文链接:https://arxiv.org/abs/2503.23077

整理:锦鲤

如需转载或投稿,请直接在公众号内留言

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
57岁泳装照封神,伊能静腰腹紧致状态在线,近来忙着录新综艺

57岁泳装照封神,伊能静腰腹紧致状态在线,近来忙着录新综艺

情感大头说说
2026-11-15 14:39:03
再三告诫:最伤性生活的行为,不是喝酒!而是频繁的去做这5件事

再三告诫:最伤性生活的行为,不是喝酒!而是频繁的去做这5件事

牛锅巴小钒
2026-11-16 02:14:24
美国满大街流浪汉的根源,就是美国的房产税制度,在美国你买了房,房子是你的不假,房屋产权永久也不假,但你每年都得交,一大笔房产税

美国满大街流浪汉的根源,就是美国的房产税制度,在美国你买了房,房子是你的不假,房屋产权永久也不假,但你每年都得交,一大笔房产税

回京历史梦
2026-11-13 10:28:50
看到厉娜2018年借给别人780万才懂,别看大家总说她是十八线过气艺人,但是零头都比咱普通人多得多

看到厉娜2018年借给别人780万才懂,别看大家总说她是十八线过气艺人,但是零头都比咱普通人多得多

静若梨花
2026-11-17 10:52:03
李嫣大概是上天派下来的天使吧,用自己的人生照亮了无数人的路

李嫣大概是上天派下来的天使吧,用自己的人生照亮了无数人的路

娱你同欢
2026-08-19 20:42:04
不舍!北京两家盒马奥莱即将闭店!

不舍!北京两家盒马奥莱即将闭店!

大北京早知道
2026-11-17 18:16:49
花500万买下一张药方,70后山东大叔做冷门生意,一年干出7000万

花500万买下一张药方,70后山东大叔做冷门生意,一年干出7000万

李砍柴
2026-11-07 22:39:05
正常男人吃一颗伟哥是什么体验?网友们的分享让人脸红心跳加快!

正常男人吃一颗伟哥是什么体验?网友们的分享让人脸红心跳加快!

黯泉
2026-06-25 12:10:30
大妈花50万买基金,账号忘了15年,孙子找回看到余额,全家愣住了

大妈花50万买基金,账号忘了15年,孙子找回看到余额,全家愣住了

黄家湖的忧伤
2025-08-12 17:05:12
雷军:AI手机、AI汽车还没有出现革命性的标杆产品

雷军:AI手机、AI汽车还没有出现革命性的标杆产品

财联社
2026-11-17 18:29:05
“我儿子敢这样穿,我上去就是一巴掌”,一套低认知穿搭火了

“我儿子敢这样穿,我上去就是一巴掌”,一套低认知穿搭火了

熙熙说教
2026-11-16 18:19:14
方舒还是太自信了,所以才会有1996年那次严重的失误

方舒还是太自信了,所以才会有1996年那次严重的失误

我来我看见
2026-11-16 19:26:59
朝中社发文谴责日本拥核野心

朝中社发文谴责日本拥核野心

新华社
2026-11-15 20:49:19
日本GDP全球占比萎缩至3%

日本GDP全球占比萎缩至3%

参考消息
2026-11-17 21:04:10
90%的人不知道:1962年属虎人的晚年福气,从来不是天生的

90%的人不知道:1962年属虎人的晚年福气,从来不是天生的

一口娱乐
2026-11-18 00:49:02
1947年,汉奸丁默邨临刑前的最后一搏:他要和蒋介石做一笔特殊的交易

1947年,汉奸丁默邨临刑前的最后一搏:他要和蒋介石做一笔特殊的交易

唠叨说历史
2026-11-17 16:18:34
国家医保局紧急踩刹车:查医生的不能比医生赚得还狠!

国家医保局紧急踩刹车:查医生的不能比医生赚得还狠!

娱乐圈见解说
2026-11-17 12:17:20
轰动全国的“91大神”庭审细节曝光,炸翻无数人

轰动全国的“91大神”庭审细节曝光,炸翻无数人

鸣金网
2026-10-18 14:17:30
他是叶剑英大女婿,人称“朴实无华好总理”,享年99岁

他是叶剑英大女婿,人称“朴实无华好总理”,享年99岁

古书奇谈
2026-11-06 14:06:29
大家发现了吗?油车跑1000公里要500块,电车跑1000公里呢?

大家发现了吗?油车跑1000公里要500块,电车跑1000公里呢?

青史卷中人
2026-11-18 01:37:56
2026-11-18 02:15:00
学术头条
学术头条
致力于学术传播和科学普及,重点关注AI4Science、大模型等前沿科学进展。
1516文章数 5081关注度
往期回顾 全部

科技要闻

硅谷大佬组局,帮黄仁勋杀回来!

头条要闻

中国女子在希腊失踪半年 保险箱发现10万欧元现金

头条要闻

中国女子在希腊失踪半年 保险箱发现10万欧元现金

体育要闻

伪强队?拥4亿豪阵欧国联6连败+世界杯出局

娱乐要闻

陈晓楠对话厉娜和许飞引全网热议

财经要闻

10万人逼宫英伟达,黄仁勋要复职了?

汽车要闻

更豪华更好开 问界新M8细节升级见真章

态度原创

健康
旅游
房产
手机
公开课

情绪真能让健康人"伤心至死"?

旅游要闻

秋假遛娃剑门关,全程17000步,6个小时,喜提废腿体验!

房产要闻

6.6亿!海口卖地!

手机要闻

鞠婧祎代言 荣耀700系列四款高颜值配色公布:全系标配原生AI背屏

公开课

李玫瑾:为什么性格比能力更重要?

无障碍浏览 进入关怀版