网易首页 > 网易号 > 正文 申请入驻

结构为王:AI 推理新思路,思维链结构成突破 LLM 高效训练关键

0
分享至

IT之家 2 月 15 日消息,科技媒体 marktechpost 昨日(2 月 14 日)发布博文,报道称加州大学伯克利分校的研究团队提出了一种 AI 训练方法,仅需少量数据即可增强大语言模型(LLM)推理能力。

提升 LLM 推理能力的难点在于训练模型生成具有结构化自反思、验证和回溯的长链式思维(CoT)响应。现有模型的训练过程通常需要在大量数据集上进行昂贵的微调,且许多专有模型的训练方法并不公开。

研究团队提出了一种新的训练方法,仅使用 17000 个 CoT 示例,微调 Qwen2.5-32B-Instruct 模型,并结合了 SFT 和 LoRA 微调技术,强调优化推理步骤的结构完整性而非内容本身,通过改进逻辑一致性并最大限度地减少不必要的计算开销,从而显著提高了 LLM 的推理效率。

研究表明,在增强 LLM 推理性能方面,CoT 的结构起着至关重要的作用,改变训练数据的逻辑结构会显著影响模型的准确性,而修改单个推理步骤的影响则很小。

IT之家附上使用新方法后的测试效果如下:

  • AIME 2024:准确率达到 56.7%,提升了 40.0 个百分点。

  • LiveCodeBench:得分 57.0%,提升了 8.1 个百分点。

  • Math-500:达到 90.8%,提升了 6.0 个百分点。

  • AMC 2023:达到 85.0%,提升了 17.5 个百分点。

  • OlympiadBench:达到 60.3%,提升了 12.7 个百分点。

这些结果表明,高效的微调技术可以使 LLM 在更少的数据需求下达到与 OpenAI 的 o1-preview 等专有模型相媲美的推理能力。

这项研究表明,将关注点从大规模数据依赖转向结构完整性,可以开发出一种以最少的计算资源确保强大逻辑一致性的训练方法。这种方法减少了对海量数据集的依赖,同时保持了强大的推理能力,使 LLM 更易于访问和扩展。

该研究的成果为未来模型的优化铺平了道路,证明结构化微调策略可以有效地增强 LLM 推理能力,而不会影响效率,这标志着复杂的 AI 推理模型在更广泛应用方面迈出了重要一步。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
突然直线拉升!英伟达爆大消息,黄仁勋或回归掌舵

突然直线拉升!英伟达爆大消息,黄仁勋或回归掌舵

魏家东
2026-11-16 13:28:59
两位妈妈打扮精致去开家长会,被发到网上,网友吵翻:这是选美,还是开会?

两位妈妈打扮精致去开家长会,被发到网上,网友吵翻:这是选美,还是开会?

蝴蝶花雨话教育
2026-10-29 00:05:14
不装了——狂砸1000亿,A股下跌的原因竟是它,真相让人心寒

不装了——狂砸1000亿,A股下跌的原因竟是它,真相让人心寒

财报翻译官
2026-11-16 15:47:30
APEC会议首位外国元首抵达深圳,中国女保镖贴身保护;出发前与中国游客热情合影,网友们花式点赞

APEC会议首位外国元首抵达深圳,中国女保镖贴身保护;出发前与中国游客热情合影,网友们花式点赞

极目新闻
2026-11-16 17:23:11
大反转!黄仁勋准备杀回英伟达,谁说的短剧节奏太快脱离现实,今天开始认真学习红果

大反转!黄仁勋准备杀回英伟达,谁说的短剧节奏太快脱离现实,今天开始认真学习红果

起点财经
2026-11-16 11:37:48
生父姓泽连斯基!俄媒曝普京小女儿再添一子,近11个月才登记

生父姓泽连斯基!俄媒曝普京小女儿再添一子,近11个月才登记

麓谷隐士
2026-11-16 00:05:08
“国乒全军覆没34岁方博夺冠”登热搜,方博:我不是人中龙凤,但我绝非等闲之辈;曾说打败“獒龙蟒胖”才能打世界杯

“国乒全军覆没34岁方博夺冠”登热搜,方博:我不是人中龙凤,但我绝非等闲之辈;曾说打败“獒龙蟒胖”才能打世界杯

新民周刊
2026-11-16 14:43:50
普京胃口越来越大,俄乌仗还没打完,又盯上亚洲一块“聚宝盆”

普京胃口越来越大,俄乌仗还没打完,又盯上亚洲一块“聚宝盆”

健身狂人
2026-11-16 16:31:25
高市早苗参会行程来了!四天跑两国,深圳只是参会,会开完就走

高市早苗参会行程来了!四天跑两国,深圳只是参会,会开完就走

123斯蒂芬
2026-11-16 07:07:34
阿里达摩院很可惜,当年砸1000亿,但如今13个科学家走了9个,很多项目已收缩

阿里达摩院很可惜,当年砸1000亿,但如今13个科学家走了9个,很多项目已收缩

互联网.乱侃秀
2026-11-16 13:19:29
全网群嘲的“妈妈有50w存款”事件,撕开了多少家庭最大的悲哀

全网群嘲的“妈妈有50w存款”事件,撕开了多少家庭最大的悲哀

凡知
2026-11-16 08:32:54
蔡英文任命的台军前“防长”冯世宽,公开与台独分子划清界限:

蔡英文任命的台军前“防长”冯世宽,公开与台独分子划清界限:

果妈聊娱乐
2026-11-16 11:34:10
巨亏百亿!小米汽车销量“赢麻了”,生意咋亏麻了?

巨亏百亿!小米汽车销量“赢麻了”,生意咋亏麻了?

大厂财经社
2026-11-16 11:14:16
伊隆·马斯克:香港生率长期位居全球最低之一,未来或将消失

伊隆·马斯克:香港生率长期位居全球最低之一,未来或将消失

风向观察
2026-11-16 16:26:29
为啥某多多的商品很便宜?网友:做电商的都知道,其实货都是一样的

为啥某多多的商品很便宜?网友:做电商的都知道,其实货都是一样的

带你感受人间冷暖
2026-11-16 10:34:09
特朗普:我即将访问中国,期待参加中俄美元首会晤

特朗普:我即将访问中国,期待参加中俄美元首会晤

极目新闻
2026-11-16 15:10:23
江苏常熟一女子刚怀孕一个月,嫉妒男友疼爱3岁女儿将孩子捂死,案件即将宣判

江苏常熟一女子刚怀孕一个月,嫉妒男友疼爱3岁女儿将孩子捂死,案件即将宣判

黄河新闻网吕梁
2026-11-16 15:00:42
“比亚迪工资再低,至少让102万人有活干有社保”,博主吹比亚迪102万就业,被网友一句话怼到哑火:底薪2300、加班堆出五千

“比亚迪工资再低,至少让102万人有活干有社保”,博主吹比亚迪102万就业,被网友一句话怼到哑火:底薪2300、加班堆出五千

秋风妃
2026-11-15 20:45:54
三次申请全碰壁!印度挤破头想进APEC,到底卡在哪了?

三次申请全碰壁!印度挤破头想进APEC,到底卡在哪了?

小马姨
2026-11-16 09:42:14
突发!英特尔陈立武被起诉!四大芯片公司华人CEO,要被逐个清算?

突发!英特尔陈立武被起诉!四大芯片公司华人CEO,要被逐个清算?

起点财经
2026-11-16 15:41:03
2026-11-16 18:39:00
IT之家
IT之家
爱科技,爱这里 - 前沿科技人气平台
379512文章数 607735关注度
往期回顾 全部

科技要闻

硅谷大佬组局,帮黄仁勋杀回来!

头条要闻

两架大型飞机停田野9年锈迹斑斑 机舱有床还有星空顶

头条要闻

两架大型飞机停田野9年锈迹斑斑 机舱有床还有星空顶

体育要闻

伪强队?拥4亿豪阵欧国联6连败+世界杯出局

娱乐要闻

李连杰回应抛妻弃女传闻,透露四个女儿关系

财经要闻

10万人逼宫英伟达,黄仁勋要复职了?

汽车要闻

小升级大体验 2027款岚图知音让家用更便捷

态度原创

健康
教育
亲子
本地
公开课

情绪真能让健康人"伤心至死"?

教育要闻

代数式难题,灵活转化,助力考生考场拿分

亲子要闻

为什么孩子冬天不容易长个儿?

本地新闻

乌兰察布:以前种土豆,现在种Token

公开课

李玫瑾:为什么性格比能力更重要?

无障碍浏览 进入关怀版