网易首页 > 网易号 > 正文 申请入驻

2025年,大模型LLM还有哪些可研究的方向?

0
分享至

近两年LLM在学术界与工业界的发展大家都有目共睹。到了今年,以预训练LLM为代表的大模型PK上半场已然结束,接下来就要进入下半场大模型2.0时代了。

那么在这新赛道,关于大模型我们还有什么可做的创新?要知道,如今的大模型研究已经从单纯的"规模竞赛"转向"效能突破"与"应用重构",研究者们致力于构建可持续进化的智能生态系统。因此,多模态大模型、智能体agent等这类围绕大模型技术演进核心矛盾的方向尤其值得关注。

为了帮助大家了解LLM技术进展,同时也给论文er做一些创新点推荐,这次我从输入、模型/范式、输出3个方面整理了203篇大模型前沿论文,包含热门的RAG、LLM推理等方向,基本都有开源代码方便复现,希望可以给各位的论文添砖加瓦。

扫码添加小享,回复“2025大模型

免费获取全部论文+源码

输入 TrustRAG: Enhancing Robustness and Trustworthiness in RAG

方法:论文提出了 TrustRAG,一个用于增强检索增强生成系统鲁棒性和可信度的框架,通过 K-means 聚类过滤潜在恶意文档,并结合语言模型的内部知识与外部信息进行冲突解决和自评估,生成准确可信的回答。

创新点:

  • 通过K-means聚类结合余弦相似度与ROUGE指标,高效识别过滤恶意文档,显著降低攻击成功率。

  • 融合语言模型内部知识与外部文档,通过自评估机制解决冲突,提升回答准确性与可信度。

  • 无需训练,可灵活集成至任意语言模型,多数据集验证其防御效果优越。

模型/范式 R1-VL: Learning to Reason with Multimodal Large Language Models via Step-wise Group Relative Policy Optimization

方法:论文提出了一种新的在线强化学习框架StepGRPO,通过引入逐步推理奖励机制,帮助多模态大模型提升推理能力。它利用软关键步骤匹配和逻辑评估为推理过程提供密集奖励,解决了传统方法中奖励稀疏的问题,从而让模型更好地理解和生成推理路径。

创新点:

  • 提出了一种新的在线强化学习框架StepGRPO,专门用于提升多模态大模型的推理能力。

  • 引入了两种基于规则的逐步推理奖励机制:StepRAR 和StepRVR,分别奖励包含关键中间步骤和逻辑一致的推理路径。

  • 通过组内相对优化和密集奖励信号,解决了传统方法中奖励稀疏的问题,显著提升了模型的推理性能。

扫码添加小享,回复“2025大模型

免费获取全部论文+源码

TDAG: A Multi-Agent Framework based on Dynamic Task Decomposition and Agent Generation

方法:论文提出了一种用于解决复杂现实任务的多智能体方法,通过动态地将复杂任务分解为更小的子任务,并为每个子任务生成专门的子智能体,从而提高智能体在多样化和不可预测现实任务中的适应性和上下文感知能力。

创新点:

  • 提出了基于动态任务分解和智能体生成的多智能体框架TDAG,动态分解任务并生成子智能体,提升复杂任务适应性。

  • 构建ItineraryBench基准,能够更准确地评估智能体在复杂多步骤任务中的表现。

  • 实验验证了TDAG框架在ItineraryBench上的有效性,显著优于现有基线方法。

输出 Distributed On-Device LLM Inference With Over-the-Air Computation

方法:论文提出了一种基于“空中计算”的分布式设备上大模型推理框架,通过利用无线多址信道的模拟叠加特性来加速张量并行化中的频繁全归约操作,从而显著降低推理延迟并提高准确性,使资源受限的边缘设备能够高效地进行大模型推理。

创新点:

  • 提出基于“空中计算”的分布式大模型推理框架,利用无线信道模拟叠加特性加速张量并行全归约,显著降低通信开销。

  • 针对传输误差,设计联合模型分配与收发器优化方法,建模为混合时间尺度随机非凸问题,结合SDR与SCA算法求解。

  • 仿真实验表明,该方法有效降低推理延迟、提升准确性,证实其在资源受限边缘设备上的实用可行性。

扫码添加小享,回复“2025大模型

免费获取全部论文+源码

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
陕北肃反多残酷?如果不是毛主席,根据地一些领导人早已不在人世

陕北肃反多残酷?如果不是毛主席,根据地一些领导人早已不在人世

斜杠历史
2024-01-14 18:04:52
狂暴牛市,大家都等着呢!

狂暴牛市,大家都等着呢!

路财主
2026-01-09 15:55:23
千万别让“亚洲电诈王”陈志背后的保护伞们,跑了!

千万别让“亚洲电诈王”陈志背后的保护伞们,跑了!

兵叔评说
2025-10-26 14:43:13
101岁余宝珠:相貌普通击败正房,独占百亿资产,抽烟喝酒霸气足

101岁余宝珠:相貌普通击败正房,独占百亿资产,抽烟喝酒霸气足

照见古今
2026-01-09 19:08:21
好戏开场了,欧洲多国倒戈,联手对美国说不,特朗普美梦破碎

好戏开场了,欧洲多国倒戈,联手对美国说不,特朗普美梦破碎

温读史
2026-01-09 19:19:25
U19国足集训名单:山东泰山6人入选,混血球员艾楚维在列

U19国足集训名单:山东泰山6人入选,混血球员艾楚维在列

懂球帝
2026-01-09 18:09:21
1986年陈永贵病逝,追悼会规格成难题,邓小平只说了一句话,全场安静

1986年陈永贵病逝,追悼会规格成难题,邓小平只说了一句话,全场安静

寄史言志
2026-01-04 16:34:31
主持人李静自曝绝经过程,很快失去性魅力,连男人也没兴趣了

主持人李静自曝绝经过程,很快失去性魅力,连男人也没兴趣了

阿器谈史
2025-12-30 17:26:47
日均400万票的生意官宣终止了!超1931亿顺丰大撤退?接盘侠赢了

日均400万票的生意官宣终止了!超1931亿顺丰大撤退?接盘侠赢了

财经八卦
2026-01-08 22:09:41
上甘岭战役,美军为什么不像对付日军那样,用喷火器向坑道里狂喷

上甘岭战役,美军为什么不像对付日军那样,用喷火器向坑道里狂喷

顾史
2026-01-09 19:06:11
“消失”的王小海,揭穿玖月奇迹的尴尬处境,印证了凤凰传奇的话

“消失”的王小海,揭穿玖月奇迹的尴尬处境,印证了凤凰传奇的话

丰谭笔录
2025-12-24 00:06:58
2025年业绩高增长股提前看,18股净利润增幅翻倍

2025年业绩高增长股提前看,18股净利润增幅翻倍

证券时报
2026-01-09 09:51:03
美媒曝:特朗普政府正在研究格陵兰岛收购价格

美媒曝:特朗普政府正在研究格陵兰岛收购价格

参考消息
2026-01-09 14:39:27
“手头紧,裤头就绑紧点”,一场寒酸的生日宴,让家长被网友喷惨

“手头紧,裤头就绑紧点”,一场寒酸的生日宴,让家长被网友喷惨

妍妍教育日记
2026-01-08 18:20:41
去年每平方千米伤亡78人!击中俄战略弹药库,两个乌军士兵的故事

去年每平方千米伤亡78人!击中俄战略弹药库,两个乌军士兵的故事

鹰眼Defence
2026-01-07 17:08:07
突发!欧文报销+浓眉又受伤,三状元计划泡汤,独行侠一地鸡毛啊

突发!欧文报销+浓眉又受伤,三状元计划泡汤,独行侠一地鸡毛啊

球童无忌
2026-01-09 13:50:46
2-1大逆转!0-0惊魂!U23亚洲杯首轮大结局:4个小组完全排名如下

2-1大逆转!0-0惊魂!U23亚洲杯首轮大结局:4个小组完全排名如下

大秦壁虎白话体育
2026-01-09 01:05:46
西部排名又变了:森林狼高歌猛进,湖人掉到第五,2队排名互换

西部排名又变了:森林狼高歌猛进,湖人掉到第五,2队排名互换

篮球大视野
2026-01-09 13:12:22
日方召见中国大使抗议,吴江浩大使当场驳回:中方意志不会改变

日方召见中国大使抗议,吴江浩大使当场驳回:中方意志不会改变

博览历史
2026-01-09 17:58:48
5年2.03亿!球队老大变替补!连续238场首发纪录终结

5年2.03亿!球队老大变替补!连续238场首发纪录终结

篮球教学论坛
2026-01-09 19:06:31
2026-01-09 20:48:49
机器学习与Python社区 incentive-icons
机器学习与Python社区
机器学习算法与Python
3241文章数 11081关注度
往期回顾 全部

科技要闻

市场偏爱MiniMax:开盘涨42%,市值超700亿

头条要闻

女子"出轨"已婚985高校博士后 看到其聊天记录吓傻了

头条要闻

女子"出轨"已婚985高校博士后 看到其聊天记录吓傻了

体育要闻

金元时代最后的外援,来中国8年了

娱乐要闻

关晓彤鹿晗风波后露面 不受影响状态佳

财经要闻

投资必看!瑞银李萌给出3大核心配置建议

汽车要闻

助跑三年的奇瑞 接下来是加速还是起跳?

态度原创

房产
家居
亲子
教育
军事航空

房产要闻

66万方!4755套!三亚巨量房源正疯狂砸出!

家居要闻

木色留白 演绎现代自由

亲子要闻

已召回71个批次的婴儿配方奶粉,速查家里的奶粉,教你正确选

教育要闻

直播预告!中小学英语数字化教学与实践成果展评 | AI+教师发展公益行·惠州站

军事要闻

特朗普:已开始从委石油资源中赚钱

无障碍浏览 进入关怀版