网易首页 > 网易号 > 正文 申请入驻

2025年,大模型LLM还有哪些可研究的方向?

0
分享至

近两年LLM在学术界与工业界的发展大家都有目共睹。到了今年,以预训练LLM为代表的大模型PK上半场已然结束,接下来就要进入下半场大模型2.0时代了。

那么在这新赛道,关于大模型我们还有什么可做的创新?要知道,如今的大模型研究已经从单纯的"规模竞赛"转向"效能突破"与"应用重构",研究者们致力于构建可持续进化的智能生态系统。因此,多模态大模型、智能体agent等这类围绕大模型技术演进核心矛盾的方向尤其值得关注。

为了帮助大家了解LLM技术进展,同时也给论文er做一些创新点推荐,这次我从输入、模型/范式、输出3个方面整理了203篇大模型前沿论文,包含热门的RAG、LLM推理等方向,基本都有开源代码方便复现,希望可以给各位的论文添砖加瓦。

扫码添加小享,回复“2025大模型

免费获取全部论文+源码

输入 TrustRAG: Enhancing Robustness and Trustworthiness in RAG

方法:论文提出了 TrustRAG,一个用于增强检索增强生成系统鲁棒性和可信度的框架,通过 K-means 聚类过滤潜在恶意文档,并结合语言模型的内部知识与外部信息进行冲突解决和自评估,生成准确可信的回答。

创新点:

  • 通过K-means聚类结合余弦相似度与ROUGE指标,高效识别过滤恶意文档,显著降低攻击成功率。

  • 融合语言模型内部知识与外部文档,通过自评估机制解决冲突,提升回答准确性与可信度。

  • 无需训练,可灵活集成至任意语言模型,多数据集验证其防御效果优越。

模型/范式 R1-VL: Learning to Reason with Multimodal Large Language Models via Step-wise Group Relative Policy Optimization

方法:论文提出了一种新的在线强化学习框架StepGRPO,通过引入逐步推理奖励机制,帮助多模态大模型提升推理能力。它利用软关键步骤匹配和逻辑评估为推理过程提供密集奖励,解决了传统方法中奖励稀疏的问题,从而让模型更好地理解和生成推理路径。

创新点:

  • 提出了一种新的在线强化学习框架StepGRPO,专门用于提升多模态大模型的推理能力。

  • 引入了两种基于规则的逐步推理奖励机制:StepRAR 和StepRVR,分别奖励包含关键中间步骤和逻辑一致的推理路径。

  • 通过组内相对优化和密集奖励信号,解决了传统方法中奖励稀疏的问题,显著提升了模型的推理性能。

扫码添加小享,回复“2025大模型

免费获取全部论文+源码

TDAG: A Multi-Agent Framework based on Dynamic Task Decomposition and Agent Generation

方法:论文提出了一种用于解决复杂现实任务的多智能体方法,通过动态地将复杂任务分解为更小的子任务,并为每个子任务生成专门的子智能体,从而提高智能体在多样化和不可预测现实任务中的适应性和上下文感知能力。

创新点:

  • 提出了基于动态任务分解和智能体生成的多智能体框架TDAG,动态分解任务并生成子智能体,提升复杂任务适应性。

  • 构建ItineraryBench基准,能够更准确地评估智能体在复杂多步骤任务中的表现。

  • 实验验证了TDAG框架在ItineraryBench上的有效性,显著优于现有基线方法。

输出 Distributed On-Device LLM Inference With Over-the-Air Computation

方法:论文提出了一种基于“空中计算”的分布式设备上大模型推理框架,通过利用无线多址信道的模拟叠加特性来加速张量并行化中的频繁全归约操作,从而显著降低推理延迟并提高准确性,使资源受限的边缘设备能够高效地进行大模型推理。

创新点:

  • 提出基于“空中计算”的分布式大模型推理框架,利用无线信道模拟叠加特性加速张量并行全归约,显著降低通信开销。

  • 针对传输误差,设计联合模型分配与收发器优化方法,建模为混合时间尺度随机非凸问题,结合SDR与SCA算法求解。

  • 仿真实验表明,该方法有效降低推理延迟、提升准确性,证实其在资源受限边缘设备上的实用可行性。

扫码添加小享,回复“2025大模型

免费获取全部论文+源码

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
哲凯说场地太干?墨菲:就算是真的,他们也没送出多少长传球

哲凯说场地太干?墨菲:就算是真的,他们也没送出多少长传球

懂球帝
2026-04-12 21:01:25
特朗普已做好开战准备?王毅曾警告:中美一旦冲突,结局只有1个

特朗普已做好开战准备?王毅曾警告:中美一旦冲突,结局只有1个

史行途
2026-04-12 12:15:00
后母与17岁继子偷尝禁果!相当有 c 度!

后母与17岁继子偷尝禁果!相当有 c 度!

电影分享会
2026-03-21 11:14:18
开国上将闹离婚:结发40年竟遭发妻死命举报,六名子女为何如释重负

开国上将闹离婚:结发40年竟遭发妻死命举报,六名子女为何如释重负

睡前讲故事
2026-04-07 14:43:34
万万没有想到,赖清德的父亲赖永都,非但不是日本鬼子他是中国人

万万没有想到,赖清德的父亲赖永都,非但不是日本鬼子他是中国人

史行途
2026-03-30 08:13:47
72岁王健林健康引担忧,眼神痴呆嘴歪到认不出,疑患癌后消耗暴瘦

72岁王健林健康引担忧,眼神痴呆嘴歪到认不出,疑患癌后消耗暴瘦

往史过眼云烟
2026-03-15 17:12:00
晚年被三个子女轮流养老才发现:人老了,存款和退休金有多么重要

晚年被三个子女轮流养老才发现:人老了,存款和退休金有多么重要

热心柚子姐姐
2026-04-11 20:28:11
11年前优衣库男女主现状曝光,他们还在一起生了两个孩子

11年前优衣库男女主现状曝光,他们还在一起生了两个孩子

半糖甜而不腻
2026-04-06 12:09:15
何洁自曝养家艰难,40岁断崖式衰老?明明一手好牌,为何被打烂

何洁自曝养家艰难,40岁断崖式衰老?明明一手好牌,为何被打烂

扒点半吃瓜
2026-03-10 07:00:13
财务造假,退市!300391明日将摘牌

财务造假,退市!300391明日将摘牌

新浪财经
2026-04-12 19:07:51
对中国的制裁来了!意大利政府这次是打算明抢了!

对中国的制裁来了!意大利政府这次是打算明抢了!

达文西看世界
2026-04-12 13:49:52
陈云晚年首次披露:遵义会议上这两个人死活不同意毛主席,吵得面红耳赤

陈云晚年首次披露:遵义会议上这两个人死活不同意毛主席,吵得面红耳赤

老杉说历史
2026-03-21 17:38:44
知名时政记者爆料王石被抓,本人回应了

知名时政记者爆料王石被抓,本人回应了

财通社
2026-04-12 19:53:51
难以置信!张雪峰离世后,峰学蔚来员工从10点变为七八点主动到岗

难以置信!张雪峰离世后,峰学蔚来员工从10点变为七八点主动到岗

火山詩话
2026-04-11 19:37:49
巴基斯坦怒了:巴基斯坦不是卡塔尔,动我们的人,打到你服!

巴基斯坦怒了:巴基斯坦不是卡塔尔,动我们的人,打到你服!

人生录
2026-04-08 00:37:17
风向都变了!以美国为首的多国认为:中国已在换电等关键领域崛起

风向都变了!以美国为首的多国认为:中国已在换电等关键领域崛起

潮鹿逐梦
2026-04-11 11:22:49
湖人vs爵士前瞻:爵士8人缺阵,湖人是否有意西部第3成关键

湖人vs爵士前瞻:爵士8人缺阵,湖人是否有意西部第3成关键

体坛野秀才
2026-04-12 16:39:12
涉嫌严重违纪违法,王世林被查

涉嫌严重违纪违法,王世林被查

吉刻新闻
2026-04-12 13:03:49
续航100公里仅跑30公里 充电31秒电量猛涨10% 东莞网约车司机:深蓝SL03虚到不敢接单

续航100公里仅跑30公里 充电31秒电量猛涨10% 东莞网约车司机:深蓝SL03虚到不敢接单

信网
2026-04-11 17:05:04
毛主席从不批评刘伯承和徐向前,一个是不忍批评,另一个无需批评

毛主席从不批评刘伯承和徐向前,一个是不忍批评,另一个无需批评

鹤羽说个事
2026-04-08 22:21:11
2026-04-12 21:23:00
Ai学习的老章 incentive-icons
Ai学习的老章
Ai学习的老章
3315文章数 11129关注度
往期回顾 全部

科技要闻

理想称遭恶意拉踩,东风日产:尊重同行

头条要闻

上海阿婆被"干儿子"分80次转走95万气瘫 毕生积蓄没了

头条要闻

上海阿婆被"干儿子"分80次转走95万气瘫 毕生积蓄没了

体育要闻

创造历史!五大联赛首位女性主教练诞生

娱乐要闻

赌王女儿何超蕸病逝,常年和乳癌斗争

财经要闻

美伊谈判破裂的三大症结

汽车要闻

焕新极氪007/007GT上市 限时19.39万起

态度原创

房产
旅游
数码
教育
公开课

房产要闻

土地供应突然暴跌!2026海口楼市,格局大变!

旅游要闻

秀美风光汇成“海”,北京密云发布城市新名片

数码要闻

破壁机哪个牌子好?安全无毒材质是重点,揭秘TOP10家用哪种好

教育要闻

难哭学霸的思维题,家长都不会做

公开课

李玫瑾:为什么性格比能力更重要?

无障碍浏览 进入关怀版