网易首页 > 网易号 > 正文 申请入驻

ICML 2026 现场|九篇 Spotlight 论文,透视 AI 最前沿

0
分享至


看不见的地方,藏着最关键的突破。

作者丨陈淑瑜

编辑丨岑峰

7月7日,机器学习领域最具影响力的顶级学术会议ICML 2026进入正会第一天。本次大会共接收6352篇论文,其中Spotlight论文536篇(占投稿总数的 2.2%),Oral 论文168篇 (仅占投稿总数的 0.7 %)。今年的论文再次汇聚了从生成模型到隐私保护、从智能体评估到模型压缩、从脉冲神经网络到视觉分词器的多元前沿探索,在投稿量较去年翻倍、评审标准经历深刻“重新校准”的背景下,这些脱颖而出的论文无疑是本届会议最值得关注的学术精华。

雷峰网已派出报道小组赴首尔COEX会展中心参会。在会议现场,我们从Poster展区的数千张学术海报中精选出最具代表性的研究成果,以“一张图 + 一段解读”的方式呈现给未能亲临现场的读者。

这份汇总不仅是一次视觉巡礼,更试图为你勾勒出本届ICML的学术重心——从大模型可解释性到AI for Science,从具身智能到理论硬度的回归,我们希望这些现场捕捉的瞬间,能帮助你快速感知机器学习前沿正在发生什么。

以下精选Poster Session 1九篇Spotlight论文,一文看尽AI研究最值得关注的方向。(如果你也想让你的研究成果出现在这里,请与我们联系):

01


随机微分方程打通不规则时间序列的生成之路

Generative Modeling of Irregular Time Series via SDE-Induced Continuous-Discrete Variational Inference

现实世界的时间数据远比理想中"均匀采样"的假设更复杂,比如医疗监护的生理信号、气候传感器的环境读数、物联网设备的监测日志,观测间隔不规则、数据点时有缺失,传统生成模型对此束手无策。

这篇论文直面这一难题,提出SDEVI框架,将连续时间的随机微分方程(SDE)与离散时间的观测分布统一到同一变分推理框架之下。

SDEVI的核心思路是用线性时变SDE诱导的变分后验作为推理骨干,直接对离散观测的联合分布建模,而非依赖对连续轨迹的近似插值。在此基础上,作者进一步引入非线性SDE诱导的变分推理,并将其推广至复数域,显著增强了模型的表达能力。

在医疗、物理、气候、物联网等多个不规则时间序列基准上,SDEVI均达到当前最优水平。这项工作在SDE理论离散观测建模之间建立了扎实桥梁,为不规则数据的生成与分析开辟了新路径。


论文链接:https://openreview.net/forum?id=IXdjkxDXI0

02


智能体到底学到了什么——语义理解还是接口捷径?

What Do Agents Learn from Trajectory-SFT: Semantics or Interfaces?

Trajectory-SFT(轨迹监督微调)是当前训练LLM智能体的主流范式,但一个根本性问题始终悬而未决:经过轨迹微调的智能体,究竟是在理解工具的语义功能,还是仅仅记住了特定接口的操作模式?这篇论文给出了令人警醒的答案——两者被严重混淆了。

作者提出PIPE(Protocol-Level Evaluation)增强方法和IR(Interface Robustness)度量指标,从协议层面解耦语义使用与接口交互的评估。实验揭示了一个关键现象:Trajectory-SFT显著放大了智能体对接口捷径行为的依赖,且这种依赖呈现出非单调的训练动态——训练越久,语义理解未必越深,接口记忆反而可能越牢。

这项贡献的意义不止于发现问题。PIPE和IR为智能体评估提供了原则性框架,迫使研究者正视一个事实:当前基准测试可能高估了智能体的真实能力,未来需要在语义理解与接口适应性之间划出清晰的界限。


论文链接:https://arxiv.org/abs/2602.01611

03


多智能体提示优化:从指数爆炸到线性搜索

MASpoB: Bandit-Based Prompt Optimization for Multi-Agent Systems with Graph Neural Networks

多智能体系统(MAS)的提示优化面临一个看似不可逾越的障碍:每增加一个智能体,提示组合的搜索空间就指数级膨胀,传统优化方法几乎无力应对。MASpoB从三个维度协同攻克这一难题。

首先,作者引入基于UCB的Bandit框架,将每个智能体的提示视为一个"臂",以探索-利用的平衡策略高效筛选候选提示。其次,通过图神经网络(GNN)集成捕获智能体拓扑结构诱导的提示耦合关系——不同智能体的提示并非独立生效,而是在协作拓扑中相互影响。最后,坐标上升分解将联合搜索拆解为逐智能体迭代优化,将搜索复杂度从指数级降至线性级。

三者合力,MASpoB在多个多智能体基准上实现了当前最优性能。这项工作证明:即使搜索空间看似爆炸性增长,结构化的优化策略仍能让提示优化变得切实可行。


论文链接:https://arxiv.org/abs/2603.02630

04


把70B模型塞进24GB显卡——连续位宽量化的维度提升之道

LiftQuant: Continuous Bit-Width LLM via Dimensional Lifting and Projection

大模型量化压缩一直是工程落地的关键瓶颈,但现有方法大多只能在预设的整数比特(如4-bit、8-bit)之间跳跃,无法灵活适配不同硬件的内存约束。LiftQuant提出了一种"升维再投影"的精巧机制,让量化位宽变成可连续调节的参数。

具体而言,LiftQuant先将权重映射到更高维空间进行"维度提升",在高维空间中实现细粒度的量化控制,再通过"投影"将结果映射回原空间,完成准连续比特宽度的适配。这一机制使得70B参数模型可以精准压缩至2.4-bit,直接适配24GB GPU的显存限制,这对实际部署而言意义巨大。

更值得注意的是,LiftQuant在追求灵活位宽的同时保留了硬件友好的解码路径:最终推理仍可通过线性变换加1-bit量化器完成,没有引入复杂的非线性运算。在精度与效率之间,这项工作找到了一个优雅的平衡点。


论文链接:https://arxiv.org/abs/2606.04050

05


表格数据的新范式——行级注意力让基础模型更轻更快

TabSwift: An Efficient Tabular Foundation Model with Row-Wise Attention

表格数据是工业界最常见也最被低估的数据形态。现有表格基础模型如TabPFN v2和TabICL虽表现不俗,推理开销却随数据规模急剧增长。TabSwift从架构设计层面重新审视这一问题,提出了一套轻量且高效的新方案。

TabSwift的核心是行级注意力机制。不再对整表做全局注意力,而是以行为单位组织注意力计算,大幅降低计算复杂度。配合门控稳定机制和可学习的注册令牌(registration tokens),模型在保持表达力的同时获得了更强的训练稳定性和信息聚合能力。更巧妙的是,TabSwift引入了自适应逐层早退机制:简单样本在浅层即可输出结果,复杂样本才走完全部层,推理效率因此显著提升。

在分类与回归双任务上,TabSwift与TabPFN v2和TabICL竞争力相当,推理效率却大幅领先。行级注意力+早退机制的组合,为表格基础模型的规模化应用铺平了道路。


论文链接:https://arxiv.org/abs/2606.07345

06


插入而非追加——变分学习让变长生成更自然

Variational Learning for Insertion-based Generation

传统自回归生成模型从左到右逐词追加,逻辑清晰却天然排斥了"中间插入"这种更符合人类思维习惯的生成方式。这篇论文另辟蹊径,从插入操作出发构建了一套完整的变分学习生成框架。

作者首先建立了插入轨迹与排列之间的双射对应关系,将看似无序的插入过程映射到结构化的排列空间,为变分推断提供了理论基础。在此基础上提出的IP(Insertion Process)模型,联合学习了三个核心决策:在哪里插入、插入什么内容、何时终止生成——三者协同,使模型原生支持变长序列生成,无需借助外部长度预测模块。

在目标条件规划和分子字符串生成两类任务上,IP模型均展现出更优的建模质量和泛化能力。这项工作为变长生成提供了一个理论扎实、实现简洁的新范式:生成也可以像编辑一样灵活。


论文链接:https://arxiv.org/abs/2606.02133

07


差分隐私训练的自适应裁剪:零额外隐私代价的秘密

SlaClip: Gradient Norm Slacks can be Indicator for Adaptive Clipping in DP-SGD

差分隐私随机梯度下降(DP-SGD)是隐私保护训练的标准方法,但其裁剪阈值的选择直接影响模型精度与隐私保证的平衡。阈值过大则噪声不足,阈值过小则信号丢失。现有自适应裁剪方案往往引入额外的隐私代价,让问题变得更加棘手。

SlaClip发现了一个被长期忽视的信号:标准裁剪操作本身产生的"松弛量"(slack),即被裁剪梯度与裁剪阈值之间的差值——恰好可以作为自适应裁剪的自然指示器。当松弛量普遍偏大,说明裁剪阈值偏低,需要上调;反之则需下调。SlaClip-DP-SGD与原始DP-SGD实例化相同的高斯机制,隐私代价完全等效,无需额外隐私预算。

仅需极少超参数调优,SlaClip即可在多种任务上提升模型精度。这项工作的贡献不止于方法本身,更在于揭示了一个朴素却深刻的洞察:裁剪操作的副产品本身就是最好的裁剪指南。


论文链接:https://openreview.net/forum?id=48suUeYKdb

08


端到端联合训练——图像生成告别"两阶段"旧范式

End-to-End Autoregressive Image Generation with 1D Semantic Tokenizer

自回归图像生成长期遵循一个"先分词、再生成"的两阶段范式:先训练视觉分词器将图像压缩为离散token,再在token序列上训练自回归模型。这两步各自优化、互不干涉,分词器只为重建质量服务,却未必适合下游生成任务,因为生成阶段的损失信号无法反传回分词器,导致其学到的表示对自回归建模可能并不理想。

这篇论文打破了这一传统,设计了端到端的联合训练流程,让图像重建和自回归生成在同一框架下协同优化。生成结果可以直接对分词器施加监督信号,梯度从生成端一路回传至编码端,使分词器被迫学习更适合生成而非仅适合重建的表示。此外,作者还引入视觉基础模型来增强1D分词器的语义表达能力,让压缩后的token不仅保留视觉信息,更蕴含丰富的语义层级。

在ImageNet 256×256无条件生成任务上,该模型以FID 1.48的成绩创下无引导条件下的当前最优纪录。这项工作证明:当分词器与生成模型不再各自为政,而是联手进化,图像生成的天花板可以被再次推高。


论文链接:https://arxiv.org/abs/2605.00503

09


脉冲神经网络也能理解3D开放世界——SVL让能效与能力不再对立

SVL: Empowering Spiking Neural Networks for Efficient 3D Open-World Understanding

脉冲神经网络(SNN)因稀疏事件驱动的计算范式拥有惊人的能效优势——一块Speck芯片功耗仅0.7mW——但与人工神经网络(ANN)相比,SNN长期困于性能差距和泛化不足,更缺乏多模态理解能力。零样本3D分类、开放世界问答这些ANN已经习以为常的任务,对SNN而言几乎是禁区。SVL的目标就是打破这道壁垒。

SVL框架包含两大核心组件:多尺度三元对齐(MTA)通过无标签的三元组对比学习,对齐3D点云、图像和文本三种模态,让SNN在预训练阶段就获得跨模态语义一致性;可重参数化的视觉-语言集成(Rep-VLI)则将离线文本嵌入转化为轻量级分类权重,推理时完全丢弃文本编码器——这意味着部署时不再需要庞大的语言模型,大幅降低了推理开销。此外,论文还提出了首个全脉冲驱动的点云Transformer——Spike driven PointFormer,其3D-SDSA机制将注意力交互简化为稀疏加法运算,保持了端到端的脉冲计算范式。

实验结果令人瞩目:零样本3D分类达到85.4%的Top-1准确率,在3D分类、DVS动作识别、检测、分割等下游任务上分别提升6.1%、2.1%、1.1%和2.1%,甚至首次实现了基于SNN的3D开放世界问答。在某些场景下,SVL以204倍的能效优势实现了与ANN可比的性能。这项工作标志着脉冲系统从"节能但无能"走向"节能且能干"的关键转折。


论文链接:https://openreview.net/forum?id=JYke7CIuIa

这九篇Spotlight论文横跨生成模型、智能体系统、模型压缩、隐私保护、表格学习、神经形态计算等多个维度,共同勾勒出ICML 2026最前沿的研究图景。每一篇都在各自的领域提出了独到的洞察与方法,而这些洞察之间暗藏的共鸣与张力,或许正是下一轮突破的起点。

如果你想推荐ICML上的其他论文,欢迎联系我们进一步交流探讨 。

一个人读论文太孤单,一群人刷顶会才好玩。

ICML 2026召开在即,我们正在召集一波含金量极高的 AI 研究者。群内主打实时论文跟踪与硬核技术探讨,拒绝灌水。

进群传送门:扫码进群或添加微信Vin_Vivid,备注:论文群 + 关注的 AI 方向。


搞科研/搞技术,信息差很重要。

来,一起快人一步!

上车,带你看遍全球 AI 顶会精华

可独家畅览:

专家演讲PPT

大会报告全文

热门论文解读

学术新星访谈


未经「AI科技评论」授权,严禁以任何方式在网页、论坛、社区进行转载!

公众号转载请先在「AI科技评论」后台留言取得授权,转载时需标注来源并插入本公众号名片。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
特朗普从中国返美途中发文:这是一次伟大且意义深远的访问

特朗普从中国返美途中发文:这是一次伟大且意义深远的访问

极目新闻
2026-11-20 09:35:13
“我不反华了”润去美国的前律师周君红,发文希望回国,但不能坐牢

“我不反华了”润去美国的前律师周君红,发文希望回国,但不能坐牢

消失的电波
2026-11-17 19:36:00
“去父留子”悄然流行:毫无所知的爸,身兼数职的妈,娃还好吗?

“去父留子”悄然流行:毫无所知的爸,身兼数职的妈,娃还好吗?

菁妈育儿
2026-11-19 15:14:56
德国网友嘲讽中国街头“人种单一”不够开放,中国网友一句神回复,直接让他哑口无言

德国网友嘲讽中国街头“人种单一”不够开放,中国网友一句神回复,直接让他哑口无言

雪饼说
2026-10-30 09:29:22
奇迹之城!美媒惊呼:深圳的摩天大楼比纽约还多!

奇迹之城!美媒惊呼:深圳的摩天大楼比纽约还多!

52赫兹实验室
2026-11-20 14:35:51
黑龙江畜生公公周永福被判死刑,法庭上嚣张大笑:这辈子值了

黑龙江畜生公公周永福被判死刑,法庭上嚣张大笑:这辈子值了

纸鸢奇谭
2025-02-06 14:31:24
不出意外,2027年1月1日开始,或将迎来5大涨价潮,应提前了解

不出意外,2027年1月1日开始,或将迎来5大涨价潮,应提前了解

壹切的壹切
2026-11-19 04:56:44
2011年,人大女生苏紫紫全身赤裸,让记者坐到对面,问了一句“你敢看我吗”

2011年,人大女生苏紫紫全身赤裸,让记者坐到对面,问了一句“你敢看我吗”

人生录
2026-10-08 17:22:31
黄仁勋出轨最讽刺的是:他一边出轨,一边还在讲和妻子的爱情童话

黄仁勋出轨最讽刺的是:他一边出轨,一边还在讲和妻子的爱情童话

慕姑娘的读行生活
2026-11-18 13:45:19
上港刚在足协杯半决赛击败国安进决赛!就又收到一个好消息,值得期待

上港刚在足协杯半决赛击败国安进决赛!就又收到一个好消息,值得期待

振刚说足球
2026-11-21 10:35:48
何涛(女)出任西南医科大学党委书记

何涛(女)出任西南医科大学党委书记

高教网
2026-11-21 09:30:03
脑梗住院的人飙升!医生含泪苦劝:无论多大年纪,天冷坚守5原则

脑梗住院的人飙升!医生含泪苦劝:无论多大年纪,天冷坚守5原则

路医生健康科普
2026-11-11 23:20:03
薄一波的两位亲家究竟是谁?一位是参加过上甘岭战役的开国少将谷景生,另一位是曾任副国级的李雪峰,细说这两门亲家各自的传奇经历

薄一波的两位亲家究竟是谁?一位是参加过上甘岭战役的开国少将谷景生,另一位是曾任副国级的李雪峰,细说这两门亲家各自的传奇经历

人生录
2026-11-07 06:48:00
出线生死战!U17国足下轮死磕摩洛哥 对手:我们要夺得世界杯冠军

出线生死战!U17国足下轮死磕摩洛哥 对手:我们要夺得世界杯冠军

念洲
2026-11-21 13:11:51
1988年,他喝醉了,把家里23岁的小保姆错认成自己的妻子。保姆没作声,第二天,保姆表示自己什么也不要。

1988年,他喝醉了,把家里23岁的小保姆错认成自己的妻子。保姆没作声,第二天,保姆表示自己什么也不要。

回京历史梦
2026-11-19 09:21:15
腰细屁股大的人偷着乐吧!这个被嫌弃“缺点”,竟是长寿体质

腰细屁股大的人偷着乐吧!这个被嫌弃“缺点”,竟是长寿体质

皓皓情感说
2026-10-27 08:42:28
金价大局已定?如是不出意外,2027年起黄金价格可能迎来3大变化

金价大局已定?如是不出意外,2027年起黄金价格可能迎来3大变化

智脑的趋势
2026-11-21 04:50:07
“在北京三里屯被Lululemon门店员工尾随一个小时后,被要求翻包”,女子发帖质疑称太可怕;Lululemon致歉:涉事员工被终止服务

“在北京三里屯被Lululemon门店员工尾随一个小时后,被要求翻包”,女子发帖质疑称太可怕;Lululemon致歉:涉事员工被终止服务

南方都市报
2026-11-20 07:54:09
和中国有不共戴天之仇的日本,为何也有100多万华人人口

和中国有不共戴天之仇的日本,为何也有100多万华人人口

小莜读史
2026-11-21 12:45:17
停工烂尾11年后,惠州T-STAR时尚假日广场被拍卖

停工烂尾11年后,惠州T-STAR时尚假日广场被拍卖

南方都市报
2026-11-21 11:39:09
2026-11-21 15:11:00
AI科技评论 incentive-icons
AI科技评论
点评学术,服务AI
7836文章数 20798关注度
往期回顾 全部

科技要闻

Anthropic收涨17.1%,市值一度破2万亿美元

头条要闻

污蔑"整个华侨群体都是中国间谍" 法国媒体道歉

头条要闻

污蔑"整个华侨群体都是中国间谍" 法国媒体道歉

体育要闻

伦德伯格撞墙的力度真不轻

娱乐要闻

虞书欣擦边自拍、霸凌同事、媒体点名?

财经要闻

走过三年牛市,黄金何去何从?

汽车要闻

35万级MPV的满配答案 享界V8正式上市售31.98万起

态度原创

本地
亲子
手机
教育
公开课

本地新闻

43年起落记忆倒计时,去厦门高崎领绝版登机牌!

亲子要闻

孩子4根手指完全连在一起,限制了生长要尽早分开

手机要闻

对标iPhone Duo!摩托罗拉首款阔折叠Razr Flex 2027渲染图出炉

教育要闻

夯爆了!京南首个民办校“钱学森班”亮相,凭啥落地这所学校?

公开课

李玫瑾:为什么性格比能力更重要?

无障碍浏览 进入关怀版