网易首页 > 网易号 > 正文 申请入驻

无线合成数据助力破解物理感知大模型瓶颈,SynCheck获最佳论文奖

0
分享至

在万物互联的智能时代,具身智能和空间智能需要的不仅是视觉和语言,还需要突破传统感官限制的能力;无线感知正成为突破这些物理限制的关键技术:通过捕捉无线信号的反射特性,它让不可见的目标变得可感知,使机器能够 "看见" 墙壁后的动静、"感知" 数米外的动作,甚至捕捉到人类难以察觉的微妙变化。这种全新的感知维度,能对环境中人机行为实现无感监测与精准解析,正在重塑人机交互的边界。

从感知到决策,离不开具有强大语义理解能力的大模型。但怎样构建一个除了视觉和语言之外,能够理解物理原理(电磁场、光学、声学等)、与物理世界交互的大模型?

这一问题并不能复制语言、视觉大模型的经验,因为大模型可以从人类几千年的文字资料中学习语言,可以从整个互联网的视频学习视觉;但除此以外,能提供给模型学习的数据微乎其微;仅依赖真实世界的数据采集,难以支持大模型所需的海量数据。

为解决数据稀缺这一最大挑战,北京大学的许辰人教授团队和匹兹堡大学的高伟教授联合提出SynCheck,为机器学习提供与真实数据质量相近的合成数据。相关工作发表在移动计算领域旗舰会议 MobiSys 2025 上,并获得会议的最佳论文奖。

  • 论文标题:Data Can Speak for Itself: Quality-guided Utilization of Wireless Synthetic Data
  • 论文链接:https://arxiv.org/abs/2506.23174
  • 代码链接:https://github.com/MobiSys25AE/SynCheck

1. 生成模型评估:数据导向的效率优化

在无线感知领域,生成模型已被广泛用于产生合成数据以补充真实数据集。然而,现有研究大多只关注数据量的扩充,而忽视了合成数据的质量问题。为解决这一问题,研究团队提出了两个创新性质量指标:

  • 亲和力(affinity):衡量合成数据与真实数据的相似度
  • 多样性(diversity):评估合成数据覆盖真实数据分布的范围

图:两类质量指标的解释

与以往依赖视觉启发或局限于特定数据集的质量评估方法不同,这项研究通过贝叶斯分析和性能指标建立了具有理论支撑的通用评估框架。研究还引入 "边际"(margin) 概念作为性能指标,利用训练集的边际分布作为自然参考标准,实现了跨数据集的公平比较。

图:基于 margin 的质量评估方法

研究团队通过系统评估发现,现有无线合成数据普遍存在 “亲和力不足” 的问题,这会导致数据标签错误,进而降低任务性能。

2. 合成数据应用:质量优先的性能突破

基于质量评估结果,团队开发了 SynCheck 框架,其核心创新在于:

1. 将合成数据视为未标记数据,真实数据作为标记数据

2. 采用半监督学习框架结合两种数据源,在迭代训练过程中过滤低亲和力合成样本,为剩余样本分配伪标签

这种方法不需要修改生成模型的训练或推理过程,可以作为通用后处理步骤适配各种生成流程。

图:基于半监督学习的合成数据通用后处理使用方法

实验结果显示,SynCheck 在性能上实现了显著提升:

1. 在质量无关方法导致性能下降 13.4% 的最坏情况下,仍能实现 4.3% 的性能提升

2. 最佳情况下性能提升达 12.9%

3. 过滤后的合成数据展现出更好的亲和力,同时保持了与原始数据相当的多样性

图:合成数据的不同使用方法的性能对比

在逐步提升合成数据占比的过程中,由于合成数据与真实数据存在分布差异,其他基线方法的任务性能会随着合成数据比例增加而显著下降,这种分布偏移现象破坏了任务性能与训练数据之间的 scaling law 规律。相比之下,SynCheck 方法通过动态校正合成数据的分布偏差,使得模型性能能够保持稳定提升,最终收敛至最优状态。

图:任务性能随合成数据规模扩展的变化趋势

3. 超越数据瓶颈:无线大模型的规模化应用前景

当前学术界对合成数据的研究呈现明显的观点分野。持审慎态度的学者从理论推演和实证研究出发,提出了 "模型崩塌"(model collapse)的警示 —— 这类似于生物学上的近亲繁殖现象,当模型持续消化自身生成的数据时,其性能将不可避免地出现退化。然而,另一批研究者则持乐观态度,他们认为通过引入验证器(verifier)机制,完全可以规避模型崩溃的风险。值得注意的是,现有研究多集中于数学、代码等具有明确评价标准的领域,而在复杂度更高的任务场景中,这一问题的验证仍面临挑战。

北京大学和匹兹堡大学的研究团队创新性地提出了以目标任务模型为桥梁的研究范式,成功建立了合成数据与真实数据条件分布之间的映射关系。这一突破性进展为无线感知这一真实数据匮乏但性能导向的领域,确立了切实可行的数据质量评估标准与筛选方法。

未来,研究团队将致力于推动无线大模型的训练范式革新,通过拓展数据源的多样化泛化路径,探索更高效的预训练任务架构,实现合成数据与多元数据源的有机融合。在此基础上,团队将进一步构建面向各类无线感知任务的通用预训练框架,积极拓展多样化的数据来源,依托更强大的无线大模型,为具身智能系统提供坚实的感知与决策支撑。这些研究不仅将深化对合成数据质量标准的理论认知,更将为新一代具身智能系统的创新发展奠定基础,推动人工智能在物理世界的深度融合与广泛应用。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
武契奇今晚正式辞去总统职务,将以“普通公民”身份竞选总理,曾表示与中国是“铁杆友谊”,若中国民众到访塞尔维亚定会感到宾至如归

武契奇今晚正式辞去总统职务,将以“普通公民”身份竞选总理,曾表示与中国是“铁杆友谊”,若中国民众到访塞尔维亚定会感到宾至如归

极目新闻
2026-09-27 20:30:06
周星驰电影配角程东中山开酒吧! 现场多位艺人支持,吴志雄亲自打鼓

周星驰电影配角程东中山开酒吧! 现场多位艺人支持,吴志雄亲自打鼓

裕丰娱间说
2026-09-27 14:03:55
刘欢去世,单位讣告透露最后遗愿,吉克隽逸头像已变黑;一年前女儿结婚,今年1月最后一次公开演出;曾透露自己得了“股骨头缺血性坏死”

刘欢去世,单位讣告透露最后遗愿,吉克隽逸头像已变黑;一年前女儿结婚,今年1月最后一次公开演出;曾透露自己得了“股骨头缺血性坏死”

极目新闻
2026-09-26 10:59:27
00后女子名下一辆法拉利轿车将被司法拍卖 起拍价297万余元,低于市场价120余万

00后女子名下一辆法拉利轿车将被司法拍卖 起拍价297万余元,低于市场价120余万

红星新闻
2026-09-26 15:33:14
王楚钦再创历史,将成第一个把世界第一拱手送给日本的国乒运动员

王楚钦再创历史,将成第一个把世界第一拱手送给日本的国乒运动员

人类的关注
2026-09-06 04:32:21
导演张艺谋发文:惊悉刘欢逝世,不禁悲伤;刘欢多年前确诊的股骨头坏死,到底是什么病?医生:有三大高危诱因,髋关节持续疼痛需警惕

导演张艺谋发文:惊悉刘欢逝世,不禁悲伤;刘欢多年前确诊的股骨头坏死,到底是什么病?医生:有三大高危诱因,髋关节持续疼痛需警惕

极目新闻
2026-09-27 10:57:13
1986年,甘肃干部裴树唐遭指控强奸,获刑7年,狱中他六次回绝减刑,时隔多年刑满释放,当年报案女子双膝跪地,交出亲笔忏悔信

1986年,甘肃干部裴树唐遭指控强奸,获刑7年,狱中他六次回绝减刑,时隔多年刑满释放,当年报案女子双膝跪地,交出亲笔忏悔信

雅俗共赏1
2026-09-26 20:32:12
演员贾乃亮已多年没作品,本人回应:因为无戏可拍,而且面临一个尴尬的问题……

演员贾乃亮已多年没作品,本人回应:因为无戏可拍,而且面临一个尴尬的问题……

东方不败然多多
2026-09-16 11:31:28
0.001秒夺金!中国队再拿一金!亚运会最新金牌榜出炉:首位3金王诞生,21岁干饭哥再破世界纪录,国乒女团对手出炉

0.001秒夺金!中国队再拿一金!亚运会最新金牌榜出炉:首位3金王诞生,21岁干饭哥再破世界纪录,国乒女团对手出炉

小七说篮球
2026-09-22 18:58:12
山西一景区3000万元招NPC,是话题营销还是突围之计?澎湃记者实地调查

山西一景区3000万元招NPC,是话题营销还是突围之计?澎湃记者实地调查

澎湃新闻
2026-09-27 09:50:29
表姑向我借了85000元,17年没还,我去银行注销旧卡时,柜员看了眼卡说:女士,最后一笔转账留言您要看吗?

表姑向我借了85000元,17年没还,我去银行注销旧卡时,柜员看了眼卡说:女士,最后一笔转账留言您要看吗?

品读时刻
2026-09-22 09:04:55
腾讯版“红果”来了,有点过于刺…激!

腾讯版“红果”来了,有点过于刺…激!

人人都是产品经理社区
2026-09-27 19:52:12
38岁迪马利亚决赛双响!3-1夺冠,复刻梅西任意球,生涯38冠超C罗

38岁迪马利亚决赛双响!3-1夺冠,复刻梅西任意球,生涯38冠超C罗

球场没跑道
2026-09-27 08:53:26
我是长腿女神,为什么没人喜欢我呢?

我是长腿女神,为什么没人喜欢我呢?

疾跑的小蜗牛
2026-09-27 20:34:28
25岁女子提供上门服务,事后嫖客太爽不想付款,2013年将她杀死并抛尸

25岁女子提供上门服务,事后嫖客太爽不想付款,2013年将她杀死并抛尸

汉史趣闻
2026-09-27 16:34:18
周末消息大反转,周一开盘,行情要变天

周末消息大反转,周一开盘,行情要变天

魏家东
2026-09-27 09:08:55
王楚钦vs阿拉米扬时间已定!CCTV5直播,手握三大优势进决赛

王楚钦vs阿拉米扬时间已定!CCTV5直播,手握三大优势进决赛

心也简单
2026-09-27 09:40:09
内塔尼亚胡即将入住,酒店旁下水道有人钻出!特勤局追查:“绝望催人奋进”的拾荒匠

内塔尼亚胡即将入住,酒店旁下水道有人钻出!特勤局追查:“绝望催人奋进”的拾荒匠

红星新闻
2026-09-26 17:51:37
伊朗副总统:当初选择日本车就好了,中国车质量差价格高

伊朗副总统:当初选择日本车就好了,中国车质量差价格高

贱议你读史
2026-09-02 21:21:39
原来每个人的命运都是安排好的啊!网友:有时候人真得信命!

原来每个人的命运都是安排好的啊!网友:有时候人真得信命!

另子维爱读史
2026-09-27 10:19:56
2026-09-28 04:07:00
机器之心Pro incentive-icons
机器之心Pro
专业的人工智能媒体
14086文章数 142739关注度
往期回顾 全部

科技要闻

星舰第14飞,为什么准备绕地球六圈?

头条要闻

孙颖莎2比4不敌王曼昱摘银 称可能等不到下届亚运会了

头条要闻

孙颖莎2比4不敌王曼昱摘银 称可能等不到下届亚运会了

体育要闻

114项指控成立,曼城已经完蛋了吗?

娱乐要闻

刘欢去世后谣言四起,韩磊被翻旧账

财经要闻

“为了看短剧,我妈两年花了22万 ”

汽车要闻

MAZDA EZ-60激光版上市 焕新全系11.39万元起

态度原创

亲子
艺术
健康
旅游
军事航空

亲子要闻

工程车小故事:洗澡澡

艺术要闻

千年松树开花,百年难遇!第一眼就惊艳了

鼻子三角区的痘,千万别乱挤!

旅游要闻

走遍贵阳烟火街巷,这座百年古楼,藏着整座城的风骨!

军事要闻

特朗普"罕见"提二战中美同盟 日本慌了

无障碍浏览 进入关怀版