网易首页 > 网易号 > 正文 申请入驻

小米推结构化数据大模型Xiaomi-TabLDM:开启表格数据Scaling Law

0
分享至

IT之家 9 月 5 日消息,小米今日正式发布通用表格数据基础大模型 Xiaomi-TabLDM。

据介绍,该模型以单一预训练模型、统一默认配置直接适配不同表格数据集,无需针对每个任务重新训练、调参或后置集成,即可完成分类与回归预测。


长期以来,金融、医疗、制造、物流等领域大量核心数据以表格形式存在,但传统表格机器学习通常需要针对每一个新数据集重新训练、调参甚至集成模型,存在多次训练及版本管理等繁重的部署代价。Xiaomi-TabLDM 旨在将“一次预训练、跨任务使用”的基础模型范式带入结构化数据领域。


该模型从三个方向推进表格基础模型能力。预训练方面,Xiaomi-TabLDM 完全基于结构因果模型(SCM)生成的大规模合成数据进行预训练,覆盖不同数据规模、变量类型、依赖关系和函数关系,扩大预训练任务分布。模型架构方面,引入双流特征分组(dual-stream feature grouping)、轻量级注意力残差(lightweight Attention Residual)和稀疏混合专家(sparse Mixture-of-Experts),从不同粒度建模特征关系,通过稀疏专家扩大模型容量。推理方面,该模型进一步探索了 Test-Time Scaling,在保持预训练模型参数不变的情况下,通过增加推理阶段计算量持续提升预测性能。

在四大公开基准评测中,Xiaomi-TabLDM 均跻身第一梯队。回归能力表现突出:在 OpenML-CTR23 回归榜排名第一;在 TALENT、TabArena 和 BCCO 的回归任务中均排名第二;在 TALENT 二分类任务中同样排名第一。在性能与效率的平衡上,以 TabArena 回归任务为例,Xiaomi-TabLDM 取得第二高 Elo 评分的同时,训练时间比排名第一的 TabFM 减少 82%,预测时间减少 68%(Elo 评分原为国际象棋等级分制度,此处用于衡量模型在基准测试中的相对性能排名)。


在真实工业场景验证中,Xiaomi-TabLDM 相比传统机器学习展现出更高的预测精度和跨工况适应能力。材料性能预测场景下,该模型无需微调即可将预测精度提升 130%,减少约 90% 的无效试模与装机测试。零件重量预测场景中,相比 XGBoost,失误样本比例降低约 31%。生产组分预测场景中,平均误差相比 XGBoost 降低约 54%;当生产工况发生变化时,仅补充约 30 条新工况样本作为上下文,即可将平均误差降低约 62%。


该模型提供 scikit-learn 兼容接口,可通过 pip 安装使用。



目前,Xiaomi-TabLDM 相关模型权重与代码已正式开源,IT之家附相关代码及模型权重:

  • 代码:https://github.com/ xiaomi-research / xiaomi-tabldm
  • 权重:https://huggingface.co/ occams / Xiaomi-TabLDM
  • 技术报告:https://arxiv.org/ abs/2609.03880

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
中国“捡钱”时代或将来临:如果手中只有10万,试试死啃这两条线

中国“捡钱”时代或将来临:如果手中只有10万,试试死啃这两条线

米老鼠的世界
2026-08-26 14:20:23
儿子欲娶母瘫痪、父赌博、两弟弟读书的女友,清醒妈妈:要钱就断绝关系!扶贫婚姻会毁孩子一生

儿子欲娶母瘫痪、父赌博、两弟弟读书的女友,清醒妈妈:要钱就断绝关系!扶贫婚姻会毁孩子一生

菁妈育儿
2026-11-18 13:36:22
周鹏降薪300万回归才两个月再次离队,广东队3胜5负外教已经下课

周鹏降薪300万回归才两个月再次离队,广东队3胜5负外教已经下课

生活新鲜市
2026-11-17 09:00:00
收评:创业板指涨0.85% 算力租赁概念全天强势

收评:创业板指涨0.85% 算力租赁概念全天强势

证券时报
2026-11-18 15:28:05
41岁男子谎称37岁求职,遭拒后起诉被年龄歧视并索赔10万,法院判了

41岁男子谎称37岁求职,遭拒后起诉被年龄歧视并索赔10万,法院判了

极目新闻
2026-11-18 08:26:33
官宣了!罗伯特・帕丁森成为新一任007

官宣了!罗伯特・帕丁森成为新一任007

齐鲁壹点
2026-11-17 07:20:15
大二女生去按摩,男技师让她脱内裤跪着背对着他,整个人贴了上来,店长:包厢没监控,赔700块

大二女生去按摩,男技师让她脱内裤跪着背对着他,整个人贴了上来,店长:包厢没监控,赔700块

一丝不苟的法律人
2026-11-08 16:44:48
10分钟打爆韩国,却还在踢第四级别!苗润东离中超到底有多远?

10分钟打爆韩国,却还在踢第四级别!苗润东离中超到底有多远?

曹老师评球
2026-11-17 21:43:08
时间定了,中方宣布安排,11月19日这一天,全世界都将拭目以待

时间定了,中方宣布安排,11月19日这一天,全世界都将拭目以待

古书奇谈
2026-11-17 10:23:42
马斯克遇上大麻烦!星链被欧洲围堵,欧洲为何对星链下手了?

马斯克遇上大麻烦!星链被欧洲围堵,欧洲为何对星链下手了?

普陀动物世界
2026-11-18 05:49:40
官媒点名!4位明星化身老赖,最后一位臭名昭著,给大众提了个醒

官媒点名!4位明星化身老赖,最后一位臭名昭著,给大众提了个醒

林轻吟
2026-11-10 07:17:48
国际货币基金组织预测:中国2027年GDP,将彻底领先日本5倍以上!

国际货币基金组织预测:中国2027年GDP,将彻底领先日本5倍以上!

生活新鲜市
2026-11-18 05:52:20
上层作孽,害死好人

上层作孽,害死好人

我是历史其实挺有趣
2025-08-02 08:59:00
30岁河南外援渴望进国足:若被归化很荣幸!在中国3年像活在电影里

30岁河南外援渴望进国足:若被归化很荣幸!在中国3年像活在电影里

我爱英超
2026-11-18 00:01:01
扎堆成年出道!贝儿、黄多多等萌娃陆续进圈,星二代的高起点,是红利也是枷锁

扎堆成年出道!贝儿、黄多多等萌娃陆续进圈,星二代的高起点,是红利也是枷锁

随性的海浪
2026-11-18 13:16:02
九一三事件后,黄永胜的孩子们都有什么命运?

九一三事件后,黄永胜的孩子们都有什么命运?

华人星光
2026-11-17 15:10:05
曝光东莞路边价格刺客!不少人中招!

曝光东莞路边价格刺客!不少人中招!

东莞潮事儿
2026-11-18 12:27:36
东风-61洲际导弹列装,引发岛内震动!台专家:敲打美国,管好自己安排在第一岛链上的所谓“看门狗”

东风-61洲际导弹列装,引发岛内震动!台专家:敲打美国,管好自己安排在第一岛链上的所谓“看门狗”

每日经济新闻
2026-11-18 10:28:14
金融危机真的不远了?华尔街开始疯狂抛售黄金,这意味着什么

金融危机真的不远了?华尔街开始疯狂抛售黄金,这意味着什么

奇思妙想生活家
2026-11-18 04:43:33
特斯拉即将推出 2026 年度大更新,重磅新功能来了!

特斯拉即将推出 2026 年度大更新,重磅新功能来了!

XCiOS俱乐部
2026-11-17 20:45:14
2026-11-18 16:12:49
IT之家
IT之家
爱科技,爱这里 - 前沿科技人气平台
380010文章数 607740关注度
往期回顾 全部

科技要闻

老黄想回来?英伟达董事会:没门

头条要闻

中国女子在希腊失踪半年 保险箱发现10万欧元现金

头条要闻

中国女子在希腊失踪半年 保险箱发现10万欧元现金

体育要闻

伪强队?拥4亿豪阵欧国联6连败+世界杯出局

娱乐要闻

陈晓楠对话厉娜和许飞引全网热议

财经要闻

10万人逼宫英伟达,黄仁勋要复职了?

汽车要闻

更豪华更好开 问界新M8细节升级见真章

态度原创

数码
房产
健康
旅游
教育

数码要闻

苹果公布2026古典乐年度专辑:任奫灿《哥德堡变奏曲》获奖

房产要闻

6.6亿!海口卖地!

情绪真能让健康人"伤心至死"?

旅游要闻

秋假遛娃剑门关,全程17000步,6个小时,喜提废腿体验!

教育要闻

济南市历下区燕山小学教育集团将出席2026第四届课博会,解码“做中学”视域下小学科学教育生态构建

无障碍浏览 进入关怀版