网易首页 > 网易号 > 正文 申请入驻

小米推结构化数据大模型Xiaomi-TabLDM:开启表格数据Scaling Law

0
分享至

IT之家 9 月 5 日消息,小米今日正式发布通用表格数据基础大模型 Xiaomi-TabLDM。

据介绍,该模型以单一预训练模型、统一默认配置直接适配不同表格数据集,无需针对每个任务重新训练、调参或后置集成,即可完成分类与回归预测。


长期以来,金融、医疗、制造、物流等领域大量核心数据以表格形式存在,但传统表格机器学习通常需要针对每一个新数据集重新训练、调参甚至集成模型,存在多次训练及版本管理等繁重的部署代价。Xiaomi-TabLDM 旨在将“一次预训练、跨任务使用”的基础模型范式带入结构化数据领域。


该模型从三个方向推进表格基础模型能力。预训练方面,Xiaomi-TabLDM 完全基于结构因果模型(SCM)生成的大规模合成数据进行预训练,覆盖不同数据规模、变量类型、依赖关系和函数关系,扩大预训练任务分布。模型架构方面,引入双流特征分组(dual-stream feature grouping)、轻量级注意力残差(lightweight Attention Residual)和稀疏混合专家(sparse Mixture-of-Experts),从不同粒度建模特征关系,通过稀疏专家扩大模型容量。推理方面,该模型进一步探索了 Test-Time Scaling,在保持预训练模型参数不变的情况下,通过增加推理阶段计算量持续提升预测性能。

在四大公开基准评测中,Xiaomi-TabLDM 均跻身第一梯队。回归能力表现突出:在 OpenML-CTR23 回归榜排名第一;在 TALENT、TabArena 和 BCCO 的回归任务中均排名第二;在 TALENT 二分类任务中同样排名第一。在性能与效率的平衡上,以 TabArena 回归任务为例,Xiaomi-TabLDM 取得第二高 Elo 评分的同时,训练时间比排名第一的 TabFM 减少 82%,预测时间减少 68%(Elo 评分原为国际象棋等级分制度,此处用于衡量模型在基准测试中的相对性能排名)。


在真实工业场景验证中,Xiaomi-TabLDM 相比传统机器学习展现出更高的预测精度和跨工况适应能力。材料性能预测场景下,该模型无需微调即可将预测精度提升 130%,减少约 90% 的无效试模与装机测试。零件重量预测场景中,相比 XGBoost,失误样本比例降低约 31%。生产组分预测场景中,平均误差相比 XGBoost 降低约 54%;当生产工况发生变化时,仅补充约 30 条新工况样本作为上下文,即可将平均误差降低约 62%。


该模型提供 scikit-learn 兼容接口,可通过 pip 安装使用。



目前,Xiaomi-TabLDM 相关模型权重与代码已正式开源,IT之家附相关代码及模型权重:

  • 代码:https://github.com/ xiaomi-research / xiaomi-tabldm
  • 权重:https://huggingface.co/ occams / Xiaomi-TabLDM
  • 技术报告:https://arxiv.org/ abs/2609.03880

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
希拉里:若有政治家有资格被称为当今自由世界领袖,那应该是卡尼

希拉里:若有政治家有资格被称为当今自由世界领袖,那应该是卡尼

军情观察家
2026-11-20 23:35:04
金价大局定了?大家千万注意了,不出意外,金价可能迎来大风暴!

金价大局定了?大家千万注意了,不出意外,金价可能迎来大风暴!

爱看剧的阿峰
2026-11-20 15:19:49
女主术后不能同房,找女人帮老公泄火,保姆半推半就:一次五百!

女主术后不能同房,找女人帮老公泄火,保姆半推半就:一次五百!

第7情感
2025-07-31 11:41:37
羽毛球世界冠军周昊东兴奋剂检测结果阳性,被禁赛3年;教练被禁赛1年半,浙江体育职业技术学院被警告

羽毛球世界冠军周昊东兴奋剂检测结果阳性,被禁赛3年;教练被禁赛1年半,浙江体育职业技术学院被警告

极目新闻
2026-11-20 20:58:44
泰国总理带夫人在深圳吃砂锅粥,再飙粤语:“好食,几好啊”!市民在街头“偶遇”:澳大利亚总理逛超市;墨西哥卫生部长华强北“扫货”

泰国总理带夫人在深圳吃砂锅粥,再飙粤语:“好食,几好啊”!市民在街头“偶遇”:澳大利亚总理逛超市;墨西哥卫生部长华强北“扫货”

极目新闻
2026-11-20 09:35:14
仅播6集,播放量大爆,这才是国产古装剧该有的实力!

仅播6集,播放量大爆,这才是国产古装剧该有的实力!

蓝莓影视推荐
2026-11-19 20:12:54
18个账户被冻结!杭州警方发布紧急通告

18个账户被冻结!杭州警方发布紧急通告

环球网资讯
2026-11-20 19:54:08
钱再多有什么用,65岁郎平如今的现状,给所有运动员们提了个醒

钱再多有什么用,65岁郎平如今的现状,给所有运动员们提了个醒

墨策讲历史
2026-11-04 22:47:01
2013年,金正哲联手张成泽发动朝鲜兵变,因一细节败露,双遭反杀

2013年,金正哲联手张成泽发动朝鲜兵变,因一细节败露,双遭反杀

阿胡
2025-03-11 13:28:03
马斯克的读书方法真好用,建议模仿,通过读书,你可以学会任何事

马斯克的读书方法真好用,建议模仿,通过读书,你可以学会任何事

阿胖读书
2025-10-26 22:36:11
美媒彻底慌了!中国顶尖精英正批量撤离美国,这事儿连华尔街日报都坐不住了,11月16日专门发了篇长文哀叹

美媒彻底慌了!中国顶尖精英正批量撤离美国,这事儿连华尔街日报都坐不住了,11月16日专门发了篇长文哀叹

扶苏聊历史
2026-11-19 13:37:49
演员童瑶发文告别

演员童瑶发文告别

背包旅行
2026-10-16 11:55:16
0-3!男乒世界冠军无缘4强,林诗栋利好:总决赛仅剩最后一位追兵

0-3!男乒世界冠军无缘4强,林诗栋利好:总决赛仅剩最后一位追兵

郝小小看体育
2026-11-21 00:16:46
央视直播足协杯决赛!贺炜突然提到姆巴佩的名字 球迷:释放信号?

央视直播足协杯决赛!贺炜突然提到姆巴佩的名字 球迷:释放信号?

念洲
2026-11-20 20:54:07
31.98万元起!享界首款MPV上市 余承东:我们用料很狠,导致纯电车型成本很高

31.98万元起!享界首款MPV上市 余承东:我们用料很狠,导致纯电车型成本很高

每日经济新闻
2026-11-20 18:40:01
我今年72岁了,用血泪告诉你:得了癌症,别指望任何人,包括子女

我今年72岁了,用血泪告诉你:得了癌症,别指望任何人,包括子女

千秋文化
2026-11-20 20:39:40
玄学提醒:如果一个人还在穿着10年前的衣服,只说明几个问题

玄学提醒:如果一个人还在穿着10年前的衣服,只说明几个问题

木言观
2026-08-01 13:58:35
特朗普从中国返美途中发文:这是一次伟大且意义深远的访问

特朗普从中国返美途中发文:这是一次伟大且意义深远的访问

极目新闻
2026-11-20 09:35:13
英国女星丽莎·麦克斯韦独女博·杰萨普在纽约去世,年仅27岁,生前最后采访曾谈及未来新闻理想。

英国女星丽莎·麦克斯韦独女博·杰萨普在纽约去世,年仅27岁,生前最后采访曾谈及未来新闻理想。

环球趣闻分享
2026-11-20 16:04:16
腰臀比例太出众!西班牙莱昂诺尔公主最新街拍,镜头表现力完胜妹妹!

腰臀比例太出众!西班牙莱昂诺尔公主最新街拍,镜头表现力完胜妹妹!

东方不败然多多
2026-11-20 15:29:12
2026-11-21 03:59:00
IT之家
IT之家
爱科技,爱这里 - 前沿科技人气平台
380557文章数 607744关注度
往期回顾 全部

科技要闻

老黄想回来?英伟达董事会:没门

头条要闻

中国女子在希腊失踪半年 保险箱发现10万欧元现金

头条要闻

中国女子在希腊失踪半年 保险箱发现10万欧元现金

体育要闻

伪强队?拥4亿豪阵欧国联6连败+世界杯出局

娱乐要闻

陈晓楠对话厉娜和许飞引全网热议

财经要闻

10万人逼宫英伟达,黄仁勋要复职了?

汽车要闻

全新红旗H9最有意思的地方,是它开始有自己的豪华逻辑了

态度原创

健康
旅游
教育
本地
公开课

医生眼里"很伤腰"的椅子,很多人天天坐

旅游要闻

青岛冬日赏鸥地图|沿着海岸线,赴一场海鸥之约

教育要闻

济南市历下区燕山小学教育集团将出席2026第四届课博会,解码“做中学”视域下小学科学教育生态构建

本地新闻

乌兰察布:以前种土豆,现在种Token

公开课

李玫瑾:为什么性格比能力更重要?

无障碍浏览 进入关怀版