网易首页 > 网易号 > 正文 申请入驻

小米推结构化数据大模型Xiaomi-TabLDM:开启表格数据Scaling Law

0
分享至

IT之家 9 月 5 日消息,小米今日正式发布通用表格数据基础大模型 Xiaomi-TabLDM。

据介绍,该模型以单一预训练模型、统一默认配置直接适配不同表格数据集,无需针对每个任务重新训练、调参或后置集成,即可完成分类与回归预测。


长期以来,金融、医疗、制造、物流等领域大量核心数据以表格形式存在,但传统表格机器学习通常需要针对每一个新数据集重新训练、调参甚至集成模型,存在多次训练及版本管理等繁重的部署代价。Xiaomi-TabLDM 旨在将“一次预训练、跨任务使用”的基础模型范式带入结构化数据领域。


该模型从三个方向推进表格基础模型能力。预训练方面,Xiaomi-TabLDM 完全基于结构因果模型(SCM)生成的大规模合成数据进行预训练,覆盖不同数据规模、变量类型、依赖关系和函数关系,扩大预训练任务分布。模型架构方面,引入双流特征分组(dual-stream feature grouping)、轻量级注意力残差(lightweight Attention Residual)和稀疏混合专家(sparse Mixture-of-Experts),从不同粒度建模特征关系,通过稀疏专家扩大模型容量。推理方面,该模型进一步探索了 Test-Time Scaling,在保持预训练模型参数不变的情况下,通过增加推理阶段计算量持续提升预测性能。

在四大公开基准评测中,Xiaomi-TabLDM 均跻身第一梯队。回归能力表现突出:在 OpenML-CTR23 回归榜排名第一;在 TALENT、TabArena 和 BCCO 的回归任务中均排名第二;在 TALENT 二分类任务中同样排名第一。在性能与效率的平衡上,以 TabArena 回归任务为例,Xiaomi-TabLDM 取得第二高 Elo 评分的同时,训练时间比排名第一的 TabFM 减少 82%,预测时间减少 68%(Elo 评分原为国际象棋等级分制度,此处用于衡量模型在基准测试中的相对性能排名)。


在真实工业场景验证中,Xiaomi-TabLDM 相比传统机器学习展现出更高的预测精度和跨工况适应能力。材料性能预测场景下,该模型无需微调即可将预测精度提升 130%,减少约 90% 的无效试模与装机测试。零件重量预测场景中,相比 XGBoost,失误样本比例降低约 31%。生产组分预测场景中,平均误差相比 XGBoost 降低约 54%;当生产工况发生变化时,仅补充约 30 条新工况样本作为上下文,即可将平均误差降低约 62%。


该模型提供 scikit-learn 兼容接口,可通过 pip 安装使用。



目前,Xiaomi-TabLDM 相关模型权重与代码已正式开源,IT之家附相关代码及模型权重:

  • 代码:https://github.com/ xiaomi-research / xiaomi-tabldm
  • 权重:https://huggingface.co/ occams / Xiaomi-TabLDM
  • 技术报告:https://arxiv.org/ abs/2609.03880

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
北京女网红晒豪宅,“天宫一角”露出国宝级名画,账号已被禁止发布作品

北京女网红晒豪宅,“天宫一角”露出国宝级名画,账号已被禁止发布作品

娱乐E君
2026-11-17 17:34:36
大反转!英伟达回应“黄仁勋重返”

大反转!英伟达回应“黄仁勋重返”

广告创意
2026-11-17 16:20:37
刘建宏:邵佳一应该向安东尼奥学习!认清现实吧,国足是亚洲2.5流

刘建宏:邵佳一应该向安东尼奥学习!认清现实吧,国足是亚洲2.5流

念洲
2026-11-18 07:02:38
105-93!活塞终结马刺12连胜,坎宁安27分,文班空砍25+18

105-93!活塞终结马刺12连胜,坎宁安27分,文班空砍25+18

全景体育V
2026-11-18 11:37:58
首次访华就想给下马威?中方二话不说撤走仪仗队:想好了再来

首次访华就想给下马威?中方二话不说撤走仪仗队:想好了再来

一姐说军史
2026-06-29 15:10:55
中俄美元首会晤是否会讨论台湾问题,国台办回应

中俄美元首会晤是否会讨论台湾问题,国台办回应

界面新闻
2026-11-18 11:16:15
19.99万 !特斯拉新车上市!

19.99万 !特斯拉新车上市!

科技堡垒
2026-11-18 08:00:39
黄仁勋离任后,英伟达发布炸裂财报

黄仁勋离任后,英伟达发布炸裂财报

北美商业电讯
2026-11-18 05:53:53
姚笛分享近况,住大房子连凳子都是LV的,但并不开心焦虑到躯体化

姚笛分享近况,住大房子连凳子都是LV的,但并不开心焦虑到躯体化

八怪娱
2026-11-18 09:29:26
国际油价暴跌32%,国内只降5毛1!钱被谁“截”走了?

国际油价暴跌32%,国内只降5毛1!钱被谁“截”走了?

爱看剧的阿峰
2026-11-17 16:25:33
黄仁勋反攻了:我将重返英伟达任 CEO,如果董事会允许

黄仁勋反攻了:我将重返英伟达任 CEO,如果董事会允许

字母AI
2026-11-18 08:09:28
老一辈眼光就是毒辣!黄仁勋4天出局,我爸说:欧美怎么可能把AI交给一个华人?黄仁勋的倒台,从一开始就不意外

老一辈眼光就是毒辣!黄仁勋4天出局,我爸说:欧美怎么可能把AI交给一个华人?黄仁勋的倒台,从一开始就不意外

秋风妃
2026-11-17 22:55:03
这两天,网友们在围观一个叫玉芬的记者

这两天,网友们在围观一个叫玉芬的记者

清晖有墨
2026-11-17 12:40:13
俄罗斯被曝将芬兰退出北约列为结束俄乌战争的条件之一,芬兰国防部长公开表示:没有谈判余地,俄罗斯心知肚明,提出这种要求简直荒谬至极

俄罗斯被曝将芬兰退出北约列为结束俄乌战争的条件之一,芬兰国防部长公开表示:没有谈判余地,俄罗斯心知肚明,提出这种要求简直荒谬至极

吉刻新闻
2026-11-15 18:22:34
特朗普预计今日访问深圳:期待我的总统专机着陆深圳,我是中方的客人,这会是一件美妙的事;其将成为首位踏足深圳的在任美国总统

特朗普预计今日访问深圳:期待我的总统专机着陆深圳,我是中方的客人,这会是一件美妙的事;其将成为首位踏足深圳的在任美国总统

极目新闻
2026-11-18 10:23:17
浑水宣布做空英伟达

浑水宣布做空英伟达

界面新闻
2026-11-18 11:36:52
“喜欢吃红薯的人天塌了”冲上热搜!薯农:烤出来就是流“油”的;网友:用空气炸锅烤一样很香;专家提醒:这三类人要管住嘴

“喜欢吃红薯的人天塌了”冲上热搜!薯农:烤出来就是流“油”的;网友:用空气炸锅烤一样很香;专家提醒:这三类人要管住嘴

农民日报
2026-11-18 08:48:45
肃反运动中,被张国焘杀害的6位红军名将

肃反运动中,被张国焘杀害的6位红军名将

祁州校尉
2026-11-18 09:00:39
“我不反华了”润去美国的前律师周君红,发文希望回国,但不能坐牢

“我不反华了”润去美国的前律师周君红,发文希望回国,但不能坐牢

消失的电波
2026-11-17 19:36:00
8-0!波切蒂诺结束美国队执教生涯,正式上任曼联新帅,1天后带队

8-0!波切蒂诺结束美国队执教生涯,正式上任曼联新帅,1天后带队

念洲
2026-11-18 10:23:32
2026-11-18 12:47:00
IT之家
IT之家
爱科技,爱这里 - 前沿科技人气平台
379947文章数 607740关注度
往期回顾 全部

科技要闻

OPPO Reno17:手机背后竟然藏了只“喵”?

头条要闻

7岁男童做扁桃体手术后四肢瘫痪 手术录像无法读取

头条要闻

7岁男童做扁桃体手术后四肢瘫痪 手术录像无法读取

体育要闻

东契奇心仪之人 三年后拿着底薪站到他身旁

娱乐要闻

认亲被嘲讽后郭德纲委托律师发声明

财经要闻

回归英伟达,黄仁勋要先“干掉董事会”

汽车要闻

奕境X9纯电版信息曝光 将于11月27日广州车展上市

态度原创

时尚
本地
房产
家居
公开课

西北最贵专列?从西宁到敦煌的“丝路梦享列车”到底值不值?

本地新闻

乌兰察布:以前种土豆,现在种Token

房产要闻

雅居乐海南,又要卖地了!

家居要闻

2026建博会(广州) 公装联探展交流活动

公开课

李玫瑾:为什么性格比能力更重要?

无障碍浏览 进入关怀版