网易首页 > 网易号 > 正文 申请入驻

新开源论文:知识蒸馏与迁移学习驱动的建筑群地震峰值响应预测方法

0
分享至


论文:A knowledge distillation-based transfer learning framework for peakseismic response prediction of urban building clusters.

DOI:https://doi.org/10.1016/j.engstruct.2026.123348

代码和数据:https://github.com/qinglecheng/kd-tl-seismic-response-prediction

0

太长不看版

地震后,如何快速预测城市中大量建筑的地震响应,是震害评估和应急决策的重要问题。近年来基于机器学习算法的城市震损评估方法得到大量研究。但是由于真实结构地震响应数据很少,难以满足AI训练要求;而通过数值模拟构造的仿真数据又与真实建筑响应存在较大差别,往往无法满足震损分析需要,从而成为当前研究的一个关键难题。

为此,本文提出了一种知识蒸馏–迁移学习框架:先让复杂的教师模型(百万参数)从海量仿真数据中学习建筑地震响应的通用规律,再将这些知识“蒸馏”给轻量化学生模型(6721个参数),并结合少量实测数据进行迁移微调。验证结果表明,该方法在实测数据有限的情况下仍能取得较好效果,R2达到0.89,相比未迁移模型提升约25.3%,MSE降低约64.5%。

总体而言,该方法能够兼顾仿真数据“量大”和实测数据“真实”的优势,可根据目标区域的实测数据进行本地化定制,并随着监测数据不断积累实现持续更新,为城市建筑群震后快速响应预测提供了一种高效、可靠的技术路径。

常见问题(FAQ)

  1. 为什么要做迁移学习?

    建筑的强震监测数据是非常稀缺的,数量级往往仅以百计,用这样的数据训练出一个比较复杂的模型基本是不可能的。所以先用大量仿真数据进行预训练,再用少量真实监测数据去迁移微调是较好的解决方案。

  2. 为什么要做知识蒸馏?

    直接用仿真数据训练一个和学生模型规模相当的小模型然后再做迁移微调技术上是可行的。但是这种方法的重复工作量会大很多。例如:假定目标区域最初只有几个4层的教学楼做了监测,于是使用单位先针对4层建筑做了建模和大量仿真,并用仿真数据训练了小模型,再结合4层教学楼的监测数据进行迁移微调。然而,不久后目标区域又增加监测了一个6层的医院,于是上述的建模、仿真、训练工作又要重复一遍,需要耗时十几个小时。用本文的方法就只要从已有的教师模型中再“蒸馏”一个6层医院的学生模型即可,只需要十几分钟即可,效率可以极大提升。


1

为什么要做这件事?

仿真数据规模大、覆盖范围广,可以说是“量大管饱”,但与结构实测响应数据之间存在一定的差异;而实测数据能够真实反映结构地震响应,可以说是“少而精”,但获取成本高、样本数量有限,难以直接支撑深度学习模型训练。

那么,有没有一种方法,既能享受仿真数据“量大管饱”的优势,又能利用实测数据“少而精”的价值?

有!本文就提出了一种基于知识蒸馏的迁移学习方法,构建融合仿真与实测数据的建筑群地震峰值响应预测框架。


2

框架总览

本文提出的基于知识蒸馏和迁移学习的建筑群地震峰值响应预测方法分为四步(图1):


图1 知识蒸馏-迁移学习框架流程图

Step 1:源域数据库构建

首先,基于HAZUS建筑分类体系(美国FEMA提出的建筑地震损失评估方法,包含13种典型建筑结构类型)建立多类型建筑数据库(建筑类型包括不同建筑高度、建造年代、建筑层数与结构类型);结合NGA-West2地震动数据库,提取能够表征地震动特性的地震动强度指标(本研究采用了包括峰值、频谱、时间与能量相关的19种地震动强度指标,具体可参考论文Table B1)。随后,采用,计算不同建筑在不同地震动作用下的峰值响应,包括顶层峰值加速度(PTFA)和最大层间位移角(MIDR),最终建立覆盖多种建筑类型的大规模源域地震响应数据库,数据量共计900多万。

Step 2:教师模型预训练

预训练模型架构如图2所示,模型以地震动强度指标、建筑属性作为输入,以建筑峰值地震响应作为预测输出,构建带有注意力机制的深度神经网络。最后,利用源域地震响应数据库对教师模型进行预训练,使模型充分学习地震动特征、建筑属性与结构峰值响应之间复杂的非线性映射关系。(详细介绍可参考:https://www.tandfonline.com/doi/full/10.1080/13632469.2026.2680115)


图2 预训练模型架构

Step 3:知识蒸馏

知识蒸馏可以理解为“大模型教小模型”:先让复杂的教师模型从海量仿真数据中学习建筑地震响应的通用规律,再把这些规律以更简洁的形式传递给轻量化的学生模型。这样,学生模型既能继承大模型的预测能力,又更容易结合少量实测数据进行快速适配和更新。

以源域预训练模型为教师模型,通过蒸馏过程提取并压缩模型中蕴含的高层特征知识,结合与目标域分布匹配的源域样本(即根据目标域建筑属性,如层高范围,筛选出的源域数据),在教师模型软标签的监督下进行训练,从而获得参数轻量化、适应性更强的学生模型。该过程实现了从跨类型源域知识向特定目标域知识的高效转移。

Step 4:迁移学习

以知识蒸馏得到的学生模型作为初始化模型,冻结部分网络参数,利用实测地震响应数据进行迁移学习微调,实现模型向目标域的快速适配,并通过模型验证与对比分析评估本方法的有效性。

3

案例验证:效果怎么样

3.1本方法性能如何?

以CESMD(美国工程强震动数据库)实测数据(选择数据集中的1-3层建筑)为基准,分别选取未迁移模型(仅利用源域仿真数据训练)、直接迁移模型(预训练模型直接迁移至目标域微调,不进行蒸馏)以及基准模型(仅利用目标域实测数据训练)进行对比,并采用K折交叉验证评估模型性能。结果表明(图3),本文提出的知识蒸馏迁移学习框架具有更高的预测精度和更好的泛化能力,决定系数达到0.89以上,相比于传统未迁移模型提升25.3%,均方误差降低约64.5%。


图3本模型与其他模型在 K 折交叉验证下的综合性能对比

3.2更多实测数据能否进一步提升模型性能?

所提出框架具有一定的持续学习能力。随着目标域实测数据不断增加(图4),模型可持续更新并学习新的区域建筑特征和地震响应规律,实现预测精度和泛化能力的不断提升,具有较好的区域适应性和工程可扩展性。


图4目标域训练数据规模对模型预测性能的影响

3.3 换一类建筑,还要重新训练大模型吗?

不需要,蒸馏迁移框架可以快速本地化。

例如,当目标区域中部分建筑(例如 4–6 层建筑)具备可获取的实测地震响应数据时,本文提出的知识蒸馏迁移框架可进一步结合这些数据进行区域本地化定制。结果如图5所示,由图可见,实测数据直接训练模型受样本规模限制,预测离散性较大,R2仅为0.7412;相比之下,本文的知识蒸馏迁移模型将R2提升至 0.9267。该框架还显著提高了模型构建效率:在 AMD Ryzen 7 5800H 3.20 GHz平台上,模型构建仅需约0.2 h,而对照方案约需14.4 h,效率提升约72倍,从而降低了跨建筑类型和区域场景下的模型开发与更新成本。


图5 4–6 层建筑地震响应预测的三种训练策略对比结果

4

结论

针对大规模模拟数据与有限实测数据之间存在分布差异、导致城市建筑群地震响应预测泛化能力不足的问题,本文提出了一种融合知识蒸馏与迁移学习的预测框架。该方法以大规模数值模拟数据构建源域,利用少量CESMD实测强震记录进行目标域适配,实现了模拟数据与实测数据的有效融合。主要结论如下:

(1) 小样本实测数据下,预测精度显著提升。通过“教师–学生”知识蒸馏结构与迁移学习相结合,模型在目标域样本有限时仍能保持较高精度。迁移后模型R2达到0.89,相比未迁移模型提升约25.3%,MSE降低约64.5%,整体优于未迁移模型和仅基于实测数据训练的模型。

(2) 可随监测数据积累持续优化。随着目标域实测训练数据增加,模型的R2和相关系数r持续提高,误差指标逐步降低,表明该框架具备一定持续更新与迭代提升能力,适用于长期城市建筑群地震响应评估。

(3) 模型构建效率大幅提升。“先蒸馏、再迁移”的策略能够复用源域预训练知识,并结合区域实测数据快速构建本地化模型。相比传统独立预训练再迁移方案,本文流程将模型构建效率提升约72倍,显著增强了工程应用的可扩展性。

联络邮箱:

程庆乐:chengql94@163.com

陆新征:luxz@tsinghua.edu.cn

---End--

建筑结构生成式智能设计软件:

3分钟视频演示剪力墙结构智能设计完整操作流程

1分钟视频建筑户型平面生成与编辑流程

相关研究

学术报告视频

专著

人工智能与机器学习

---结构智能设计

---其他土木工程领域人工智能研究

城市灾害模拟与韧性城市

高性能结构与防倒塌

  1. 新论文:抗震&防连续倒塌:一种新型构造措施


特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
唐斯公开决裂!NBA王朝时代的彻底终结,尼克斯是想都不想

唐斯公开决裂!NBA王朝时代的彻底终结,尼克斯是想都不想

张发林
2026-10-13 16:13:53
特朗普踩着时间线赴菲,就是告诉马科斯,11月18日那几天安分点

特朗普踩着时间线赴菲,就是告诉马科斯,11月18日那几天安分点

一曲一场談
2026-10-13 15:46:39
官宣!再见了,河村勇辉!NBA亚洲第一黄种人控卫

官宣!再见了,河村勇辉!NBA亚洲第一黄种人控卫

篮球实战宝典
2026-10-13 12:20:42
笑麻,终于理解老式旅游有多香了,网友:以前多嫌弃现在就有多香

笑麻,终于理解老式旅游有多香了,网友:以前多嫌弃现在就有多香

夜深爱杂谈
2026-10-13 20:36:30
性专家说:当一个异性开口跟你要钱,要礼物,不管对方是不是想试探你的真心,你都应该明白,你已被对方列入供养者行列

性专家说:当一个异性开口跟你要钱,要礼物,不管对方是不是想试探你的真心,你都应该明白,你已被对方列入供养者行列

心理观察局
2026-08-05 06:46:04
泽连斯基称俄袭击乌能源设施 希望美国尽快介入

泽连斯基称俄袭击乌能源设施 希望美国尽快介入

看看新闻Knews
2026-10-13 15:47:50
白宫接到消息,高市罕见公开反对特朗普,她对中国有了新想法

白宫接到消息,高市罕见公开反对特朗普,她对中国有了新想法

趣文说娱
2026-10-12 12:53:42
叶剑英坦言:毛主席用三次“神指挥”,折服了所有的将帅

叶剑英坦言:毛主席用三次“神指挥”,折服了所有的将帅

纪史行者
2026-10-02 06:00:10
英国男子突然翻进动物园虎区,朝老虎跪拜,终被咬死!游客看懵了

英国男子突然翻进动物园虎区,朝老虎跪拜,终被咬死!游客看懵了

新欧洲
2026-10-13 19:48:05
马斯克亲口承认:全球只有3家拥有足够数据!自己不在其中

马斯克亲口承认:全球只有3家拥有足够数据!自己不在其中

新智元
2026-10-12 11:38:50
开心!郑钦文中网夺冠开启买买买模式,逛Dior店拎着大包小包出门

开心!郑钦文中网夺冠开启买买买模式,逛Dior店拎着大包小包出门

818体育
2026-10-13 12:44:39
离谱了!2米01的NBA冠军前锋!勾搭1米22网红模特!

离谱了!2米01的NBA冠军前锋!勾搭1米22网红模特!

喜欢历史的阿繁
2026-10-14 00:23:28
京沪高铁收支出炉:运行满 15 年,总投资约 2209 亿,回本了吗?

京沪高铁收支出炉:运行满 15 年,总投资约 2209 亿,回本了吗?

抽象派大师
2026-09-15 13:35:53
家中出现3个迹象,多半是旺宅,别破坏

家中出现3个迹象,多半是旺宅,别破坏

阿离家居
2026-10-12 05:26:23
苏联解体后,俄罗斯在34年几乎错过了所有技术革命,究竟在忙什么

苏联解体后,俄罗斯在34年几乎错过了所有技术革命,究竟在忙什么

清沐执笔
2026-10-13 21:31:22
湖南一女网红宣布回归,其自述一年前从高空坠楼奇迹生还:这条命是医生护士,是所有爱我的人一起从老天手里抢回来的

湖南一女网红宣布回归,其自述一年前从高空坠楼奇迹生还:这条命是医生护士,是所有爱我的人一起从老天手里抢回来的

极目新闻
2026-10-13 00:50:16
仗打完了,事就完了?乌克兰前总司令扎卢日内曾发出“警告”,等俄乌冲突一结束,乌克兰可能马上就得面对另一场危机,那便是内部动乱

仗打完了,事就完了?乌克兰前总司令扎卢日内曾发出“警告”,等俄乌冲突一结束,乌克兰可能马上就得面对另一场危机,那便是内部动乱

回京历史梦
2026-10-13 09:21:23
浙江男子花30万买新能源车自驾去西藏,半路车突发故障,安全辅助功能直接罢工;4S店:暂时没货,配件到货后为车主更换维修

浙江男子花30万买新能源车自驾去西藏,半路车突发故障,安全辅助功能直接罢工;4S店:暂时没货,配件到货后为车主更换维修

大风新闻
2026-10-11 08:45:09
惊人的母子定律:一个男孩的命,看他母亲就知道

惊人的母子定律:一个男孩的命,看他母亲就知道

金哥说新能源车
2026-10-01 21:32:36
向太爆料:文章和马伊琍的离婚瓜,居然还有完全不一样的版本?

向太爆料:文章和马伊琍的离婚瓜,居然还有完全不一样的版本?

四海神君
2026-10-12 07:00:16
2026-10-14 03:23:00
陆新征课题组
陆新征课题组
清华大学陆新征课题组
46文章数 1关注度
往期回顾 全部

科技要闻

扎克伯格宣布追上OpenAI!Meta新模型亮相

头条要闻

男子到姐姐家调解夫妻矛盾 不到1分钟被姐夫刺死

头条要闻

男子到姐姐家调解夫妻矛盾 不到1分钟被姐夫刺死

体育要闻

走调的歌声里全是感情 最好的郑钦文尚未登场

娱乐要闻

谭松韵亲自解答兰香结局遗憾

财经要闻

"黑医师"产业链调查:不学医竟能"拿证"

汽车要闻

豪华智能全拉满 比亚迪大汉不止旗舰级舒适

态度原创

亲子
手机
旅游
家居
军事航空

亲子要闻

孕期可以有性生活吗?一次说清楚

手机要闻

华为麒麟9050 Pro完整架构公布:9核CPU+30B大模型塞进手机,5GHz也快了!

旅游要闻

金秋桂香飘

家居要闻

2026建博会(广州) 公装联探展交流活动

军事要闻

胡塞武装持续发动袭击 沙特王储被指辗转多个地堡宫殿

无障碍浏览 进入关怀版