网易首页 > 网易号 > 正文 申请入驻

训练一次要数小时,他用降阶模型把强化学习提速了

0
分享至

复杂物理系统的强化学习,卡在一个让人头疼的问题上:模拟真实动力学太慢了。涡扇发动机这类系统,每次迭代可能要跑几分钟甚至几小时。训练一个智能体,时间成本高到让人怀疑人生。

一篇来自Towards Data Science的文章,展示了一条新思路——用基于SINDy(非线性动力学稀疏识别)的降阶模型做迁移学习,先在一个跑得快的简化环境里训练,再迁移到完整模型。作者Robert Etter用涡扇发动机自动油门作为概念验证,代码已经开源到GitHub。


降阶模型:把复杂系统“压缩”成简单方程

降阶模型的概念并不复杂:在尽可能保留精度的前提下,降低系统的复杂度。简单说,就是给复杂物理系统做一个“轻量版”,让它跑得足够快,同时不丢掉关键动力学特征。

文章用的工具是SINDy算法。它能从系统的时间序列测量数据中,自动发现以数学方程形式表达的模型。具体做法是:从一个候选数学项库(多项式、正弦函数等)里搜索,选出能准确描述观测状态变化的最少项数。换句话说,它帮你从数据里“挖”出最简洁的方程。

应用到涡扇发动机仿真时,SINDy推导出了一个节流阀设定与加速度之间的简化方程。这个方程跑起来比完整仿真快得多,正好可以作为强化学习的训练环境。

一个值得注意的细节:方程里没有高度和马赫数

文章里有个有趣的发现:SINDy生成的方程,并没有包含高度或马赫数这两个变量。作者原话是:“在当前的仿真和飞机模型下,SINDy认为这些因素对降阶模型没有影响。”

但他也坦承,这可能是一个潜在局限。毕竟真实飞行中,高度和马赫数对发动机动力学的影响是客观存在的。这个简化假设是否成立,取决于具体应用场景。作者没有回避这一点,而是明确指了出来。

为什么选自动油门?作者说得很实在

值得强调的是,作者并不认为这是强化学习的实际应用案例。他明确表示,经典控制方法(比如增益调度)已经能可靠解决自动油门问题,而且更容易通过认证。

选这个案例的原因很务实:一是存在一个合理的Python仿真环境,二是它足够说明两个原则——在复杂物理系统上使用强化学习,以及把降阶模型作为迁移学习的来源。用他自己的话说:“我并非将此作为强化学习的实际应用,而是出于便利性选择它。”

核心价值:训练时间从“不可接受”到“可接受”

这篇文章的核心贡献,在于展示了一条可行的路径:先用SINDy从数据中提取简化方程,构建降阶模型作为训练环境,完成强化学习训练后再迁移到完整模型。整个过程的关键收益,是把训练时间从“每次迭代数分钟甚至数小时”压缩到可接受的范围。

研究使用了Python涡扇发动机模拟器和基础飞行器空气动力学,构建了基于gymnasium的仿真环境。完整代码和Jupyter notebook已开源,想复现的读者可以直接上手。

文章在展示具体结果之前中断了,所以最终效果数据并未呈现。但方法论本身已经足够有启发性——对于任何被物理模拟速度卡住的强化学习项目,这套“先降阶、再训练、后迁移”的思路,都值得一试。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
大瓜?网传梁宏达也移民了,将在9月15日顺利离境

大瓜?网传梁宏达也移民了,将在9月15日顺利离境

小徐讲八卦
2026-09-06 13:06:15
碧桂园若爆雷,问题大过恒大!看到许家印结局,杨氏父女疯狂求生

碧桂园若爆雷,问题大过恒大!看到许家印结局,杨氏父女疯狂求生

铭记历史呀
2026-09-05 18:54:06
武大86页举报风波反转!原配隐忍十年遭全网怒斥:高知大人的恩怨,凭什么逼孩子买单

武大86页举报风波反转!原配隐忍十年遭全网怒斥:高知大人的恩怨,凭什么逼孩子买单

老猫观点
2026-09-06 07:32:22
丰田新车官宣:9月21日,正式上市

丰田新车官宣:9月21日,正式上市

科技堡垒
2026-09-06 11:39:30
“瓶盖大王”切入液冷风口,收获10天4个涨停板

“瓶盖大王”切入液冷风口,收获10天4个涨停板

和讯网
2026-09-06 11:35:03
如果主科是俄语,他们还会吼着取消吗?

如果主科是俄语,他们还会吼着取消吗?

手高在民间
2026-09-05 12:52:30
头号“国际巨婴”!苏联喂15年,中国养20多年,如今依旧穷得叮当响

头号“国际巨婴”!苏联喂15年,中国养20多年,如今依旧穷得叮当响

历史点行
2026-09-06 03:24:59
今日热意不减,明天午后起北京将有小到中雨

今日热意不减,明天午后起北京将有小到中雨

新京报
2026-09-06 11:46:03
“清一色的脖子前倾!”一张学生军训照片,让家长心里不是滋味

“清一色的脖子前倾!”一张学生军训照片,让家长心里不是滋味

熙熙说教
2026-08-30 13:35:48
高盛预测:人民币将迈入5.0时代,未来国人衣食住行会有3重变化

高盛预测:人民币将迈入5.0时代,未来国人衣食住行会有3重变化

平说财经
2026-09-05 15:26:46
副总统回归,会接班总统?

副总统回归,会接班总统?

中国新闻周刊
2026-09-06 13:45:05
行母习惯玩剧组夫妻!黄磊投资综艺亏麻了!

行母习惯玩剧组夫妻!黄磊投资综艺亏麻了!

八卦疯叔
2026-09-06 10:20:06
宋丹丹的幸福又升级了!本以为两个孙子随宋姓已圆满,没想到巴图直播翻身买大平层,儿媳比闺女还贴心

宋丹丹的幸福又升级了!本以为两个孙子随宋姓已圆满,没想到巴图直播翻身买大平层,儿媳比闺女还贴心

背包旅行
2026-09-06 14:09:53
王菲官宣订婚

王菲官宣订婚

喜欢历史的阿繁
2026-09-06 03:46:06
这是85岁李讷的近照,注意她的坐姿,终于明白她为何一直没去纪念堂

这是85岁李讷的近照,注意她的坐姿,终于明白她为何一直没去纪念堂

南书房
2026-09-03 15:50:12
随着郑钦文2-1凯斯,诞生2个不可思议,排名升前80,夺冠路线曝光

随着郑钦文2-1凯斯,诞生2个不可思议,排名升前80,夺冠路线曝光

侃球熊弟
2026-09-06 01:59:06
“全球首款”乙肝治愈药日本开卖!中国正在审,7500万人在等?

“全球首款”乙肝治愈药日本开卖!中国正在审,7500万人在等?

李云飞Afey
2026-09-05 17:30:10
“多少钱都不卖”,“葫芦娃爷爷”连夜把7个葫芦全剪了:来的人太多,要闯祸的,明年大概率不会再种葫芦了

“多少钱都不卖”,“葫芦娃爷爷”连夜把7个葫芦全剪了:来的人太多,要闯祸的,明年大概率不会再种葫芦了

鲁中晨报
2026-09-06 11:47:03
消息终于曝光?沉默六天,中方登上秋刀渔船,日本政府罕见失声

消息终于曝光?沉默六天,中方登上秋刀渔船,日本政府罕见失声

凡知
2026-09-06 13:51:13
周文强被抓了,良币驱逐劣币的时代正在来临

周文强被抓了,良币驱逐劣币的时代正在来临

创始人笔记
2026-09-05 00:10:58
2026-09-06 15:24:50
摸鱼算法
摸鱼算法
致力于用最前沿的AI技术,换取更多发呆时间的三十岁青年。
230文章数 71关注度
往期回顾 全部

科技要闻

DeepSeek被曝将采购16万颗华为昇腾950DT

头条要闻

男子官网订购特斯拉到外地提车 晚到10分钟未领到补贴

头条要闻

男子官网订购特斯拉到外地提车 晚到10分钟未领到补贴

体育要闻

本西蒙斯加盟国王,不管怎样,回来就好

娱乐要闻

低调富养!郭富城两女儿入读香港名校

财经要闻

亏损高达200亿,昔日彩电霸主走下巅峰!

汽车要闻

带升降立标MPV 岚图梦想家9预售价42.99万起

态度原创

亲子
旅游
艺术
时尚
本地

亲子要闻

平时忙碌,亏欠了孩子很多陪伴。趁着闲暇,带两个小朋友出门撒欢,看着他们开心奔跑的样子,瞬间觉得一切都值得,简单的幸福莫过于此。

旅游要闻

永定河休闲森林公园焕新重启,观光小火车同步投入运营

艺术要闻

有光的静物花卉,俄罗斯当代画家维罗尼卡·洛巴列娃

金秋最流行的鞋子,“红色”更时髦!

本地新闻

扒完小作文,富豪们私藏的度假胜地有多绝

无障碍浏览 进入关怀版