网易首页 > 网易号 > 正文 申请入驻

物理·评论:结构即解释——网络成为科学假设的可计算载体

0
分享至


导语

2024年发布的KAN的核心创新在于将MLP的“节点激活”变为“边激活”,用可学习的B样条函数替代固定激活函数,使网络天然具备函数分解能力。之后原班人马推出的KAN2.0 引入乘法节点和树转换器,从而支持先验知识引入,及通过结构展示变量间的组合逻辑。

关键词:KAN ,可解释性,模块识别,符号推理

来源:集智俱乐部

作者:郭瑞东

审校:赵思怡


论文题目:Kolmogorov-Arnold Networks Meet Science 论文链接:https://journals.aps.org/prx/abstract/10.1103/4t7t-v19l 发表时间:2025年12月17日 发表期刊:Physical Review X

KAN2.0如何整合先验科学知识

KAN 2.0框架的核心是“双向协同”(bidirectional synergy),即科学知识注入网络,网络洞察反哺科学(图1)。而使这成可能的,是在KAN中引入乘法节点,从而形成的MultKAN,该结构天然支持乘积运算。


图1:KAN和科学发现的关系

根据Kolmogorov-Arnold定理,理论上仅需加法与单变量函数即可逼近任意多元连续函数,乘法可被隐式编码。但这种“用加法模拟乘法”的路径在拓扑上无法直接体现乘的语义。

图2左上的标准KAN中节点代表求和操作,边承载可学习的单变量函数,右上的MultKAN在标准KAN层之间插入显式的乘法层。该层包含两类节点。加法节点与标准KAN一致直接复制前一层子节点的输出,乘法节点:对前一层的 kk 个子节点执行乘积运算。这一设计使网络获得原生乘法能力,无需通过复杂函数组合间接实现乘积。


图2:MultKAN和原版KAN的对比

图2下半部分对比原版KAN和MultKAN对乘法的表征差异,原版“用加法模拟乘法”的路径在拓扑上无法直接体现乘积语义,且对噪声敏感。MultKAN的学习结果中,网络直接激活单个乘法节点,所有边上的激活函数退化为线性函数,表明无需额外非线性变换。这样网络拓扑本身即表达 x*y 的物理意义。

有了MultKAN,通过作者开源的kanpiler包,能将符号公式(如动能T=½mv²)直接编译为KAN结构,使网络从“物理正确”的初始状态开始学习,这相当于为AI模型引入了先验知识(图3a)。图3b展示了kanpiler在多个物理公式上的实战能力,它使模型从“物理正确”的状态开始学习,而非在随机初始化的参数空间中盲目搜索。


图3:KAN2.0如何将科学知识整合到KAN中

KAN不止能基于已有的先验公式,还能探索未知的变量间关系。具体来看,KAN 2.0采用两种扩展策略(图3c):

  1. 宽度扩展(expand_width):在指定层横向增加新节点,并添加连接新旧节点的边。

  2. 深度扩展(expand_depth):在网络中插入新层,将原单步变换拆解为多步复合变换。

图中以一个简单KAN(2输入→2中间→1输出)为例,展示扩展后网络如何从“精确但僵化”变为“灵活可塑”。这一设计符合科学发现的官吏,先验公式提供初始假设,而扩展与微调允许网络在数据驱动下修正或超越人类现有认知。

利用KAN 2.0发现科学规律

更激动人心的是反向过程,KAN2.0支持从训练好的KAN中提取科学规律。具体分为三步:

  1. 识别哪些输入变量真正影响输出(如发现行星轨道仅由质量与距离决定);

  2. 揭示变量如何组合成模块(如能量守恒体现为动能与势能的加和结构);

  3. 通过符号回归将边上的B样条拟合为数学表达式(如sin(x)、exp(x))。

在图4a中,对比了原版KAN与MultKAN对节点(变量)重要性的评估,原版KAN识别出的这些活跃信号可能被后续层“静默”,从而对变量的重要性产生误判。KAN 2.0的归因评分采用反向传播式计算,评分函数能正确识别出 x1路径实际无贡献,生成稀疏且物理一致的网络图,其中仅 x2 路径被高亮,与方程的数学本质完全吻合。

通过反向传播式评分,量化每条路径对输出的边际贡献。这接近科学实验中的“干预测试”:若移除某变量,输出变化多大?归因评分正是这种思想的计算实现。


图4:KAN2.0如何通过归因评分和剪枝确定关键变量

在真实科学问题中(如基因组学、气候建模),输入维度常达数百甚至上千,但仅少数变量与目标相关。图4b为包含所有100个变量的KAN与剪枝后得到包含对结果贡献最大的5个变量的KAN。

KAN剪枝的过程,就是在做假设生成。当KAN自动剔除95个变量后,科学家可聚焦于剩余5个变量构建物理模型,加速“数据→理论”的转化。


图5:KAN2.0如何自动得到变量模块

KAN 2.0进行科学发现的第二步是将关键变量模块化。KAN 2.0采用的auto_swap的神经元交换技术,为训练完成的KAN网络中的每层节点随机分配二维坐标 (x,y),并定义总连接成本 ,之后迭代式的尝试交换同层任意两节点的坐标,若交换后总连接成本下降则接受,直至收敛(图5上)。该过程不改变网络功能仅重排节点顺序,却使强连接的节点在空间上聚集,弱连接节点分离,形成肉眼可辨的模块簇 。

对比当前多层神经网络MLP中,由于采用固定激活函数(如ReLU)难以直接表达多数投票的非线性阈值特性,被迫用多层组合近似,导致功能模块在参数空间中“弥散编码” (图5下)。

当任务本身具有模块结构时,KAN的边激活架构会自然学习到稀疏连接模式,这意味着功能模块化可自发诱导解剖模块化,科学家能据此从数据中发现系统中存在独立的子模块。识别出的模块可被剪枝或替换为符号公式,实现“神经-符号”混合建模。层次化模块结构还可直接对应物理系统的尺度分离(微观→介观→宏观),为多尺度建模提供网络拓扑依据。

在二维谐振子实验中,KAN自动发现了三个守恒量:x方向能量、y方向能量与角动量。当KAN的某条路径仅连接x与pₓ时,暗示该守恒量仅与x方向运动相关。网络拓扑成了物理对称性的可视化映射


图6:KAN如何发现功能模块,从而拟合公式

KAN 2.0不仅能拟合函数,更能逐步学习函数内在的层次化结构,从而发现对应的数学公式。图6a定义了功能模块化的三级层次体系,每一级对应特定的数学结构与可计算检测准则。图6b通过两个合成函数,可视化展示了树转换器(tree converter)如何将任意函数递归分解为层次化树结构。在之后的案例中,研究者用KAN 2.0在发现史瓦西黑洞隐藏对称性时,用图6的树转换器可识别出坐标变换的层次结构。

总结

Software 1.0的传统编程,完全依赖先验知识,代表“理性主义”(知识源于先验推理),Software 2.0机器学习代表“经验主义”(知识源于数据归纳),完全依赖从数据中从头挖掘(图7a),前者对应论语中的思而不学则怠,后者对应学而不思则惘,。而KAN 2.0试图融合二者,采用可学习的组件找出可推理的结构。它牺牲部分可学习性(相比MLP需更多参数拟合同等函数),换取可解释性的质变(从“事后解释”到“结构即解释”)。


图7:KAN相比传统程序和机器学习在可解释性与可学习性上的扩展

图7b以帕累托前沿,追问可解释性是否随规模增长而必然衰减? 只依赖KAN(厚红线),规模较小时,网络整体可读。但随规模增长,即使每条边单独可解释,组合爆炸导致全局理解困难。如同能读懂每个汉字,却无法理解百万字小说的叙事结构。

“仅靠人类直觉”所能达到的可解释性上限,呈现指数衰减趋势。而通过符号回归(Symbolic regression),模块发现(Modularity discovery)和特征归因(Feature attribution),细红线对应的模型×方法×人类认知"的协同作用可将可解释性边界向外推移。

传统科学哲学认为,理解即获得符号公式;但KAN 2.0指出,理解存在光谱:从识别关键变量,到把握模块关系,再到精确公式。这种分层观更贴近真实科研——生物学家可能无需微分方程,仅凭通路模块就能理解细胞信号传导。

当前XAI(可解释AI)多聚焦于事后解释(post-hoc explanation),如用注意力热力图说明CNN关注图像哪部分。但KAN 2.0倡导的内在可解释性(inherent interpretability)让网络结构本身即承载科学意义。当KAN的边对应物理量间的函数关系,节点对应变量组合,网络不再是黑箱,而成为科学假设的可计算载体

KAN2.0 将AI从“预测引擎”重塑为“认知伙伴”。未来AI4Science工具或许应具备三重能力:感知数据、操作符号、生成假设。KAN在前两者间架起桥梁,而假设生成可能需要结合大语言模型的推理能力。

阅读最新前沿科技趋势报告,请访问21世纪关键技术研究院的“未来知识库”


未来知识库是 “21世纪关键技术研究院”建 立的在线知识库平台,收藏的资料范围包括人工智能、脑科学、互联网、超级智能,数智大脑、能源、军事、经济、人类风险等等领域的前沿进展与未来趋势。目前拥有超过8000篇重要资料。每周更新不少于100篇世界范围最新研究资料。 欢迎扫描二维码或访问https://wx.zsxq.com/group/454854145828进入。

截止到2月28日 ”未来知识库”精选的百部前沿科技趋势报告

(加入未来知识库,全部资料免费阅读和下载)

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
上半年访日游客超2100万人

上半年访日游客超2100万人

东京在线
2026-07-16 01:22:28
黄山市委原常委、市政府原常务副�...

黄山市委原常委、市政府原常务副�...

新浪财经
2026-07-16 18:49:04
哈马斯袭击加沙世界粮食署分发点,联合国官员谴责时却刻意不点名

哈马斯袭击加沙世界粮食署分发点,联合国官员谴责时却刻意不点名

老王说正义
2026-07-16 01:56:33
通报偏了,雷某悬了:长沙霸位事件,该彻查的绝不止女干部一人

通报偏了,雷某悬了:长沙霸位事件,该彻查的绝不止女干部一人

天天热点见闻
2026-07-16 19:18:53
女同事失恋,喝醉后群发消息:“不管感情,谁给50万就结婚”。没想到半小时后收到大大小小的红包,却一个200块钱都没有

女同事失恋,喝醉后群发消息:“不管感情,谁给50万就结婚”。没想到半小时后收到大大小小的红包,却一个200块钱都没有

黎兜兜
2026-07-15 23:46:46
年轻时惊为天人,追她的都是有钱人,可如今77岁了还是单身一人

年轻时惊为天人,追她的都是有钱人,可如今77岁了还是单身一人

边城少爷
2026-07-16 10:45:32
郑州今夜起将有大到暴雨!最强降水时段:晚8时至明早10时

郑州今夜起将有大到暴雨!最强降水时段:晚8时至明早10时

大象新闻
2026-07-16 16:42:04
87岁袁伟民现状:头发全白,老到认不出,定居北京,曾是体育局长

87岁袁伟民现状:头发全白,老到认不出,定居北京,曾是体育局长

荣亭小吏
2026-07-16 11:50:09
蒋方舟的媚日

蒋方舟的媚日

哲空空
2026-07-14 14:42:36
牟治平代理佛山市市长,1.3万亿之城再造新佛山

牟治平代理佛山市市长,1.3万亿之城再造新佛山

黎禾梨财经人物
2026-07-16 18:19:24
高考再次验证张桂梅:教育最大的骗局

高考再次验证张桂梅:教育最大的骗局

新浪财经
2026-07-16 19:27:40
埃及裁判专家:阿根廷绝杀球应判无效,梅西助攻前踩斯彭斯脚

埃及裁判专家:阿根廷绝杀球应判无效,梅西助攻前踩斯彭斯脚

台州交通广播
2026-07-16 20:15:30
为什么阿根廷甘愿为梅西拼命?因为不善言辞的球王,是真护短!

为什么阿根廷甘愿为梅西拼命?因为不善言辞的球王,是真护短!

阿器谈史
2026-07-14 16:53:14
非遗武术教练曹海滨突发心梗去世,年仅57岁,风云武术会会长:他会120种武术套路,还是会里的厨师

非遗武术教练曹海滨突发心梗去世,年仅57岁,风云武术会会长:他会120种武术套路,还是会里的厨师

极目新闻
2026-07-16 11:36:26
西班牙阿根廷会师决赛,马竞9人成最大球员输出户

西班牙阿根廷会师决赛,马竞9人成最大球员输出户

懂球帝
2026-07-16 18:11:07
尊界SUV路测身价120万却因“2米5身高”被群嘲,博主紧急回应:底盘抬升测试而已

尊界SUV路测身价120万却因“2米5身高”被群嘲,博主紧急回应:底盘抬升测试而已

算力游侠
2026-07-14 05:00:43
寿命长不长,头发有暗示?白发越少的人活得越久?告诉你真相

寿命长不长,头发有暗示?白发越少的人活得越久?告诉你真相

健身狂人
2026-07-16 12:41:51
神了!范志毅猜对西班牙阿根廷进世界杯决赛 预测:阿根廷夺冠

神了!范志毅猜对西班牙阿根廷进世界杯决赛 预测:阿根廷夺冠

念洲
2026-07-16 07:17:17
白跑一趟!阿德巴约83分!!也没能获奖!

白跑一趟!阿德巴约83分!!也没能获奖!

柚子说球
2026-07-16 21:09:07
上海看病的水有多深?一个外地人跑了5家医院,总结出10条铁规矩

上海看病的水有多深?一个外地人跑了5家医院,总结出10条铁规矩

起喜电影
2026-07-16 19:26:22
2026-07-16 21:59:00
人工智能学家 incentive-icons
人工智能学家
人工智能领域权威媒体
4897文章数 37487关注度
往期回顾 全部

科技要闻

苹果AI终于要来了:还能追上华为豆包们吗

头条要闻

扎波罗热核电站总工遭袭身亡 被指或改变俄乌冲突性质

头条要闻

扎波罗热核电站总工遭袭身亡 被指或改变俄乌冲突性质

体育要闻

逆天6后卫神阵,图赫尔活活坑死英格兰

娱乐要闻

天下无不散宴席!白鹿官宣告别欢娱

财经要闻

韩国股市暴涨暴跌 借钱炒股的散户快疯了

汽车要闻

智己LS9全系标配线控转向 权益价31.98万元起

态度原创

家居
健康
数码
房产
军事航空

家居要闻

2026建博会(广州) 公装联探展交流活动

中风为何总在激动、用力时到来?

数码要闻

荣耀PC本月升级计划公布,主打Magic视界和YOYO Claw体验焕新

房产要闻

洞察新局 | 2026年海珠置业红盘图鉴

军事要闻

美对伊战事真实花费被指高达千亿美元

无障碍浏览 进入关怀版