网易首页 > 网易号 > 正文 申请入驻

首次完整披露!月之暗面创始人英伟达大会重磅发声

0
分享至


【导读】AI大模型龙头月之暗面创始人杨植麟首次完整披露Kimi技术路线图

中国基金报记者 卢鸰

北京时间3月18日凌晨,月之暗面Kimi创始人杨植麟在主题为《How We Scaled Kimi K2.5》的演讲中首次完整披露Kimi技术路线图,并将焦点对准了大模型中被沿用多年的底层架构。

杨植麟认为,要推动大模型智能上限的持续突破,必须对优化器、注意力机制及残差连接等底层基石进行重构。

据悉,目前月之暗面Kimi正以投前估值180亿美元(约合人民币1200亿元),进行新一轮10亿美元融资。约一个月前,Kimi刚完成逾7亿美元的融资,当时估值为100亿美元;而在去年底一轮5亿美元的融资中,其估值为43亿美元。


首次完整披露Kimi技术路线图

在正在举行的英伟达GTC 2026大会上,算力基建的规模化(Scaling)已成为行业共识。

继今年 1 月底正式发布Kimi K2.5以后,杨植麟在本次演讲中首次系统性披露了该模型背后的技术路线图。他将Kimi的进化逻辑归纳为三个维度的共振:Token效率、长上下文以及智能体集群(Agent Swarms)。

在杨植麟看来,当前的Scaling不再是单纯的资源堆砌,而是要在计算效率、长程记忆和自动化协作上同时寻找规模效应。如果能将这三个维度的技术增益相乘,模型将表现出远超现状的智能水平。

技术重构是本次演讲的核心。杨植麟提出,行业目前普遍使用的很多技术标准,本质上是八九年前的产物,正逐渐成为Scaling 的瓶颈。

针对2017年诞生的全注意力机制(Full Attention),杨植麟展示了基于 KDA 架构的Kimi Linear。这是一种混合线性注意力架构,它挑战了“所有层必须使用全注意力”的惯例。

此外,针对已有十年历史的残差连接,Kimi引入了Attention Residuals 方案,将传统的固定加法累加替换为对前序层输出的Softmax注意力。这项工作引发了前OpenAI 联合创始人Karpathy的思考,直言对Attention is All You Need这篇Transformer开山之作的理解仍然不够。xAI创始人马斯克也评论称,Kimi这项工作令人印象深刻。

AI研究范式之变

在演讲的最后,杨植麟深入探讨了智能体集群的扩展。

他认为,未来的智能形态将从单智能体向动态生成的集群进化。Kimi K2.5 引入的Orchestrator机制,能够将复杂的长任务拆解给数十个子Agent并行处理。为了防止协作过程中出现单点依赖导致的“串行塌缩”,团队设计了全新的并行RL奖励函数,激励模型真正学会任务分解与并行执行。

在总结中,杨植麟还谈到了AI研究范式的转变。

他提到,十年前的研究往往更看重新想法的发表,但受限于算力资源,很难通过不同规模的实验来验证这些想法。而现在由于拥有了足够的资源和“缩放阶梯(Scaling Ladder)”,研究者可以进行严谨的规模化实验,从而得出更自信、更可靠的结论。这也是为什么Kimi能够从那些看似“古老”的技术中挖掘出新突破的原因。Kimi 将继续坚持开源路径,将MuonClip、Kimi Linear和 Attention Residuals等底层创新贡献给开源社区。

编辑:杜妍

校对:王玥

制作:鹿米

审核:陈墨

版权声明

《中国基金报》对本平台所刊载的原创内容享有著作权,未经授权禁止转载,否则将追究法律责任。

授权转载合作联系人:于先生(电话:0755-82468670)

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
刘亦菲67岁母亲近照曝光!大腹便便体态臃肿,气质却非常优雅

刘亦菲67岁母亲近照曝光!大腹便便体态臃肿,气质却非常优雅

娱说瑜悦
2026-08-30 21:25:17
始终没有获得注册!没签约,郭艾伦无缘新赛季CBA

始终没有获得注册!没签约,郭艾伦无缘新赛季CBA

德译洋洋
2026-09-01 12:30:29
赖清德,或将成为新中国历史上,首位在任遭变故的台湾地区领导人

赖清德,或将成为新中国历史上,首位在任遭变故的台湾地区领导人

徐云流浪中国
2026-09-01 03:19:36
大同火山再次“喷发”!不止震撼

大同火山再次“喷发”!不止震撼

大同那点事儿
2026-08-31 18:15:09
陈震脸上有光!他再次向大家证明,俩儿子早已成他傲视群雄的资本

陈震脸上有光!他再次向大家证明,俩儿子早已成他傲视群雄的资本

娱圈办事处
2026-08-31 20:20:08
武汉三镇0-3惨败!韦子弦75分钟染红下场,这锅谁来背?

武汉三镇0-3惨败!韦子弦75分钟染红下场,这锅谁来背?

林子说事
2026-09-01 11:02:11
“车是老婆的,但车上坐的不是老婆”,上海无人机执法拍到驾驶员开车玩手机,司机偷偷向民警求情“别把照片发后台,不能给老婆看到”

“车是老婆的,但车上坐的不是老婆”,上海无人机执法拍到驾驶员开车玩手机,司机偷偷向民警求情“别把照片发后台,不能给老婆看到”

台州交通广播
2026-08-31 23:41:24
暴雨、大暴雨、雷暴大风!即将影响江苏

暴雨、大暴雨、雷暴大风!即将影响江苏

最江阴
2026-09-01 09:58:41
97年我偷看邻居姐洗澡,被发现后她没骂我,红脸说:你臭小子长大

97年我偷看邻居姐洗澡,被发现后她没骂我,红脸说:你臭小子长大

普陀动物世界
2026-08-31 04:29:00
吴敬平深夜再回应樊振东输球:国乒一号主力大赛输球“不允许”,俱乐部不是一个等级,马继华:别双标

吴敬平深夜再回应樊振东输球:国乒一号主力大赛输球“不允许”,俱乐部不是一个等级,马继华:别双标

好乒乓
2026-08-31 19:55:36
不是王俊杰!男篮“退步最快”球员出炉,场均仅6分却能在国家队坐稳首发

不是王俊杰!男篮“退步最快”球员出炉,场均仅6分却能在国家队坐稳首发

大卫的篮球故事
2026-08-31 13:57:48
大开眼界!许家印当年奢靡生活曝光

大开眼界!许家印当年奢靡生活曝光

麦杰逊
2026-08-23 15:09:25
提前锁定2027大运!这3个生肖气势如虹,赚钱机会多全年顺吉!

提前锁定2027大运!这3个生肖气势如虹,赚钱机会多全年顺吉!

毅谈生肖
2026-09-01 10:56:33
一定要学会“把事情闹大”

一定要学会“把事情闹大”

经济观察报
2026-08-25 10:10:37
26.6万!丰田新车官宣:9月16日,正式开售

26.6万!丰田新车官宣:9月16日,正式开售

3C毒物
2026-09-01 00:49:57
我国第2个沙漠将消失:面积相当三个上海,年降水增到300毫米!

我国第2个沙漠将消失:面积相当三个上海,年降水增到300毫米!

观史搜寻着
2026-08-31 21:28:02
女优点评:次世代人妻钻石– 一乃あおい(一乃葵,Aoi Ichino)

女优点评:次世代人妻钻石– 一乃あおい(一乃葵,Aoi Ichino)

孤独的独角兽影视
2026-09-01 10:50:13
2亿60后集体退场,为何说中国再也不会有这代人?

2亿60后集体退场,为何说中国再也不会有这代人?

小怪吃美食
2026-08-25 04:44:10
1949年李讷在课堂上指出老师错误,老师恼羞成怒:把你爸爸叫来

1949年李讷在课堂上指出老师错误,老师恼羞成怒:把你爸爸叫来

萧竹轻语
2025-08-04 11:45:40
突然才发现:凡是家里出学霸的家庭,爸爸都有同一个特点,太准了

突然才发现:凡是家里出学霸的家庭,爸爸都有同一个特点,太准了

户外阿毽
2026-08-13 00:24:11
2026-09-01 15:07:00
中国基金报 incentive-icons
中国基金报
洞察金融市场,传播中国价值——《中国基金报》社官方账号(《中国基金报》社有限公司运营管理)
66192文章数 517726关注度
往期回顾 全部

科技要闻

OpenClaw最大更新,新用户很爽 老用户翻车

头条要闻

男子未经同意在鱼塘钓鱼触碰高压线身亡 家属索赔百万

头条要闻

男子未经同意在鱼塘钓鱼触碰高压线身亡 家属索赔百万

体育要闻

大爹杨瀚森,让中国男篮有了容错空间

娱乐要闻

王鸥官宣最狠的不是有孩子 是独自养育

财经要闻

库克卸任,苹果下一个增长点在哪?

汽车要闻

AI读懂时间/智驾迈入4D时空 小鹏第二代VLA完成重大升级

态度原创

旅游
数码
健康
艺术
公开课

旅游要闻

天坛公园:9月1日起恢复祈年殿等古建院落逢周一闭馆机制

数码要闻

消息称华为新平板切OLED屏设计,新款MatePad Air本月发布

脑梗黄金窗口延长!24小时内都有救

艺术要闻

任传文 油画作品集

公开课

李玫瑾:为什么性格比能力更重要?

无障碍浏览 进入关怀版