网易首页 > 网易号 > 正文 申请入驻

月之暗面开源2.8万亿参数 Kimi K3:Open的不止模型,三项技术家底一并开放

0
分享至

投资者内参丨杨跃滂

7月27日晚间,月之暗面正式宣布开源Kimi K3模型权重,同步发布技术报告,并开放三项支撑模型训练的关键基础设施技术——MoonEP、FlashKDA 和 AgentEnv。



Kimi K3由此成为全球首个真正落地的3万亿参数级别开源模型。

2.8万亿参数模型全球开放

Kimi K3是月之暗面目前能力最强的模型,总参数规模达到2.8万亿,采用混合专家(MoE)架构,具备原生视觉理解能力,并支持100万token的上下文窗口。

相比上一代Kimi K2.5,K3的参数规模提升约3倍。在算力条件并不宽裕的情况下,月之暗面凭借Kimi Delta Attention(KDA)、Attention Residuals(AttnRes)以及MoonEP等技术手段,将规模化效率提升了2.5倍(即在算力最优意义下,单位算力产出的智能约等于原来的2.5倍)。

月之暗面评测显示,尽管K3综合性能仍不及业界顶尖闭源模型 Claude Fable 5 与 GPT 5.6 Sol,但优于其他参与测试的模型。





第三方评测进一步验证了K3的实力。

AA-Briefcase是由Artificial Analysis(全球AI行业最受关注的独立分析机构之一,其榜单曾先后被OpenAI、Anthropic、Google等海外头部公司引用)开发的一个代理知识工作基准测试工具。

其中的AA-Briefcase Elo是一项综合评估指标,融合了通过率评分、分析能力Elo评分以及表现Elo评分,各项得分越高代表性能越好。Kimi K3在这一指标上取得1540分,位居前三。



开源的不只是模型,更是整个“技术底座”

月之暗面公布的技术报告披露了多项技术细节:

KDA + AttnRes:以3:1比例混合KDA与Gated MLA,实现高效长上下文建模,并通过块级注意力残差增强跨层信息流动。

传统注意力机制处理长文本时,模型读入的内容每增加一倍,计算量会增至约四倍;KDA将这种关系从“平方级”降到“线性级”,在同等算力下显著增强了模型处理信息、完成任务的能力。

AttnRes(Attention Residuals,注意力残差)则相当于给模型加装了一套“稳定器”,让信息在数百层网络间传递时不衰减、不失真。

Stable LatentMoE:每个token从896个路由专家中激活16个,通过SiTU-GLU与Quantile Balancing保持极高稀疏度下的训练稳定。

换句话说,K3拥有896个专家储备,但处理每个问题时只调度最擅长的16个专家协同完成,很好地控制了调用成本。

MoonViT-V2:视觉编码器从零开始使用next-token prediction训练,无需对比预训练。

后训练与评估:覆盖通用推理、通用Agent和编程Agent三大领域,包含百万token上下文的强化学习基建及近20个内部评测集。



此次开源的范围远超模型本身。月之暗面同步开放了支撑Kimi K3训练的三项关键基础设施(Infra)技术:

MoonEP:为超大细粒度MoE打造的高性能通信库,让专家并行通信在不均衡的情况下仍实现极致效率。

FlashKDA:Kimi Delta Attention的高性能算子,在英伟达H20上相比基线prefill速度提升1.72至2.22倍。prefill速度会直接影响用户等待第一个字出现的时间。

AgentEnv:与KVCache.ai合作开发的沙箱系统,为Kimi K3后训练提供高保真、强隔离环境,支持快速快照、恢复和分叉。沙箱系统类似于实验室里的无菌操作台,将代码与外界完全隔开,互不影响。
其中FlashKDA此前已开源,MoonEP和AgentEnv随本次发布正式开源。

华为阿里海光Day0跟进,黄仁勋力挺开源

月之暗面刚开放模型权重,国内芯片与云计算厂商便迅速跟进,甚至在产品正式发布的当天(Day0)就完成了配套支持,即Day0适配。

官宣仅几分钟后,华为昇腾CANN即宣布对Kimi K3的量化实现Day0原生支持。



7月28日早间,阿里云宣布真武M890超节点实例完成Day0适配,成为国内首个跑通近3万亿参数模型的超节点实例;



海光信息亦发文表示已完成Kimi K3在海光DCU平台的全流程适配、部署与性能验证。



这充分说明,国内算力生态已经具备快速承载运行世界级规模开源大模型的能力。

就在Kimi K3宣布开源的三天前——7月24日,英伟达CEO黄仁勋在社交平台X上发布了人生第一条推文。

推文内容指向一封由a16z发起,英伟达联合微软、Meta、Perplexity AI、Hugging Face等25家公司共同签署的公开信。该公开信明确主张“前沿开源模型与前沿闭源模型应并存发展”,并称开源模型具备安全、创新、AI自主主权等多重价值。OpenAI、Anthropic、Google三家最大的闭源实验室均未参与签署。

“一个广泛、开放的生态系统,是最适合承载AGI的土壤”

月之暗面表示,现在每个人都可以下载并部署Kimi K3模型——无论是用于内部研发,还是嵌入到面向终端用户的产品中,均可自由使用。具体使用范围需遵循Kimi K3许可证。

该许可证中,有两项特殊规定值得关注:

针对提供“模型及服务”公司的商业用途需求,被许可方及其关联方连续12个月合计收入超过2000万美元的,必须与月之暗面签署单独的协议。

任何拥有超过1亿月度活跃用户,或每月收入超过 2000 万美元的商业产品或服务,都必须在用户界面中清楚地展示“Kimi K3”标识。



月之暗面在公告中表示:“我们坚信开放权重模型的价值。它们能降低获取智能的门槛,推动创新,并赋予用户对数据更大的控制权、隐私保护和所有权。在过去几周里,我们很高兴听到了许多来自AI社区,以及与我们有着共同愿景的技术领袖的支持声音。我们相信,对于AGI这样具有深远影响的技术,一个广泛、开放的生态系统是最适合承载它的土壤。”

风险提示:本文为内容资讯,不构成个人投资建议。市场有风险,投资需谨慎。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
5.2亿!破产!成都大型商业综合体,被卖了!

5.2亿!破产!成都大型商业综合体,被卖了!

童童聊娱乐啊
2026-08-03 00:14:15
低调到没人知道!孙颖莎北京亲舅舅真实身份曝光

低调到没人知道!孙颖莎北京亲舅舅真实身份曝光

乒乓乐园
2026-08-04 00:27:12
美人豹!腿围第一的短跑女神刘薇,退学后25岁收到北体大录取通知

美人豹!腿围第一的短跑女神刘薇,退学后25岁收到北体大录取通知

杨华评论
2026-08-03 20:53:58
大陆接到消息,美国已介入,台当局很快就要动手,台海出现变数

大陆接到消息,美国已介入,台当局很快就要动手,台海出现变数

君笙拂兮啊
2026-08-03 13:59:51
梅西年度91球为什么被认为是绝世神迹,现役球员中有谁接近过他的数据

梅西年度91球为什么被认为是绝世神迹,现役球员中有谁接近过他的数据

蜡笔小新爱体育
2026-08-03 15:50:15
西班牙、法国、英国发表联合声明

西班牙、法国、英国发表联合声明

澎湃新闻
2026-08-02 21:01:01
《庆余年》男演员在景区当NPC:我需要稳定收入养家

《庆余年》男演员在景区当NPC:我需要稳定收入养家

新民周刊
2026-08-01 09:13:50
一男子每个月砸6000元给12岁女儿打生长激素,半年长了4厘米,男子:只求女儿以后高挑有气质,一辈子就这一次机会,这是有价值的投资

一男子每个月砸6000元给12岁女儿打生长激素,半年长了4厘米,男子:只求女儿以后高挑有气质,一辈子就这一次机会,这是有价值的投资

背包旅行
2026-07-31 18:04:16
左宗棠收复新疆用的十三响快枪,火力迅猛难敌,单支价值18两白银

左宗棠收复新疆用的十三响快枪,火力迅猛难敌,单支价值18两白银

夏虫欲饮冰
2026-07-17 11:30:07
当代父母最大的悲哀:不是儿子成不成家,而是儿子成家了,却养不起家

当代父母最大的悲哀:不是儿子成不成家,而是儿子成家了,却养不起家

小马达情感故事
2026-07-27 16:43:11
澳洲医疗机构联合警告华人: 不要回国看病!

澳洲医疗机构联合警告华人: 不要回国看病!

澳微Daily
2026-08-03 15:39:50
“李想将迎来第六娃”上热搜!

“李想将迎来第六娃”上热搜!

新浪财经
2026-08-03 15:51:46
抗议退票+烧毁球馆!?勇士敢交易库里吗!

抗议退票+烧毁球馆!?勇士敢交易库里吗!

柚子说球
2026-08-03 20:28:14
马云想让黄渤免费代言,黄渤:“可以,你送我一辆车吧!”马云问:“你想要什么车?”黄渤的回答有点意思

马云想让黄渤免费代言,黄渤:“可以,你送我一辆车吧!”马云问:“你想要什么车?”黄渤的回答有点意思

黎兜兜
2026-06-08 21:43:12
A股:突然跌到3809点,迹象很明显,明天周二,很可能这样走了?

A股:突然跌到3809点,迹象很明显,明天周二,很可能这样走了?

虎哥闲聊
2026-08-03 15:04:15
女子揭秘“饿两天定律”,体重狂掉33斤,瘦到100斤

女子揭秘“饿两天定律”,体重狂掉33斤,瘦到100斤

解说阿洎
2026-08-02 14:28:56
太难了!山西煤矿大批劳务派遣工人被清退,一条短信通知在当地朋友圈传播,引争议

太难了!山西煤矿大批劳务派遣工人被清退,一条短信通知在当地朋友圈传播,引争议

火山詩话
2026-08-03 16:08:21
中方黄岩岛演训震慑相关势力,专家:侵权外方船只的能力水平不及演训中“蓝方”

中方黄岩岛演训震慑相关势力,专家:侵权外方船只的能力水平不及演训中“蓝方”

环球网资讯
2026-08-03 06:57:15
河南三支一扶作弊风波,三大追问等待答案!网友:在古代,就是杀头的罪

河南三支一扶作弊风波,三大追问等待答案!网友:在古代,就是杀头的罪

火山詩话
2026-08-03 08:22:17
巴菲特的智慧:只要你不着急,人生就不会坏到哪里去

巴菲特的智慧:只要你不着急,人生就不会坏到哪里去

阿胖读书
2026-08-02 15:30:24
2026-08-04 03:08:49
投资者内参
投资者内参
深度研究挖掘公司投资价值,犀利观点穿透二级市场迷雾。
239文章数 66关注度
往期回顾 全部

科技要闻

“像魔法一样”的AI,只卖几分钱

头条要闻

特朗普:2029年1月前控制格陵兰岛

头条要闻

特朗普:2029年1月前控制格陵兰岛

体育要闻

马克龙介入FIFA危机 致电因凡蒂诺勿搞分裂

娱乐要闻

陈璇半蹲采访诺兰惹争议

财经要闻

美日联手,救得了日元吗?

汽车要闻

方程S系列将于成都车展发布内饰 9月上旬新车上市即交付

态度原创

手机
数码
艺术
本地
游戏

手机要闻

想换手机先等等!下月新旗舰将密集发布

数码要闻

网友反馈其苹果M5 Max MacBook Pro高负载运行过热导致按键变形

艺术要闻

颠覆认知!这份中国最美榜单出炉,第一名竟不是九寨沟?看完第一个我就坐不住了!

本地新闻

神仙也“蓉”漂,哪吒与八仙,皆是成都出品!

外媒直言《抵抗者》是中国人的COD 但更关注叙事

无障碍浏览 进入关怀版