北京
来源：市场资讯
（来源：科技日报 科技日报）
◎ 胡定坤
7月22日，美国白宫科技政策办公室主任迈克尔·克拉齐奥斯突然在社交媒体上宣称，中国AI企业“月之暗面”通过蒸馏美国Anthropic公司的Fable开发Kimi K3大模型。仅仅几个小时后，美国财政部长斯科特·贝森特发文威胁，要用制裁和“实体清单”来应对中国企业的蒸馏。
先炒作“窃取知识产权问题”，再对中国实体施加制裁，这是近些年美国打压中国科技发展的一个常见套路——在出手害人之前，先把自己打扮成一个受害者。对不明真相的人来说，这一伎俩往往具有一定的迷惑性。不过，这次美国的套路却注定要“翻车”，因为靠蒸馏Fable开发Kimi K3的说法实在是过于外行。
图片来源：视觉中国
一个很明显的问题是，就像抄作业抄不出好成绩，Kimi K3表现出的先进性能，根本无法靠蒸馏获得。美国著名AI技术专家内森·兰伯特撰文指出，Kimi K3在Vals AI指数中排名全球第二，在Artificial Analysis智能指数中排名全球第三，在“前端代码竞技场”基准测试中排名第一。兰伯特表示，那些认为中国AI实验室仅通过窃取知识产权，就能做出优秀模型的AI观察人士，是时候醒醒了——中国公司在构建大模型方面与美国领先公司一样出色。
兰伯特在文中对Kimi的研究团队大加赞扬。他说，他曾在中国之行中与Kimi的一些核心研发成员会面，清楚地感受到他们拥有令人惊叹的企业文化。兰伯特称，由于拜访过Kimi团队，他对Kimi K3的出色性能并不意外，在他拜访过的许多AI公司中，很少有公司像Kimi团队这样，有如此鲜明的企业文化。
另一个问题则是，Kimi K3是一个开源大模型，主要技术细节对外开放，不像Open AI、Anthropic等美国企业开发的闭源大模型，几乎是一个“技术黑箱”。研究团队公布了详细的技术报告，介绍了Kimi K3通过使用“混合线性注意力”“注意力残差”等独特技术，使整体扩展效率比上一代模型Kimi K2提升了约2.5倍，参数规模达到2.8万亿。美国个别政客可能看不懂，或者选择性地无视这些技术飞跃，污蔑Kimi K3的开发靠蒸馏美国大模型，但各国AI研究人员并不糊涂，看得清Kimi K3的先进性能究竟由何而来。
Kimi K3品牌视觉图。图片来源：月之暗面
毫无疑问，Kimi K3成功的根源在于技术创新。正如美国密歇根州立大学理论物理学和计算数学、科学与工程学教授徐道辉在社交媒体上所说，Kimi K3实现了非凡的神经网络架构创新，它是从零构建的原创、大规模架构，而非通过蒸馏对其他大模型进行压缩模仿。徐道辉提到了多篇Kimi团队发表的重要论文，其中一篇介绍了K3大模型使用“线性注意力机制”，实现了100万词元的超长上下文窗口；另一篇则概述了如何管理“注意力”，使大模型的训练效率提升25%。
中国在AI领域的发展与成就全球有目共睹。美国部分政客身处关乎美国科技发展的关键职位，应当做内行人，不应老说外行话，信口开河地污蔑中国大模型靠蒸馏，这样只能让自己看起来很业余。
来源：科技日报 图片来自视觉中国
编辑：王程玥
审核：朱丽
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
