网易首页 > 网易号 > 正文 申请入驻

高通Chris Lattner:以Mojo和MAX构建跨异构硬件的统一AI软件平台

0
分享至

来源:环球网

【环球网科技综合报道】每隔几天处理数万亿词元,并将支持范围扩展至来自六家硬件厂商的六种架构,这是Modular统一AI软件平台目前展示出的生产规模和异构硬件覆盖能力。夏威夷当地时间9月23日,在2026骁龙峰会上,高通技术公司先进AI软件与平台执行副总裁Chris Lattner发表主题演讲,系统介绍了这一数据背后的统一AI基础设施。随着高通完成对Modular的收购,Chris Lattner及其团队加入高通。由Mojo、MAX和Modular Cloud构成的Modular平台,形成覆盖从AI内核开发、模型构建与服务到云端规模化部署的统一异构技术栈。


作为前Modular的联合创始人兼首席执行官,Chris Lattner在演讲中称,当前行业正面临算力需求快速增长的挑战,众多硬件厂商采用不同技术路径填补算力供给缺口,整个行业投入大量资本构建异构硬件生态系统。“但真正的瓶颈在于软件。每个硬件团队都不得不从基础原理出发,构建自己的软件栈。即使是规模较大的公司,也难以跟上新模型研究持续演进的速度。”他认为,现代AI推理已经演变为大规模分布式系统问题,要保持竞争力就必须在系统的每一层进行优化,而AI开发者需要同时管理和调试多个相近却不同的软件栈。

Logan Iyer表示,Windows支持广泛而多元的生态系统,让数百万开发者能够灵活选择符合自身需求的工具和框架。将Mojo原生支持引入Windows,正是为了进一步拓展这些选择。借助Mojo,开发者可以使用熟悉的Python语法进行系统级编程,并在Windows上获得性能优化,这种可移植性还能跨越不同平台和厂商,从边缘延伸至云端。

这一困境让Chris Lattner联想到当年构建LLVM编译器基础设施时面临的挑战。当时,所有人都在使用已有20年历史的GCC技术,却难以证明实现升级所需投入的合理性。而LLVM通过提供统一的编译器基础设施,让不同硬件厂商共享同一套工具链,最终推动了整个行业的创新加速。“与当时一样,如果能让所有人携手合作,我们就能以全行业之力打破这一局面。”

三层架构构建统一AI技术栈

据悉,Modular平台由三个层级构成,覆盖从底层内核到云端部署的完整链路。Modular平台由三个相互衔接的层级构成:Mojo为AI内核和底层优化代码提供可编程基础;MAX负责生产级模型开发、推理与服务;Modular Cloud则支持AI工作负载在云端规模化部署。每一层都能独立发挥作用,组合在一起则构成从内核到云端的统一异构技术栈。

Mojo是面向AI硬件打造的高性能系统编程语言。Chris Lattner介绍,开发Mojo旨在解决AI开发长期存在的“三语言难题”:研究工作主要使用Python,高性能实现则依赖C++和CUDA,而AI的未来将跨越多种芯片并从云端延伸到边缘。Mojo提供能够在各种芯片和硬件上运行的编程语言,让AI研究人员、基础设施和硬件工程师使用熟悉的类Python语法,编写可移植的底层AI优化代码,同时不牺牲性能。Mojo 1.0已于上个月发布并达到生产就绪状态,完整语言包括标准库、编译器和工具链,已基于Apache 2.0许可全面开源。

在Mojo之上是MAX,这是面向生产级AI工作负载打造的模型开发与服务框架。MAX是一个现代化、面向生成式AI原生设计的框架,目前聚焦推理工作,未来将扩展至训练领域。MAX让AI研究人员和建模优化工程师能够在一个以可移植性为核心设计的统一框架中,构建高性能AI工作流。

最新推出的Modular Cloud则面向企业AI工程师、机器学习运维团队和生产级AI部署人员,让用户无需关心底层采用何种芯片架构,即可规模化部署AI工作负载,同时获得性能优化和总体拥有成本控制。开发者依然可以使用熟悉的API,而底层的资源配置、调度、扩展、优化和硬件选择均由Modular负责。

三层架构的设计逻辑,是减少开发者面向不同硬件平台重复改写和优化代码的工作,在研究、模型服务及规模化部署之间提供更加统一的开发体验,并降低维护多套相互割裂软件栈的复杂度。

平台落地验证 从数据中心ASIC到多架构支持

统一平台的价值需要在生产环境中验证。Chris Lattner分享了一组运行数据:Modular在生产环境中每隔几天就能处理数万亿词元,能够面向多家硬件厂商以及多代处理器平台提供性能优化。近期,Modular平台的支持范围从GPU扩展至专用数据中心ASIC,新增对三种全新架构的支持,使平台支持范围扩大至来自六家不同硬件厂商的六种架构。

在与高通的合作方面,双方正将Modular技术栈引入高通飞龙数据中心加速器产品组合。Chris Lattner表示,适配过程较为顺畅,因为基于高通成熟的NPU软件能力,将其与Modular面向AI和高性能场景的可扩展技术栈结合在一起,即可在高度可扩展的高通NPU平台系统之上实现性能优化。

“我们的使命很简单:充分释放异构计算的潜力。”Chris Lattner表示,未来的AI硬件只会越来越多样化、越来越复杂,关键不只在于硬件本身,更在于赋予开发者自由——让他们能够使用开放技术栈和开放系统,针对自身应用场景选择合适的硬件,同时不牺牲实现优质体验所需的性能。这让每个人都能更自由地构建自己想要打造的产品和服务。

数据中心只是高通业务布局的一部分。高通的产品技术覆盖从毫瓦级到千瓦级乃至更高的计算范围,依托一个高度模块化、可扩展的硬件平台实现这一覆盖。随着Modular加入高通,整套Modular软件平台正被引入高通的所有产品组合,其中也包括骁龙。这意味着,统一AI软件栈的能力将从数据中心延伸至手机、PC、可穿戴设备、汽车等边缘终端。


从云到端 开放生态推动AI创新普惠

软件平台的统一离不开操作系统生态的配合。在演讲中,Chris Lattner宣布与微软深化合作,进一步推进Modular技术栈对Windows平台的支持。微软Windows平台与开发者事业部企业副总裁Logan Iyer登台介绍,双方团队正在合作为Mojo开发Windows原生支持。

Logan Iyer表示,Windows支持广泛而多元的生态系统,让数百万开发者能够灵活选择符合自身需求的工具和框架。将Mojo原生支持引入Windows,正是为了进一步拓展这些选择。借助Mojo,开发者可以使用熟悉的Python语法进行系统级编程,并在Windows上获得性能优化,这种可移植性还能跨越不同平台和厂商,从边缘延伸至云端。

Chris Lattner在演讲中说:“关键不只在于硬件本身,更在于赋予开发者自由。”当行业目光集中在更大的模型参数和更高的芯片算力时,Chris Lattner把关注点放在了另一处:让开发者能够以更统一的方式面向多种硬件架构开发和优化AI工作负载。每隔几天数万亿词元的处理量,表明Modular技术栈已经承载真实的生产级工作负载;而平台向六家硬件厂商、六种架构扩展,则进一步体现其面向异构计算环境的发展方向。(心月)

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
60厘米超长蛋挞被吐槽全是皮没蛋液 !鲍师傅回应:会持续优化产品

60厘米超长蛋挞被吐槽全是皮没蛋液 !鲍师傅回应:会持续优化产品

快科技
2026-09-29 11:49:05
63岁刘欢不幸辞世,最悲痛的不是他的妻子和女儿,是他41岁的徒弟

63岁刘欢不幸辞世,最悲痛的不是他的妻子和女儿,是他41岁的徒弟

悦君兮君不知
2026-09-29 06:47:57
赢了所有比赛,却可能留不下?林诗栋被调侃去德国,饭圈才是推手

赢了所有比赛,却可能留不下?林诗栋被调侃去德国,饭圈才是推手

曹老师评球
2026-09-28 20:38:42
韩媒:日本选手一直挑衅中国选手,林诗栋连续夺冠却盛赞张本篠塚

韩媒:日本选手一直挑衅中国选手,林诗栋连续夺冠却盛赞张本篠塚

颜小白的篮球梦
2026-09-29 12:31:30
刘欢的板书写得非常漂亮,字如其人,不张扬又足够洒脱。

刘欢的板书写得非常漂亮,字如其人,不张扬又足够洒脱。

荆楚寰宇文枢
2026-09-28 22:18:07
车龄已经达到13年,但里程只有10万公里,还能继续开吗?专业人士告诉你

车龄已经达到13年,但里程只有10万公里,还能继续开吗?专业人士告诉你

沙雕小琳琳
2026-09-29 04:53:37
祝贺,28岁日本国脚旗手怜央宣布自己结婚

祝贺,28岁日本国脚旗手怜央宣布自己结婚

懂球帝
2026-09-29 16:17:20
原来拉拉之间也是要彩礼的,网友说:那个拉拉无助的像个男人!

原来拉拉之间也是要彩礼的,网友说:那个拉拉无助的像个男人!

黯泉
2026-09-29 18:36:26
毛主席追悼会开始前十分钟,突发状况,华国锋当场喊话请不要捣乱!

毛主席追悼会开始前十分钟,突发状况,华国锋当场喊话请不要捣乱!

钟离踏忆
2026-09-27 12:23:56
“最风流”央视女主持:把两个有妇之夫玩弄于股掌,如今怎样了

“最风流”央视女主持:把两个有妇之夫玩弄于股掌,如今怎样了

有范又有料
2026-09-28 18:44:24
原来他是刘欢的亲家,重庆有头有脸的人物,经济实力不错还宠儿媳

原来他是刘欢的亲家,重庆有头有脸的人物,经济实力不错还宠儿媳

往史过眼云烟
2026-09-27 16:55:32
清华大学宣布:黄仁勋、苏姿丰共同加入

清华大学宣布:黄仁勋、苏姿丰共同加入

快科技
2026-09-29 18:22:08
重磅挖角!阿森纳瞄准世界第一中锋!全方位碾压哲凯赖什

重磅挖角!阿森纳瞄准世界第一中锋!全方位碾压哲凯赖什

澜归序
2026-09-30 08:56:19
8亿铂金级肉签公布中签结果,中签号码9.07万个,股民中了即赚了!

8亿铂金级肉签公布中签结果,中签号码9.07万个,股民中了即赚了!

数据挖掘分析
2026-09-30 08:15:47
韩国队慌了,赛前罕见认怂,输球全员服兵役,国足今非昔比,取胜概率提升

韩国队慌了,赛前罕见认怂,输球全员服兵役,国足今非昔比,取胜概率提升

体坛风之子
2026-09-30 07:00:23
10人参赛全员得牌,7人夺金,6人破世界纪录!韩媒:朝鲜举重震惊世界

10人参赛全员得牌,7人夺金,6人破世界纪录!韩媒:朝鲜举重震惊世界

新杀猪的秀才
2026-09-29 11:32:28
姚明还能回归篮协吗?苏群:让专业人士当主席的政策现在已经没了

姚明还能回归篮协吗?苏群:让专业人士当主席的政策现在已经没了

狼叔评论
2026-09-29 18:28:04
网友吐槽,麦当劳都快变成垃圾场了,中途没人收拾,吃完也没人收拾,到底因为啥?

网友吐槽,麦当劳都快变成垃圾场了,中途没人收拾,吃完也没人收拾,到底因为啥?

眼光很亮
2026-09-29 12:56:10
十二天屠城七十万,却被专家吹捧为千古完人、民族英雄,实在可笑

十二天屠城七十万,却被专家吹捧为千古完人、民族英雄,实在可笑

历史人文2
2026-09-29 22:38:32
拉夫罗夫:俄罗斯可同意将S-400系统从土耳其转移给友好国家

拉夫罗夫:俄罗斯可同意将S-400系统从土耳其转移给友好国家

俄罗斯卫星通讯社
2026-09-29 15:30:48
2026-09-30 11:16:49
环球网资讯 incentive-icons
环球网资讯
环球网,了解世界,融入世界
1441489文章数 2740225关注度
往期回顾 全部

科技要闻

OpenAI凌晨大上新!新助手dots迎战Muse

头条要闻

媒体:菲方新海图包含南海多岛 可否把日本列岛也划入

头条要闻

媒体:菲方新海图包含南海多岛 可否把日本列岛也划入

体育要闻

石雨豪:亚运金牌与背后的十年

娱乐要闻

金鹰这夜,演员争辉,有惊喜,反差

财经要闻

中央财政首次贴息房贷 定向支持首套刚需

汽车要闻

5.1米大车跑云南盘山路,海狮08试驾体验超预期

态度原创

本地
时尚
健康
艺术
公开课

本地新闻

中秋逛白塔寺,体验国医妙荟雅集

老板,我的脑子好像忘在家里了

洗脸越勤,痘痘反而越多?

艺术要闻

40岁,她改造170㎡复式房送自己:一个人生活也很精彩

公开课

李玫瑾:为什么性格比能力更重要?

无障碍浏览 进入关怀版