网易首页 > 网易科技 > 网易科技 > 正文

CANN端云协同:节约开发、运行成本,支撑Mate90发布会鸿蒙独占应用创新

0
分享至

(原标题:CANN端云协同:节约开发、运行成本,支撑Mate90发布会鸿蒙独占应用创新)

CANN端云协同将云侧研发积累延伸至终端开发。依托昇腾与麒麟NPU同源的达芬奇(DaVinci)架构,以及CANN软件开发能力,开发者在昇腾上完成的部分模型适配与算子实现,可以继续沿用于麒麟端侧,在降低开发投入的同时,也有助于降低云侧推理成本。

摸小宠将基于昇腾训练的自研模型能力带入了鸿蒙终端。这款由魔芯科技开发的宠物3D重建应用,在本次手机发布会上作为鸿蒙独占应用亮相。其MoWorld-2.0模型在昇腾上完成训练,经量化与裁剪形成端侧版本,再通过算子代码的沿用与针对性适配,完成麒麟端侧部署。

算子资产与经验的端云协同,为模型迁移减少了重复开发工作,让云侧研发投入进一步服务于手机产品。

从昇腾到麒麟:延续硬件亲和设计与算子协同,减少落端工作量

昇腾与麒麟NPU均基于DaVinci架构,底层统一采用CANN软件栈,这意味着昇腾云侧训练的模型可便捷迁移至麒麟端侧芯片,实现“云端一致”的算子开发体验。

MoWorld-2.0模型在研发时,已将DaVinci硬件的亲和设计纳入其中。这种硬件亲和性的延续,使模型研发与终端适配顺畅衔接,端侧适配时无需再考虑模型架构是否适合端侧硬件设计。

端侧模型虽规格小于云侧,但保留了云侧模型的核心计算结构。通过量化与裁剪,形成约0.6B的端侧版本模型,其核心计算模块及相关算子结构与云侧保持一致,面向昇腾的计算设计仍然适用,也为底层代码的端云共用创造了条件。

算子作为模型执行计算的基本单元,其实现的跨设备复用程度,直接影响模型端侧部署的复杂度。摸小宠的端侧算子适配直接沿用了云侧训练阶段积累的代码,端侧仅需少量适配工作。此次迁移涉及的Vector类算子中,约85%的代码可原样保留,仅Tile等硬件强相关部分需要面向端侧调整。

基于统一的CANN软件栈,训练完成的模型只需四步即可部署到麒麟手机:

1. 模型量化:使用量化工具对模型进行量化压缩,降低端侧推理开销。

2. 模型导出:基于PyTorch框架配合torchAir插件,导出量化后的AIR模型(Ascend IR),自定义算子随之一并封装其中。

3. 模型转换:使用ATC工具对AIR模型进行优化与编译,生成可直接部署的离线模型。ATC在转换过程中逐算子编译,因此需要提供自定义算子在麒麟侧的实现。得益于麒麟与昇腾统一的Ascend C编程API,训练阶段在昇腾上实现的自定义算子可快速迁移至端侧,大幅降低适配成本。

4. 推理部署:将离线模型打包进鸿蒙HAP包,通过调用鸿蒙系统的CANN Kit库,即可在端侧完成模型推理。

基于此端云协同架构,单个算子从云侧迁移到手机从“以月计”变成“以天计”。摸小宠仅用数周时间即完成了自研模型的端侧适配。

摸小宠端云协同三维重建体验,节省计算成本

摸小宠致力于把用户相册中的静态宠物照片转化为真实感强、可交互的4D空间资产,提供“宠物就在身边”的沉浸式体验。市场上的同类产品缺乏还原真实宠物的能力,摸小宠基于自研新一代MoWorld-2.0技术,实现了通过用户的1-4张照片就能在云端还原出拟真的用户宠物的4D数字分身。

摸小宠基于用户输入的宠物图片,在麒麟端侧运行约6亿参数规模的MoWorld-2.0-flash模型;云侧昇腾平台上的扩散模型进一步参与生成,构建出更高质量的3D高斯模型,再回到手机端完成渲染与呈现。

端侧模型推理有助于节约运行成本。将MoWorld-2.0-flash部署在麒麟后,相应计算环节对云侧资源的需求随之减少,具体收益因业务流程、设备与使用场景而异。

进一步探索研发成果的端云共用

开发投入与运行成本,共同影响AI应用的持续供给。对拥有模型研发能力的团队而言,拓展终端产品既要承担新增的适配投入,也要考虑应用上线后的计算成本。

CANN端云协同从产品开发与服务运行两个阶段入手改善成本结构:云侧研发投入能够服务于后续终端产品,有助于降低拓展新场景时的额外工作量负担;应用上线后,结合业务需要灵活安排端侧与云侧计算,则可进一步控制运行成本。

端云生态协同的价值不止于此。欢迎昇腾与鸿蒙生态的开发者,面向更多创新场景,与CANN开源社区深入交流,共同探索端云协同的更多可能。

相关推荐
热点推荐
何智丽大阪想回上海养老,日本护照成拦路虎,回不去的何止是户口

何智丽大阪想回上海养老,日本护照成拦路虎,回不去的何止是户口

老吴教育课堂
2026-10-02 00:04:59
美股转跌!存储巨头,意外下挫!原油飙涨

美股转跌!存储巨头,意外下挫!原油飙涨

证券时报
2026-10-01 23:14:04
识别率接近 100%!德国科学家发出警告,WiFi 竟然可以成为隐形监控

识别率接近 100%!德国科学家发出警告,WiFi 竟然可以成为隐形监控

说宇宙
2026-09-30 18:15:05
高下立判!《马卡报》对比梅西和C罗的国家队结局!

高下立判!《马卡报》对比梅西和C罗的国家队结局!

历史第一人梅西
2026-10-01 22:26:08
西班牙王后莱蒂齐亚又把自己美晕了!冰蓝战袍压全场

西班牙王后莱蒂齐亚又把自己美晕了!冰蓝战袍压全场

喜欢历史的阿繁
2026-10-02 01:36:06
十二天屠城七十万,却被专家吹捧为千古完人、民族英雄,实在可笑

十二天屠城七十万,却被专家吹捧为千古完人、民族英雄,实在可笑

历史人文2
2026-09-29 22:38:32
英超顶级俱乐部高管:若曼城被逐出联赛,其他俱乐部也会损失惨重;DO:若处罚与判决结果相称,我不认为曼城还能留在英超

英超顶级俱乐部高管:若曼城被逐出联赛,其他俱乐部也会损失惨重;DO:若处罚与判决结果相称,我不认为曼城还能留在英超

MUREDS
2026-10-01 23:40:24
南航旧案:男上司和女下属1000天开房410次,做丈夫都没这么勤快

南航旧案:男上司和女下属1000天开房410次,做丈夫都没这么勤快

四海神君
2026-09-21 07:00:22
有人问,要是当年国民党赢了,老蒋主政中国,中国后来会是什么样子?

有人问,要是当年国民党赢了,老蒋主政中国,中国后来会是什么样子?

z千年历史老号
2026-09-03 18:18:17
税收4亿,工资26亿:财政没钱,为什么编内待遇不能动?

税收4亿,工资26亿:财政没钱,为什么编内待遇不能动?

混沌录
2026-07-23 17:11:06
重启后的舞厅乱象:按时收费两百一小时,底层舞客舞女双双熬日子

重启后的舞厅乱象:按时收费两百一小时,底层舞客舞女双双熬日子

成都人的故事
2026-09-10 07:43:30
【2026.10.1】张新成不是单身?杜江霍思燕好的夫妻?李昀锐后面发展?刘学义红利?丞磊没啥代言?好迷张哲华,能讲讲他?

【2026.10.1】张新成不是单身?杜江霍思燕好的夫妻?李昀锐后面发展?刘学义红利?丞磊没啥代言?好迷张哲华,能讲讲他?

娱乐真爆姐
2026-10-01 23:34:57
好奇查了一下陈妤颉的父亲,不查不知道,一查挺意外

好奇查了一下陈妤颉的父亲,不查不知道,一查挺意外

李博世财经
2026-10-01 09:35:29
花这么大力气抓基层党建,到底图什么?

花这么大力气抓基层党建,到底图什么?

画生笔记
2026-09-12 08:57:54
微信付款要变了!10月12日正式生效,转账花钱一定要留心

微信付款要变了!10月12日正式生效,转账花钱一定要留心

呼呼历史论
2026-10-02 05:43:27
真相来了,裴轶被盯住的原因终于找出来了!

真相来了,裴轶被盯住的原因终于找出来了!

叒女紫121
2026-09-29 11:36:51
哈佛大学研究发现:人生回报率最高的,是每天坚持这两个习惯

哈佛大学研究发现:人生回报率最高的,是每天坚持这两个习惯

心理观察局
2026-07-01 07:37:28
库页岛打出“三绝不”:不属于中国、不像俄罗斯、不承认历史

库页岛打出“三绝不”:不属于中国、不像俄罗斯、不承认历史

纪史行者
2026-09-19 17:40:52
国台办:中国共产党鲜明提出收复台湾的主张,支持和推动了台湾光复运动

国台办:中国共产党鲜明提出收复台湾的主张,支持和推动了台湾光复运动

京彩台湾
2026-09-30 22:15:05
入管10月1日更新永住指南,新规不再单纯以“在留年限”为核心

入管10月1日更新永住指南,新规不再单纯以“在留年限”为核心

东京在线
2026-10-01 23:12:56
2026-10-02 07:52:49

科技要闻

5999元起!华为Mate 90系列发布

头条要闻

"大明湖最有腔调爷爷"国庆夜现身 有外地粉丝特意赶来

头条要闻

"大明湖最有腔调爷爷"国庆夜现身 有外地粉丝特意赶来

体育要闻

“今天的表现,我们可以昂首离开球场”

娱乐要闻

奚梦瑶晒四太豪礼!22只龙凤镯近300万

财经要闻

智谱发上亿Token 能挽回开发者信任吗?

汽车要闻

2027款极氪001将于明年一季度上市 现款猎装同步推新配色

态度原创

游戏
旅游
健康
亲子
教育

曝《生化5》《生化6》重制版五年内不会推出

旅游要闻

打卡鹿角蕨!来陈村体验花海游园

刷酸祛痘,为什么有人翻车?

亲子要闻

鼓吹国外选精生子,收割大龄剩女的又一利器

教育要闻

从特殊到一般,一个视频学会!

无障碍浏览 进入关怀版
×