网易首页 > 网易号 > 正文 申请入驻

端侧AI卡在落地难,海思为何把开发者生态重做一遍?

0
分享至

“算力易得,落地难为。”上海海思生态与伙伴发展部部长闪罡用这八个字,概括了端侧AI眼下的真实处境。芯片算力集成越来越容易,硬件成本越来越低,但企业拿到算力之后,真正的考验才刚刚开始。

过去几年,AI的发展集中在云端:参数越来越多,模型越来越强,算力中心越来越费电。如今一个更深层的变化正在发生——AI开始明显地从云端向终端设备扩散。机器人、自动驾驶汽车、智慧视觉设备,越来越多的终端正在拥有自己的AI能力。


终端是AI抵达真实世界的关键入口。摄像头、麦克风、传感器就长在设备上,物理世界的数据由终端源源不断产生。云端的模型和算力再强,进不了终端,就无法触及真实世界。上海海思给出的判断是:每个IoT终端都值得被重构成轻智能终端,成为AI的泛在入口。

端侧已进入轻智能时代

云端大模型越来越强,下一阶段AI的发展必然会走向真实的物理世界。这个过程必定会遇到几个硬约束。

首先是实时响应。以典型的云端指令为例,常见的云端语音指令一发一收最快也要1000毫秒左右的通信时长,正常交互问题不大,但时延压力极大的高速决策场景根本无法容忍这样的延迟。

再者是多模态感知。摄像头、麦克风、传感器就长在设备上,终端能够持续、实时地获取物理世界的数据,这是云端拿不到的。最后,考虑到隐私保护与数据安全,数据和指令不出终端,天然规避了大量风险。

因此,云侧与终端侧需要深度协同,才能构建起完整的业务链路。端侧能力越强,能够采集和处理的数据越多,对云端的需求也越高。云端模型能力提升,又会进一步推动终端升级,两者形成持续增强的协同关系。

上海海思把这一终端演进趋势定义为“轻智能”。所谓“轻”,是让终端设备以较低的成本和功耗,一站式实现“有联接、有智能、有感知、有交互”,改变过去AIoT终端缺乏真正“AI”的局面。

这种变化最终会落到具体产品体验上。给智能牙刷装上微型摄像头和端侧算力芯片,实现边刷牙边扫描牙齿,判断哪里需要重点清洁甚至就医;吹风机也不再是固定冷热档位的功能型产品,而是能够根据发质、干湿程度动态调节风温和风速的完整智能产品。

闪罡认为,轻智能终端不是创造一个全新的“物种”,而是让消费者已经熟悉的传统产品获得全新的、断代的智能能力。

算力易得,落地难为

端侧AI能不能跑起来,不能只看芯片算力。闪罡提出,端侧AI面临一个非常现实的困难:“算力易得,落地难为。”算力集成容易,硬件成本很低,但企业拿到算力之后,真正的考验才刚刚开始。

第一关,是“想不清”算力能干什么。这要求企业拥有深厚的行业Know-how,对本行业产品的功能场景和深层次用户需求有充分的洞察和认知,要深刻地理解问题,又要合理地定义体验,这个关卡就已经把大量企业挡在了门外。

即便想清楚了算力能干什么,第二关还要想好模型如何落地。端侧AI涉及一整套环环相扣的工程链条,对于大量中小企业而言,真正稀缺的并不是算力,而是把算力变成产品的能力。

在嵌入式开发中,开发者始终要在算力、功耗和成本之间寻找平衡:算力高了,功耗和发热可能上升;功耗降下来,又可能牺牲性能,内存、功耗、算力、成本等方面都有严苛约束。

软件与模型侧,如何把云端训练的模型通过量化、剪枝、压缩等方式最终部署到端侧设备上,又要如何针对不同芯片优化推理框架和底层算子,都是极为复杂的挑战。这套软硬件适配和算法研发的能力,过去更多掌握在拥有大规模研发团队的大厂手中。

而端侧AI是一个天然碎片化的市场,其中有不少参与者都是中小企业、方案商和个人开发者,对他们而言,独自打通全链条的成本难以承受。

AI编程的兴起,似乎正为降低端侧AI开发工程的门槛提供新的路径启示。逻辑上,开发者可以让大模型生成代码、调用工具,甚至辅助完成整个开发流程。但嵌入式开发面对的是具体芯片、具体硬件和具体工程环境,通用大模型并不能直接解决这些问题。它们可能不了解具体芯片的BSP、SDK和信号管脚,也难以及时掌握不断更新的版本、接口和勘误。

更关键的是,嵌入式开发并不只是写代码。模型还必须理解算力、功耗、成本等硬件约束,生成的代码即使逻辑正确,也可能因为内存、性能等问题无法真正上板;到了调试阶段,还要接入日志、逻辑分析仪、示波器等工具,形成完整的“人—模型—硬件”闭环。

通用的AI编程可以降低一部分开发门槛,却无法单独补齐端侧AI落地所需要的工程体系。如何让大多数企业都能获得打造端侧AI产品的系统工程能力?这是轻智能浪潮中必须有人回答的问题,也是上海海思给自己立下的命题——芯片再能算,海量开发者用不起来,也是枉然。

要回答这个命题,靠芯片本身是不够的。既然瓶颈在工程链条,竞争的主战场就必然从单一的芯片或模型能力,延伸到工具链和开发生态,芯片厂商的角色也要随之改变。过去,芯片厂商提供芯片、SDK和技术支持;如今,开发者需要的是从芯片、模型、工具链到Demo的全链条支持,厂商需要陪着开发者走完从算力到产品的全程,最终成为端侧AI开发平台的提供者。

首创XDAS四维框架

上海海思可能是国内开发者可以触及的芯片序列完整度和丰富度最高的原厂之一,这张底牌就是全系列、全档位的芯片家族:感知、联接、显示、算力等芯片正逐步面向开发者深化开源开放,并以统一的算子库、统一的工具链拉通不同芯片,让开发者在不同算力档位之间低成本迁移。

这套统一还延伸到端云之间:上海海思的端侧平台与CANN体系共架构,CANN是昇腾体系的全栈开发生态,端侧芯片相当于把这套生态一直延伸到了最小的智能终端上。随着生态工作的不断推进,从日前发布的昇腾960到海思仅有1T算力的Hi3516CV610,未来都有望共用同一套算子库、工具平台、模型库与推理框架。

在芯片的底座之上,HiSpark社区首次提出了XDAS开发者生态四维框架,把生态能力系统性地归纳为四个维度:AI for Development(D)、AI for Application(A)、AI for Support(S)、EXperience for AI(X)。前三维解决“开发者怎么用AI”,X解决的是“AI怎么用社区”——当社区的服务对象从人扩展到AI,生态的基建本身也要重做一遍。

在AI for Development方面,上海海思正帮助开发者利用AI提升嵌入式开发效率。他们已经把SDK、接口文档、参考工程、成功经验全部结构化、向量化,建成实时刷新的专属知识库,再把芯片开发能力抽象成原子化的Skills集合释放出来,通过MCP服务和CLI工具链接入真实开发环节。

有了这些知识,生成代码、编译、烧录到读取日志和仪器数据等环节都可以交给AI自动迭代,人只负责开头提需求和结尾验收。上海海思首批打造的五大领域Skills已完全开放到HiSpark社区,实验室实测效率提升约76%,过往需要1个工程师2周左右的工作量,现在借助AI Skills,在1天内即可搞定。

面向AI for Application,也就是应用落地,上海海思创新性地提出了“五步法”的解题思路,帮助开发者实现从想法到产品的临门一脚。HiSpark社区把应用落地拆解为“案例→算法→数据→训练→部署”五个环节,针对性提供支撑。

旅程第一步从案例中心开始,开发者可以学习既有案例、阅读开发指南,获得开发灵感。有了想法,就可以前往HiSpark的模型与算法市场匹配需求,这里提供大量开源算法与模型,目前Hi3403芯片已开放15个品类、70多个开源算法,年出货过亿的Hi3516CV610未来三个月也将开放40多个算法。

接下来进入训练与部署环节,HiSpark社区提供了模型量化剪枝、压缩转换等工具,今年年底还将上线在线训练平台,小团队不用再自建训练服务器,上传数据即可拿到模型。

五步法铺平了从想法到产品的路,但开发者真正动手时,仍会在无数具体问题上卡住。如何让技术支持快起来、准起来?这正是XDAS框架中“AI for Support(S)”所要解决的问题。

随着端侧AI开发生态不断丰富,传统人工FAE要处理的问题越来越多,往往无法以最快速度响应。而上海海思内部统计发现,开发者遇到的85%以上的问题,其实都是前人解决过的重复性问题。

因此,HiSpark社区近期正式开启数字FAE公测,提供7×24小时服务,覆盖芯片选型、技术指导、资料检索、根因分析与解决方案等场景,还能通过MCP接入开发者自己的IDE;遇到AI无法解决的问题,系统会自动整理对话并转给真人FAE。

上海海思特别强调,数字FAE不是普通智能客服:开发者更看重准确性和效率,一个错误的硬件能力判断可能带来高昂的试错成本,因此系统宁可不答,也不能乱答,背后依靠的是严格圈定的知识体系和持续勘误。

而当开发者开始越来越多地使用AI,一个新的问题浮出水面:社区本身,对AI友好吗?这对应的是XDAS框架的最后一维——EXperience for AI(X)。

HiSpark社区数据显示,Markdown格式文档的申请量已经超过半数,其中接近70%来自智能体,社区服务对象正在从“人”逐渐转向“AI”。为此,HiSpark社区一方面要求文档、SDK、接口和工程参考做到“人可读、AI亦可读”,另一方面开放接口,让开发者可以直接在自己的Agent中调用社区能力,同时通过数据治理保证信息准确、干净和实时更新,避免错误知识被AI反复传播。

上述四个维度的重构,正在带来看得见的改变。截至2026年9月,HiSpark社区下载量较去年提升10倍,UV提升8倍,但上海海思对社区的建设目标,并不以开发者数量或日活为核心,而更看重社区健康度、产品体验和伙伴能否真正成功。

闪罡强调,社区的价值不是“获取开发者”,而是“服务和支持开发者”。未来,社区甚至不必以一个独立网站存在,数字FAE、MCP服务和开发能力可以直接进入IDE、Agent等开发环境,这或许才是端侧AI生态真正融入开发流程的状态。

给端侧AI修一条人人可走的路

轻智能时代已至,这一点正在产业内形成共鸣。从传统安防到智能家居,从消费电子到工业制造,大量从业者在这一轮浪潮中重新看到了机会。

中国拥有全球最丰富的终端品类和最活跃的开发力量,千千万万中小企业正是这一市场最广泛的参与者。过去,智能化升级往往意味着高门槛、高投入,只有头部企业玩得起;而当生态把门槛一层层压低,让一个小团队也能做出AI产品,技术的红利才真正开始流向千行百业、惠及千厂万商。

这正是上海海思在做的事。它以全系列芯片为底座、以HiSpark开发者生态社区为载体,把知识、工具、模型、服务全面开放,试图为中国端侧AI行业,修一条人人可走的路。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
斯内德谈任意球比拼:和谁比我都选自己,除了儒尼尼奥

斯内德谈任意球比拼:和谁比我都选自己,除了儒尼尼奥

懂球帝
2026-10-09 01:03:13
女人淫乱起来,比男人还狠,看看历史上最淫乱无道的十个女人

女人淫乱起来,比男人还狠,看看历史上最淫乱无道的十个女人

皓皓情感说
2026-10-08 09:10:42
不查不知道,一查吓一跳!被判死刑的明珍珍,私下生活能有多壕

不查不知道,一查吓一跳!被判死刑的明珍珍,私下生活能有多壕

观史搜寻着
2026-10-09 12:28:11
黎明现任妻子陈泳仪,单看长相和气质,确实比不上前任乐基儿,算不上惊艳,但胜在一脸旺夫相

黎明现任妻子陈泳仪,单看长相和气质,确实比不上前任乐基儿,算不上惊艳,但胜在一脸旺夫相

黎兜兜
2026-10-08 08:10:25
33岁章泽天风格大变!穿艳俗纱裙、副乳突出,比实际年龄成熟10岁

33岁章泽天风格大变!穿艳俗纱裙、副乳突出,比实际年龄成熟10岁

阿讯说天下
2026-04-18 14:53:39
中网,郑钦文比赛时间有变动,张帅出战!吴易昺迎战新科美网冠军

中网,郑钦文比赛时间有变动,张帅出战!吴易昺迎战新科美网冠军

凡人说体育
2026-10-09 04:16:53
苹果突然官宣:10月13日,新品正式发布!

苹果突然官宣:10月13日,新品正式发布!

科技堡垒
2026-10-09 12:17:21
他曾与刘涛相恋4年,因王珂二人分手,今过60至今未婚独居上海

他曾与刘涛相恋4年,因王珂二人分手,今过60至今未婚独居上海

无人倾听无人倾听
2026-03-25 21:22:11
GOAT!梅西告别战球衣细节:10号数字里有山羊角细节

GOAT!梅西告别战球衣细节:10号数字里有山羊角细节

懂球帝
2026-10-08 15:44:45
女儿透露游本昌拍完《繁花》五年没走出来:只看了一集就弃剧,活在角色的悲壮里,写给爷叔的告别信说自己好像得了抑郁症

女儿透露游本昌拍完《繁花》五年没走出来:只看了一集就弃剧,活在角色的悲壮里,写给爷叔的告别信说自己好像得了抑郁症

极目新闻
2026-09-24 12:36:17
崩牙驹被爆是妙瓦底园区后台老板,他坚决否认!一组照片出卖了他

崩牙驹被爆是妙瓦底园区后台老板,他坚决否认!一组照片出卖了他

BenSir本色说
2025-01-08 22:32:35
广汽本田林志斌:雅阁的刹车踏板可承受3000N以上压力保持结构完整、不断裂

广汽本田林志斌:雅阁的刹车踏板可承受3000N以上压力保持结构完整、不断裂

IT之家
2026-10-09 14:59:27
英媒:黄喜灿近期表现不俗,水晶宫可能重启引进他的计划

英媒:黄喜灿近期表现不俗,水晶宫可能重启引进他的计划

懂球帝
2026-10-09 11:49:09
上海一顶级富二代获诺贝尔奖后,美国总统说:全世界欠你个大人情

上海一顶级富二代获诺贝尔奖后,美国总统说:全世界欠你个大人情

知法而形
2026-10-08 11:04:28
你不使劲踩,它会断吗?尊界V800 是台好车!

你不使劲踩,它会断吗?尊界V800 是台好车!

难得君
2026-10-09 00:13:17
美国女囚注射死刑失败后下床走动、恢复进食,死刑是否“重来”惹争议

美国女囚注射死刑失败后下床走动、恢复进食,死刑是否“重来”惹争议

澎湃新闻
2026-10-09 11:59:06
中俄通婚在不断增加,若不了解俄罗斯女性生理缺陷,婚后可能会很痛苦。

中俄通婚在不断增加,若不了解俄罗斯女性生理缺陷,婚后可能会很痛苦。

回京历史梦
2026-09-30 18:24:01
中国大飞机憋了个大招!C-939突然亮相,400吨级超级大运露出苗头

中国大飞机憋了个大招!C-939突然亮相,400吨级超级大运露出苗头

粤语音乐喷泉
2026-10-09 06:41:18
iPhone买对不买贵?目前这3款,才是真正内行公认的苹果真香机!

iPhone买对不买贵?目前这3款,才是真正内行公认的苹果真香机!

小兔子发现大事情
2026-10-09 07:12:35
辽宁队决战上海队,拉塞尔重磅登场,有望联手张镇麟打爆辽篮

辽宁队决战上海队,拉塞尔重磅登场,有望联手张镇麟打爆辽篮

宗介说体育
2026-10-09 10:25:01
2026-10-09 15:35:00
爬虫饲养员
爬虫饲养员
业余养了只叫“龙虾”的AI爬虫,主业是给互联网打工。
182文章数 82关注度
往期回顾 全部

科技要闻

字节"干扰模型训练"实习生融资近2亿元

头条要闻

男子下楼抽烟2分钟 价值3000万港币黄金被换成柔顺剂

头条要闻

男子下楼抽烟2分钟 价值3000万港币黄金被换成柔顺剂

体育要闻

30天30队·鹈鹕:胖虎又一年“如果”

娱乐要闻

蔡康永回应,装都不装了!

财经要闻

央行为何发布关于人民币汇率的政策立场

汽车要闻

不想改车又不想撞衫 来看看小鹏P7+的黑武士版

态度原创

数码
健康
游戏
亲子
旅游

数码要闻

一次洗130件餐具!米家18套洗碗机开售 七星级除菌

痘坑留下后,还能填平吗?

全新俯视角轻生存建造ARPG《新神纪》正式公开!未来将加入中国神话

亲子要闻

母亲的6大奇迹太暖心了!

旅游要闻

激活红色资源 河南新县全域文旅多点开花

无障碍浏览 进入关怀版