网易首页 > 网易号 > 正文 申请入驻

AI原生时代来临,商汤大装置如何重塑算力集群架构

0
分享至

近日,作为2026中关村论坛核心组成部分,由趋境科技与九源智能计算系统生态联合体共同主办的“全栈智能 全域推理:Token爆发元年的全场景大规模推理服务”专题研讨会成功举办。

商汤大装置首席架构师项铁尧受邀出席研讨会,并发表《商汤大装置AI原生云基础设施探索与实践》主题演讲,系统阐述了商汤大装置对AI原生时代算力集群建设的前沿判断与实践路径——如何将软硬件能力真正转化为客户可用、易用、高效的算力服务。

在他看来,当算力集群的发展进入AI原生时代,新的架构范式应具备统一的规范、极致弹性的扩缩容机制以及为大模型训练和推理深度优化的AI集群runtime。



01. AI算力池:面向角色、水平分层、资源自由流转

项铁尧从底层技术视角切入,指出Kubernetes(全球最流行的容器编排平台)正朝着AI方向发展。

随着动态资源分配(DRA)、Workload API与Gateway API三项核心新特性的引入,K8s逐渐从简单的容器编排工具,进化为AI时代的操作系统。这背后,其实是整个行业在加速从云原生集群时代向AI原生时代跃迁。

围绕上述转变过程,项铁尧重点介绍了商汤大装置前瞻打造的核心产品——AI算力池。

据了解,AI算力池面向AI原生时代全新算力服务需求,采用"三明治"水平分层架构,从底层高度优化的计算网络存储基础设施,到中间层全新的虚拟集群技术,再到上层涵盖开发机、训练平台、部署平台及Agentic Engine的完整PaaS产品体系,全面杜绝不同产品之间的资源孤岛问题。



其中,大装置AI算力池具备三大优势:

1)面向角色。面对客户内部角色多元、需求复杂的现实,分别设计服务形态、提供差异化的解决方案。比如针对集群管理员与平台工程师提供高弹性虚拟集群资源;针对AI研究员,可提供丰富的脚本工具与高效研发环境等等。

2)水平分层。AI算力池采用“三明治”结构,杜绝产品间信息、资源孤岛的可能。

3)资源自由流转。用户只需购买一种通用算力形态,即可在虚拟机、虚拟集群、AI Code Space开发机等不同产品形态之间秒级自由切换,充分应对国内普遍存在的算力潮汐效应,大幅提升集群整体资源利用率。

02虚拟集群:全量托管,秒级弹性扩缩容

值得一提的是,在底层Infra层,商汤大装置创新应用虚拟集群技术,解决了传统云托管服务中“数据面管理重、扩容慢”的痛点。

有别于主流云厂商仅托管控制面,数据面仍需用户自行管理的传统模式,全新的虚拟集群技术,实现了控制面与数据面的全量托管,扩缩容效率从传统方案的数分钟乃至数十分钟压缩至秒级,同时提供完全标准的K8s API,用户无需对现有代码做任何修改即可无缝接入。

03三大自研套件:护航超大规模AI训练与推理

在虚拟集群基础上,项铁尧进一步提出AI集群Runtime产品概念。

“要快速搭建一个离线混部、训练推理混合使用的集群非常复杂,因为现在AI新的技术层出不穷,各种组件之间协同优化同样复杂。”项铁尧指出,“为了解决这种难题,我们通过智能推荐、深度调优与版本锁定机制,帮助用户快速搭建复杂的在离线混部、训练推理混合使用集群,降低AI基础设施的使用门槛与运维复杂度。”

为了进一步满足超大规模AI生产场景的极致性能需求,商汤大装置还自研了三大套件:

1)SenseCore Scheduler:高性能调度器,支持复杂异构硬件的在离线混合调度。

2)容错引擎:解决超大规模训练中的不稳定性,实现故障自动检测与隔离。

3)Agentic Engine:针对不断涌现的Agent使用需求,进行深入优化,包括沙箱预热、快速启动、规划保持、状态快照等。

04虚拟节点:打通弹性算力最后一环

为了以更灵活的规格为客户提供算力资源,商汤大装置同步自研虚拟节点技术,它具备三大优势:

1)虚拟集群体系无缝集成;

2)提供相比于虚拟机更轻量级的使用体验以及更高效的性能;

3)提供相比于runc更好的安全性和隔离度。

05生态合作,共同助推国产推理基础设施迭代

演讲中,项铁尧还特别感谢九源智能计算系统生态联合体与生态伙伴趋境科技。

目前,商汤大装置已与趋境科技展开深度合作,为趋境科技自研的ATaaS高效能AI Token生产服务平台提供高性能、高可靠的算力支撑。

据了解,趋境ATaaS高效能AI Token生产服务平台可支撑万级别AI推理需求,并达到日均万亿级别Token整体产能。

在生态联盟层面,商汤大装置作为九源智能计算系统生态联合体理事单位,积极参与这一以"产学研用服"协同合作为核心模式的开放生态。

该联合体聚焦国产智能计算系统建设、软件生态统一与技术成果转化,致力于构建自主可控的智能计算产业生态。商汤大装置加入其中,希望以自身在AI基础设施领域的积累,为整个生态贡献实质性力量,推动AI能力真正走向普惠。

未来,商汤大装置将进一步联合生态伙伴,共同推动国产推理基础设施迭代升级,为我国人工智能产业高质量发展、新质生产力落地提供坚实支撑。

转载来源:商汤科技

本文为量子位获授权转载,观点仅为原作者所有。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
“查不出问题就是最大的问题”?畸形自查正在拖垮基层

“查不出问题就是最大的问题”?畸形自查正在拖垮基层

职场资深秘书
2026-08-10 18:42:10
美联储,大消息!金价又涨了!反转信号出现?

美联储,大消息!金价又涨了!反转信号出现?

金融界
2026-08-11 12:04:32
同济大学全体关切公平的教师致杨金龙校长公开信

同济大学全体关切公平的教师致杨金龙校长公开信

紫京讲谈
2026-08-10 16:49:29
鸿蒙智行各车型7月细分销量曝光,问界M9售出9639辆居榜首

鸿蒙智行各车型7月细分销量曝光,问界M9售出9639辆居榜首

IT之家
2026-08-11 23:32:12
不可思议!无锡一地下停车场突发积水倒灌:两人被激流冲走、70台车泡水

不可思议!无锡一地下停车场突发积水倒灌:两人被激流冲走、70台车泡水

火山詩话
2026-08-11 13:38:41
恩佐闹剧收场:1.2亿英镑标价,没人买单的尴尬切尔西又演了一出转会大戏

恩佐闹剧收场:1.2亿英镑标价,没人买单的尴尬切尔西又演了一出转会大戏

带你逛体坛
2026-08-11 17:38:07
全场消费由百花影后买单!高叶曝卫诗雅获奖后聚餐,原因令人意外

全场消费由百花影后买单!高叶曝卫诗雅获奖后聚餐,原因令人意外

星河不入我
2026-08-12 02:36:44
黄瓜再次成为关注对象!多名院士发现:常吃黄瓜的人,有7个变化

黄瓜再次成为关注对象!多名院士发现:常吃黄瓜的人,有7个变化

任医生聊健康
2026-08-03 08:40:30
深夜,歹徒闯入家中对她施暴近两个小时,她咬紧牙关一声不吭,只为保护楼上熟睡的女儿。当警察破门而入时,才发现这位母亲早已浑身是血

深夜,歹徒闯入家中对她施暴近两个小时,她咬紧牙关一声不吭,只为保护楼上熟睡的女儿。当警察破门而入时,才发现这位母亲早已浑身是血

人生录
2026-07-30 00:05:11
早新闻 | 000096 ,大幅上调业绩预期

早新闻 | 000096 ,大幅上调业绩预期

数据宝
2026-08-12 07:39:49
硬杠,伊朗换将了!

硬杠,伊朗换将了!

财经要参
2026-08-12 07:44:56
百花奖落幕,3人出尽风头,2人镀金失败,杨幂赢麻,1人败光体面

百花奖落幕,3人出尽风头,2人镀金失败,杨幂赢麻,1人败光体面

揽星河的笔记
2026-08-11 13:05:17
8月11日人社部财政部公布养老金调整通知了吗?

8月11日人社部财政部公布养老金调整通知了吗?

晨光苏醒a
2026-08-12 05:56:59
今日!CCTV5直播国乒林诗栋等出战,5+转中国女篮+斯诺克,网络转欧洲超级杯

今日!CCTV5直播国乒林诗栋等出战,5+转中国女篮+斯诺克,网络转欧洲超级杯

晚池
2026-08-12 00:23:06
演员贾冰,全网可怜!

演员贾冰,全网可怜!

新动察
2026-08-10 15:29:10
印度重启生产线追赶歼-16?印度要再造12架苏-30MKI,称国产化率超50%,可信吗?

印度重启生产线追赶歼-16?印度要再造12架苏-30MKI,称国产化率超50%,可信吗?

蓝星杂谈
2026-08-12 08:05:06
瑞典大满贯:"大翻车"现场!国乒战将遭血洗,周启豪再战松岛

瑞典大满贯:"大翻车"现场!国乒战将遭血洗,周启豪再战松岛

寒士之言本尊
2026-08-11 19:10:03
55岁广东主持人:从儿科医生到主持界,貌美如花仍在岗

55岁广东主持人:从儿科医生到主持界,貌美如花仍在岗

凛若秋霜
2026-08-12 02:29:54
小S晒与大S、S妈旅行旧照,字里行间全是思念,隔空喊话“很想你”

小S晒与大S、S妈旅行旧照,字里行间全是思念,隔空喊话“很想你”

老吴教育课堂
2026-08-12 05:04:45
26岁中锋弗拉霍维奇加盟土超;33岁博格巴将被解约,成为自由球员

26岁中锋弗拉霍维奇加盟土超;33岁博格巴将被解约,成为自由球员

福酱的小时光
2026-08-12 06:01:19
2026-08-12 08:47:00
量子位 incentive-icons
量子位
追踪人工智能动态
13129文章数 176533关注度
往期回顾 全部

科技要闻

AI大战变天:扎克伯格突然回头

头条要闻

美军MH-60直升机向商船开火:发射两枚"地狱火"导弹

头条要闻

美军MH-60直升机向商船开火:发射两枚"地狱火"导弹

体育要闻

NBA老顽童,抽着大麻喝着小酒告别了

娱乐要闻

“雅典娜”确认被害 细节令人发指!

财经要闻

李嘉诚,再一次大撤退!他嗅到了什么?

汽车要闻

闪充/天神之眼B/云辇-C 2027款海豹06售9.99万元起

态度原创

本地
亲子
房产
数码
公开课

本地新闻

黄州一夜,苏轼写给普通人的月光

亲子要闻

一个沿用了近90年的疾病名称改了

房产要闻

突发,崖州湾又有大动作!

数码要闻

石头G30S Ultra滚筒扫地机官宣:41000Pa巅峰吸力、75℃热活水拖

公开课

李玫瑾:为什么性格比能力更重要?

无障碍浏览 进入关怀版