网易首页 > 网易科技 > 网易科技 > 正文

商汤大装置项铁尧:算力集群已进入AI原生时代

0
分享至

42日消息,近日,在2026中关村论坛的趋境科技与九源智能计算系统生态联合体共同主办的“全栈智能 全域推理:Token爆发元年的全场景大规模推理服务专题研讨会上,商汤大装置首席架构师项铁尧发表《商汤大装置AI原生云基础设施探索与实践》主题演讲,阐述了商汤大装置对AI原生时代算力集群建设的前沿判断与实践路径。

项铁尧表示,当算力集群的发展进入AI原生时代,新的架构范式应具备统一的规范、极致弹性的扩缩容机制以及为大模型训练和推理深度优化的AI集群runtime

项铁尧指出Kubernetes(全球最流行的容器编排平台)正朝着AI方向发展。随着动态资源分配(DRA)、Workload APIGateway API三项核心新特性的引入,K8s逐渐从简单的容器编排工具,进化为AI时代的操作系统。这背后,其实是整个行业在加速从云原生集群时代向AI原生时代跃迁。

据介绍,围绕上述转变过程,项铁尧重点介绍了商汤大装置前瞻打造的核心产品——AI算力池。据了解,AI算力池面向AI原生时代全新算力服务需求,采用"三明治"水平分层架构,从底层高度优化的计算网络存储基础设施,到中间层全新的虚拟集群技术,再到上层涵盖开发机、训练平台、部署平台及Agentic Engine的完整PaaS产品体系

其中,大装置AI算力池具备三大优势:1面向角色。面对客户内部角色多元、需求复杂的现实,分别设计服务形态、提供差异化的解决方案。比如针对集群管理员与平台工程师提供高弹性虚拟集群资源;针对AI研究员,可提供丰富的脚本工具与高效研发环境等等。2水平分层。AI算力池采用“三明治”结构,杜绝产品间信息、资源孤岛的可能。3资源自由流转。用户只需购买一种通用算力形态,即可在虚拟机、虚拟集群、AI Code Space开发机等不同产品形态之间秒级自由切换,充分应对国内普遍存在的算力潮汐效应,大幅提升集群整体资源利用率。

值得一提的是,在底层Infra层,商汤大装置创新应用虚拟集群技术,解决了传统云托管服务中“数据面管理重、扩容慢”的痛点。与此同时,在虚拟集群基础上,项铁尧进一步提出AI集群Runtime产品概念。

“要快速搭建一个离线混部、训练推理混合使用的集群非常复杂,因为现在AI新的技术层出不穷,各种组件之间协同优化同样复杂。”项铁尧指出,“为了解决这种难题,我们通过智能推荐、深度调优与版本锁定机制,帮助用户快速搭建复杂的在离线混部、训练推理混合使用集群,降低AI基础设施的使用门槛与运维复杂度。”为了进一步满足超大规模AI生产场景的极致性能需求,商汤大装置还自研了三大套件:1SenseCore Scheduler。2容错引擎。3Agentic Engine。

此外。为了以更灵活的规格为客户提供算力资源,商汤大装置同步自研虚拟节点技术,它具备三大优势:1虚拟集群体系无缝集成;2提供相比于虚拟机更轻量级的使用体验以及更高效的性能;3提供相比于runc更好的安全性和隔离度。

据悉,目前,商汤大装置已与趋境科技展开深度合作,为趋境科技自研的ATaaS高效能AI Token生产服务平台提供高性能、高可靠的算力支撑。据了解,趋境ATaaS高效能AI Token生产服务平台可支撑万级别AI推理需求,并达到日均万亿级别Token整体产能。

在生态联盟层面,商汤大装置作为九源智能计算系统生态联合体理事单位,积极参与这一以"产学研用服"协同合作为核心模式的开放生态。该联合体聚焦国产智能计算系统建设、软件生态统一与技术成果转化,致力于构建自主可控的智能计算产业生态。商汤大装置加入其中,希望以自身在AI基础设施领域的积累,为整个生态贡献实质性力量,推动AI能力真正走向普惠。(定西)

相关推荐
热点推荐
美伊大战让全球看明白解放军的真实战力,原来中国当年真没开玩笑

美伊大战让全球看明白解放军的真实战力,原来中国当年真没开玩笑

阿龙聊军事
2026-03-31 06:08:54
儿童手表迎首个强制性国标 小天才社交壁垒被击破

儿童手表迎首个强制性国标 小天才社交壁垒被击破

快科技
2026-04-02 15:22:17
商务部回应 Meta收购Manus

商务部回应 Meta收购Manus

每日经济新闻
2026-04-02 15:34:28
腊肉先泡水还是先煮?10年大厨:第1步错了,难怪腊肉又咸又硬!

腊肉先泡水还是先煮?10年大厨:第1步错了,难怪腊肉又咸又硬!

思思夜话
2026-03-18 12:11:32
00后女孩未婚先孕,坐月子期间男方提出“奶粉AA制”并拉黑!“很后悔没有听爸妈的话……”

00后女孩未婚先孕,坐月子期间男方提出“奶粉AA制”并拉黑!“很后悔没有听爸妈的话……”

大风新闻
2026-04-02 17:06:07
今夜雨水来袭,局部中到大雨!清明假期浙江天气早知道

今夜雨水来袭,局部中到大雨!清明假期浙江天气早知道

浙江发布
2026-04-02 15:44:20
财务自由后的感觉是怎样?网友讲述实际体验 感叹只有羡慕的份

财务自由后的感觉是怎样?网友讲述实际体验 感叹只有羡慕的份

侃神评故事
2026-03-24 18:00:10
勒布朗·詹姆斯:如果灰熊队赢得2003年选秀状元签,他会选择罢赛

勒布朗·詹姆斯:如果灰熊队赢得2003年选秀状元签,他会选择罢赛

好火子
2026-04-03 03:24:53
张雪峰的灵车细节让人泪奔,车尾挂着一棵竹子,上面系着他的衣服

张雪峰的灵车细节让人泪奔,车尾挂着一棵竹子,上面系着他的衣服

魔都姐姐杂谈
2026-03-28 18:18:48
4月1日晚,刘晓庆让多少人惭愧?这哪是75岁,分明是少女!

4月1日晚,刘晓庆让多少人惭愧?这哪是75岁,分明是少女!

每一次点击
2026-04-03 09:36:23
直播间标题被指“内涵”张雪机车,凯越机车紧急回应:从未否定雪总曾是凯越的灵魂,其离开前持股近36%

直播间标题被指“内涵”张雪机车,凯越机车紧急回应:从未否定雪总曾是凯越的灵魂,其离开前持股近36%

每日经济新闻
2026-04-02 18:54:18
张雪争夺战打响:湖南抢哭了,浙江抢笑了,重庆不抢赢了!

张雪争夺战打响:湖南抢哭了,浙江抢笑了,重庆不抢赢了!

影像温度
2026-04-02 20:35:08
重返月球!NASA“阿尔忒弥斯二号”成功发射,举世欢呼

重返月球!NASA“阿尔忒弥斯二号”成功发射,举世欢呼

大洛杉矶LA
2026-04-02 07:11:53
山东泰安一小学要求6:40前到校、迟到罚站,教体局先称“不可能”后改口:已统一要求7点30分到校,将加强家校沟通,保障学生休息时间

山东泰安一小学要求6:40前到校、迟到罚站,教体局先称“不可能”后改口:已统一要求7点30分到校,将加强家校沟通,保障学生休息时间

大风新闻
2026-04-02 16:03:10
四川达州一女神太漂亮了,这是什么逆天颜值,媲美西施并不过分

四川达州一女神太漂亮了,这是什么逆天颜值,媲美西施并不过分

TVB的四小花
2026-04-03 09:56:25
战后伊朗会怎样?分析人士:更加愤怒和桀骜不驯,影响力或扩展到中东以外

战后伊朗会怎样?分析人士:更加愤怒和桀骜不驯,影响力或扩展到中东以外

红星新闻
2026-04-02 18:29:11
吴亦凡二审维持原判13年,只能继续当班长,网友神评论笑死人

吴亦凡二审维持原判13年,只能继续当班长,网友神评论笑死人

呱呱请你吃瓜
2026-02-02 19:51:43
研究表明:男性嫖娼率6.4%,女性出轨率15%,且越有钱越开放!

研究表明:男性嫖娼率6.4%,女性出轨率15%,且越有钱越开放!

黯泉
2026-04-01 17:28:39
CCTV直播!国乒5人出局!王楚钦战小勒布伦!温瑞博死磕林昀儒 4月3日赛程

CCTV直播!国乒5人出局!王楚钦战小勒布伦!温瑞博死磕林昀儒 4月3日赛程

好乒乓
2026-04-03 11:56:58
演员陈学冬:11部作品被下架,两年4次手术,今35岁生活无法自理

演员陈学冬:11部作品被下架,两年4次手术,今35岁生活无法自理

陈意小可爱
2026-04-03 10:29:18
2026-04-03 13:00:49

科技要闻

5万辆库存车,给了特斯拉一记重拳

头条要闻

牛弹琴:美国干了一件令人发指的事 全世界都无法接受

头条要闻

牛弹琴:美国干了一件令人发指的事 全世界都无法接受

体育要闻

冲击世界杯失败,80岁老帅一气之下病倒了

娱乐要闻

《浪姐7》最新人气TOP 曾沛慈断层第一

财经要闻

专家称长期摄入“飘香剂”存在健康隐患

汽车要闻

你介意和远房亲戚长得很像吗?

态度原创

时尚
数码
家居
本地
公开课

为什么“这个颜色”成为今年顶流?这样穿好看又治愈

数码要闻

英伟达RTX 3060等显卡遭遇新型“锤击”威胁,黑客可接管你的电脑

家居要闻

温馨多元 爱的具象化

本地新闻

跟着歌声游安徽,听古村回响

公开课

李玫瑾:为什么性格比能力更重要?

无障碍浏览 进入关怀版
×