网易首页 > 网易号 > 正文 申请入驻

郑纬民院士领衔解读Token服务新趋势,趋境ATaaS平台重磅发布

0
分享至

3月27日,作为2026中关村论坛核心组成部分,由趋境科技与九源智能计算系统生态联合体共同主办的“全栈智能 全域推理:Token爆发元年的全场景大规模推理服务”专题研讨会成功举办。

论坛汇聚院士、顶尖学者及产业领军人物,聚焦大模型时代推理服务的核心技术、产业实践和生态协同,共探高效、稳定、安全、普惠的大模型推理服务体系建设。

活动特邀九源智能计算生态联合体秘书长、清华大学教授、趋境科技首席科学家武永卫担任主持人。启元实验室副主任刘航、工业和信息化部电子工业标准化研究院副院长郭楠为活动致辞。中国工程院院士、九源智能计算系统生态联合体理事长、清华大学教授、趋境科技首席科学顾问郑纬民受邀出席并做主旨演讲,从宏观视角解读了从“模型服务”迈向“Token服务”的底层逻辑与基础设施变革。趋境科技创始人兼CEO艾智远现场发布全新一代AI推理平台——趋境ATaaS 高效能 AI Token 生产服务平台(Approaching.AI Token as a Service),为破解算力投入与Token产出失衡难题提供了系统性解决方案。众多等产业链领军企业代表现场带来主旨演讲,分享AI推理服务产业的发展新路径。

郑纬民院士:AI产业核心已从模型服务转向Token服务

郑纬民院士在题为《从模型服务到Token服务》的主旨演讲中指出,随着智能体、AI Coding等应用的爆发式增长,Token消耗量呈百倍、千倍级跃升,2026年已成为名副其实的“Token爆发元年”。AI产业的核心关注焦点,正从“模型参数规模、模型可用性”全面转向“稳定、低成本、高质量交付的Token产能”。

“未来的智能基础设施应围绕‘Token即服务(TaaS,Token as a Service)’进行重构”。郑纬民院士表示,传统模型服务的核心是保障模型可得性与接口完整性,而Token服务的核心是保障Token产能的可用性,更关注成本、吞吐、延迟与可靠性等生产性指标,是一个极端复杂的多维系统最优化问题,必须完成全链路的系统级创新。

对此,郑纬民院士明确了TaaS发展的三大核心技术底座:一是全系统异构协同,通过将不同计算任务合理分配至GPU、CPU、内存和SSD,打破算力瓶颈;二是存算协同实现“以存换算”,通过前置KV Cache等技术,大幅降低重复计算量,提升推理效率;三是面向SLO的智能调度,精准地将用户业务需求“翻译”为底层资源决策。郑院士表示:“只有让智能生成像水电一样被稳定地调度与供给,才能真正迎来算力制造Token为王的普惠智能时代。”

趋境ATaaS平台重磅发布,打造全球领先的Token生产效能放大器

趋境科技在论坛上重磅发布了其核心产品——趋境ATaaS高效能AI Token生产服务平台。本次发布由趋境科技创始人兼CEO艾智远,与中国工程院院士、九源智能计算生态联合体理事长、清华大学教授、趋境科技首席科学家郑纬民,以及并行科技董事长陈健、中科曙光智能计算产品事业部总经理杜夏威、华为昇腾计算业务副总裁兼首席产品规划师叶耀荣、京东Infra产品负责人郝鹏、浦江实验室代表钟普共同揭晓。

针对当前大模型推理服务中普遍存在的硬件资源闲置、软件适配滞后、算力配置粗放、架构演进失衡四大核心难题,该平台将有效破解大额硬件投入难以转化为优质 Token 产能、资源浪费与成本空耗突出的行业困境,以高效能Token生产为核心目标,可支撑万级别AI推理需求,并达到日均万亿级别Token整体产能。

趋境ATaaS平台依托四大自研核心技术,构建覆盖异构整合、智能调度、弹性扩容的全链路能力:

  • 六合:异构推理2.0:全球首创大模型计算逻辑重构技术,深度融合CPU+GPU、国产与非国产算力,实现任务的智能分流,可将万卡级智算集群运营成本压降20%以上。
  • 月饼:以存换算2.0:全球首创超体量KV Cache缓存技术,将KV Cache存储空间扩展百倍至千倍,缓存命中率最高可达90%,直接削减90%的GPU算力开销。
  • 双仪:虚实同构:全球首创算子级SLO仿真技术,实现算力资源的智能预规划与动态调优,可精准切分异构算力,将万卡级智算集群硬件综合资源利用率最高提升数倍。
  • 万象:极致弹性:打通规模化量产最后壁垒,支持万亿参数大模型7秒快速拉起与动态配置变更、数百节点超大规模EP弹性调度,为万卡级高性能横向扩展提供关键能力。

趋境ATaaS平台的发布为AI基础设施的建设和运营提供了新的思路和行业标准,使每单位算力和能耗投入都能够数倍转化为更稳定、更可衡量的Token价值产出,更标志着AI基础设施发展焦点从单纯的算力规模竞争,转向对 Token 生产效率的综合衡量,推动算力基础设施从“数据中心”向“Token工厂”全面演进。

全产业链生态协同,凝聚国产算力发展核心共识

本次论坛不仅是技术的展示台,更是产业生态协同的汇聚点。趋境科技积极推动与产业链上下游伙伴的深度合作,致力于构建开放共赢的智能计算生态。论坛上,来自并行科技、九源智能计算系统生态联合体、中科曙光、京东云、阿里云、华为、商汤科技等企业的代表在论坛上围绕国产算力多场景推理优化实践、推理框架实践、Token时代AI引擎、算力底座高效推理等前沿话题以及与趋境科技的深度合作展开深入分享。

并行科技作为国内领先的算力服务商,在第三方算力服务领域位列第一,并行科技董事长陈健在演讲中指出,其MaaS服务得到趋境科技的大力支持,双方合作将高质量Token的生产成本大幅优化,并将特定场景下的集群性能提升50%,共同为智谱、Kimi、MiniMax、DeepSeek等头部大模型客户提供优质服务。

九源智能计算系统生态联合体副秘书长王豪杰指出,Token时代竞争转向单位成本产出,国产卡面临“生态驱动”困局。九源联合体打造国产智能计算生态,已取得多项成果:全国产化方案适配多款GPU、串行代码高效并行的九源领域编程语言“九齿”、支撑Mooncake推理加速系统、基于国产芯片的高效智能体,并与KTransformers等框架深度联动,推动国产算力从“可用”迈向“好用”。

京东云AI Infra产品负责人郝鹏表示,京东云已与趋境科技达成深度合作,联合打造下一代推理引擎,共同赋能Mooncake开源生态。华为昇腾计算业务副总裁、首席产品规划师叶耀荣强调,趋境与昇腾展开了全方位的技术和商业化合作,部分项目中在昇腾AI集群上实现了2倍以上性能提升。此外,阿里云政企事业部教育科研解决方案总监杨坤、商汤科技大装置首席架构师项铁尧等也分享了与趋境科技在Mooncake等开源项目上深度合作,以及为趋境Token服务提供高可靠算力支持的实践。

在圆桌对话环节,清华大学计算机系副教授章明星与中国移动数智化部副总经理陈国,天数智芯副总裁宋煜,中国科学技术大学计算机学院特任教授、博导李诚,美团首席工程师钱玉磊,趋境科技Mooncake首席工程师杨珂,围绕“国产推理基础设施从‘可用’到‘好用’的路线选择与关键突破”展开探讨。各方凝聚了三大共识:一是软硬深度协同是释放国产算力潜能的关键,需通过系统级优化弥合硬件性能与业务需求之间的鸿沟;二是生态统一与标准建设至关重要,打破“百花齐放”带来的适配难题,才能实现规模化应用;三是人才培养是产业根基,需通过开源社区、技术竞赛等方式,培育兼具理论与工程能力的AI Infra人才。

本次研讨会的成功举办,恰逢AI产业从模型竞争转向规模化应用、从MaaS转向TaaS的关键节点,不仅为AI推理服务领域搭建了产学研用深度交流的平台,更为AI产业高质量发展谋划路径。论坛同期宣布2026年春季启元人工智能大赛正式启动,旨在通过赛教融合,为国产智能计算生态培育新一代人才,持续推动AI产业的开源创新与规模化应用。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
阿玛尼大秀,袁泉脸垮又方,莫文蔚一脸褶,“大嫂”高叶西装抢镜

阿玛尼大秀,袁泉脸垮又方,莫文蔚一脸褶,“大嫂”高叶西装抢镜

娱圈办事处
2026-09-27 22:27:58
伊拉克:美军撤离,乱局开始……

伊拉克:美军撤离,乱局开始……

微评社
2026-09-30 16:53:08
普京再签扩军令俄军增至244万人,今年以来已第4次扩军

普京再签扩军令俄军增至244万人,今年以来已第4次扩军

澎湃新闻
2026-09-29 01:54:46
纳指涨幅扩大至1%,标普500指数现涨0.58%

纳指涨幅扩大至1%,标普500指数现涨0.58%

每日经济新闻
2026-09-30 22:11:04
埃及天才神童沦为看客,却遭多家豪强哄抢,巴萨解约金直接飙升到1.5亿欧

埃及天才神童沦为看客,却遭多家豪强哄抢,巴萨解约金直接飙升到1.5亿欧

零度眼看球
2026-09-30 07:40:50
和陈梦秘密领证真相大白后,樊振东近况曝出,难怪会淡出国家队

和陈梦秘密领证真相大白后,樊振东近况曝出,难怪会淡出国家队

乐天闲聊
2026-06-19 18:04:07
人人增收,农业农村部重磅宣告:农村房屋可出租,宅基地要盘活了

人人增收,农业农村部重磅宣告:农村房屋可出租,宅基地要盘活了

墨兰史书
2026-09-30 21:10:04
日本前首相鸠山由纪夫公开告诫高市,中国当年放弃巨额战争赔款,附带明确的条件,相关内容早已落实在书面文件,不可肆意违背过往承诺

日本前首相鸠山由纪夫公开告诫高市,中国当年放弃巨额战争赔款,附带明确的条件,相关内容早已落实在书面文件,不可肆意违背过往承诺

唠叨说历史
2026-09-02 16:16:45
小米中秋锁单量曝光,一澎程“单挑”五界?

小米中秋锁单量曝光,一澎程“单挑”五界?

大厂财经社
2026-09-30 17:46:13
为什么一条新闻,会缺失最关键的信息?

为什么一条新闻,会缺失最关键的信息?

走读新生
2026-08-31 23:07:22
最强天灾厄尔尼诺要来了!和28年前完全不一样,光有粮还不够

最强天灾厄尔尼诺要来了!和28年前完全不一样,光有粮还不够

李云飞Afey
2026-09-14 18:40:22
北理工裴小姐被解雇,从开始到结束仅仅只有几天!

北理工裴小姐被解雇,从开始到结束仅仅只有几天!

新动察
2026-09-30 11:00:27
东方甄选宣布2倍退款不退货,罗永浩还跟不跟?

东方甄选宣布2倍退款不退货,罗永浩还跟不跟?

听心堂
2026-09-30 14:25:27
唯独她没金!朱俊颖成接力幕后英雄 今后与刘峡君3棒之争会更激烈

唯独她没金!朱俊颖成接力幕后英雄 今后与刘峡君3棒之争会更激烈

劲爆体坛
2026-09-30 07:59:24
这就是溥仪皇后婉容的真实样貌,非演员扮演,货真价实的罕见照片

这就是溥仪皇后婉容的真实样貌,非演员扮演,货真价实的罕见照片

浩渺青史
2026-08-05 10:11:33
金卡戴珊全家逛上海野生动物园,紧身裤配高跟鞋,这打扮真够精致

金卡戴珊全家逛上海野生动物园,紧身裤配高跟鞋,这打扮真够精致

悦君兮君不知
2026-09-28 11:21:46
哈佛医学院:唯一能涨骨密度运动是被90%人忽视的渐进式抗阻训练

哈佛医学院:唯一能涨骨密度运动是被90%人忽视的渐进式抗阻训练

坠入二次元的海洋
2026-09-25 01:09:08
男不男女不女?央视中秋晚会周深登台献唱播出不久,不堪一幕上演

男不男女不女?央视中秋晚会周深登台献唱播出不久,不堪一幕上演

青杉依旧啊啊
2026-10-01 06:25:19
男子醉酒乘网约车,多次要求下车并辱骂司机,停车后他自行离去,次日其遗体在河道发现,家属向司机、平台及河道管理方索赔30万,法院判了

男子醉酒乘网约车,多次要求下车并辱骂司机,停车后他自行离去,次日其遗体在河道发现,家属向司机、平台及河道管理方索赔30万,法院判了

都市快报橙柿互动
2026-09-30 09:13:43
奚梦瑶晒四太送的豪礼!中式裙褂配22只龙凤镯,网友算出近150万

奚梦瑶晒四太送的豪礼!中式裙褂配22只龙凤镯,网友算出近150万

金风说
2026-10-01 04:28:29
2026-10-01 07:28:49
亿欧
亿欧
更多优质行业资讯请访问亿欧网
138873文章数 95426关注度
往期回顾 全部

科技要闻

OpenAI凌晨大上新!新助手dots迎战Muse

头条要闻

美国著名演员史泰龙发声:我糟蹋了自己的身体

头条要闻

美国著名演员史泰龙发声:我糟蹋了自己的身体

体育要闻

30天30队·火箭:乌度卡的控制欲

娱乐要闻

胡歌现身游本昌遗体告别仪式

财经要闻

“杭州六小龙”迎来价值重估

汽车要闻

燃油车的最佳平替 长城大狗HEV简单好开更经济

态度原创

健康
本地
数码
手机
军事航空

刷酸祛痘,为什么有人翻车?

本地新闻

中秋逛白塔寺,体验国医妙荟雅集

数码要闻

乐扩公布B650扩展卡PB65MX4,支持模块化按需拓展

手机要闻

分析师预计iPhone Duo年内销量约600万部

军事要闻

美军最后2500人撤离伊拉克

无障碍浏览 进入关怀版