网易首页 > 网易号 > 正文 申请入驻

趋境ATaaS平台发布,打造日均万亿产能的“Token工厂”

0
分享至

3月27日,作为2026中关村论坛核心组成部分,由趋境科技与九源智能计算系统生态联合体共同主办的“全栈智能 全域推理:Token爆发元年的全场景大规模推理服务”专题研讨会成功举办。论坛汇聚院士、顶尖学者及产业领军人物,聚焦大模型时代推理服务的核心技术、产业实践和生态协同,共探高效、稳定、安全、普惠的大模型推理服务体系建设。



活动特邀九源智能计算生态联合体秘书长、清华大学教授、趋境科技首席科学家武永卫担任主持人。启元实验室副主任刘航、工业和信息化部电子工业标准化研究院副院长郭楠为活动致辞。中国工程院院士、九源智能计算系统生态联合体理事长、清华大学教授、趋境科技首席科学顾问郑纬民受邀出席并做主旨演讲,从宏观视角解读了从“模型服务”迈向“Token服务”的底层逻辑与基础设施变革。趋境科技创始人兼CEO艾智远现场发布全新一代AI推理平台——趋境 ATaaS 高效能 AI Token 生产服务平台(Approaching.AI Token as a Service),为破解算力投入与Token产出失衡难题提供了系统性解决方案。众多等产业链领军企业代表现场带来主旨演讲,分享AI推理服务产业的发展新路径。

郑纬民院士:AI产业核心已从模型服务转向Token服务

郑纬民院士在题为《从模型服务到Token服务》的主旨演讲中指出,随着智能体、AI Coding等应用的爆发式增长,Token消耗量呈百倍、千倍级跃升,2026年已成为名副其实的“Token爆发元年”。AI产业的核心关注焦点,正从“模型参数规模、模型可用性”全面转向“稳定、低成本、高质量交付的Token产能”。



“未来的智能基础设施应围绕‘Token即服务(TaaS,Token as a Service)’进行重构”。郑纬民院士表示,传统模型服务的核心是保障模型可得性与接口完整性,而Token服务的核心是保障Token产能的可用性,更关注成本、吞吐、延迟与可靠性等生产性指标,是一个极端复杂的多维系统最优化问题,必须完成全链路的系统级创新。

对此,郑纬民院士明确了TaaS发展的三大核心技术底座:一是全系统异构协同,通过将不同计算任务合理分配至GPU、CPU、内存和SSD,打破算力瓶颈;二是存算协同实现“以存换算”,通过前置KV Cache等技术,大幅降低重复计算量,提升推理效率;三是面向SLO的智能调度,精准地将用户业务需求“翻译”为底层资源决策。郑院士表示:“只有让智能生成像水电一样被稳定地调度与供给,才能真正迎来算力制造Token为王的普惠智能时代。”

趋境ATaaS平台重磅发布,打造全球领先的Token生产效能放大器

趋境科技在论坛上重磅发布了其核心产品——趋境ATaaS高效能AI Token生产服务平台。本次发布由趋境科技创始人兼CEO艾智远,与中国工程院院士、九源智能计算生态联合体理事长、清华大学教授、趋境科技首席科学家郑纬民,以及并行科技董事长陈健、中科曙光智能计算产品事业部总经理杜夏威、华为昇腾计算业务副总裁兼首席产品规划师叶耀荣、京东Infra产品负责人郝鹏、浦江实验室代表钟普共同揭晓。



针对当前大模型推理服务中普遍存在的硬件资源闲置、软件适配滞后、算力配置粗放、架构演进失衡四大核心难题,该平台将有效破解大额硬件投入难以转化为优质 Token 产能、资源浪费与成本空耗突出的行业困境,以高效能Token生产为核心目标,可支撑万级别AI推理需求,并达到日均万亿级别Token整体产能。

趋境ATaaS平台依托四大自研核心技术,构建覆盖异构整合、智能调度、弹性扩容的全链路能力:

·六合:异构推理2.0:全球首创大模型计算逻辑重构技术,深度融合CPU+GPU、国产与非国产算力,实现任务的智能分流,可将万卡级智算集群运营成本压降20%以上。

·月饼:以存换算2.0:全球首创超体量KV Cache缓存技术,将KV Cache存储空间扩展百倍至千倍,缓存命中率最高可达90%,直接削减90%的GPU算力开销。

·双仪:虚实同构:全球首创算子级SLO仿真技术,实现算力资源的智能预规划与动态调优,可精准切分异构算力,将万卡级智算集群硬件综合资源利用率最高提升数倍。

·万象:极致弹性:打通规模化量产最后壁垒,支持万亿参数大模型7秒快速拉起与动态配置变更、数百节点超大规模EP弹性调度,为万卡级高性能横向扩展提供关键能力。

趋境ATaaS平台的发布为AI基础设施的建设和运营提供了新的思路和行业标准,使每单位算力和能耗投入都能够数倍转化为更稳定、更可衡量的Token价值产出,更标志着AI基础设施发展焦点从单纯的算力规模竞争,转向对 Token 生产效率的综合衡量,推动算力基础设施从“数据中心”向“Token工厂”全面演进。



全产业链生态协同,凝聚国产算力发展核心共识

本次论坛不仅是技术的展示台,更是产业生态协同的汇聚点。趋境科技积极推动与产业链上下游伙伴的深度合作,致力于构建开放共赢的智能计算生态。论坛上,来自并行科技、九源智能计算系统生态联合体、中科曙光、京东云、阿里云、华为、商汤科技等企业的代表在论坛上围绕国产算力多场景推理优化实践、推理框架实践、Token时代AI引擎、算力底座高效推理等前沿话题以及与趋境科技的深度合作展开深入分享。

并行科技作为国内领先的算力服务商,在第三方算力服务领域位列第一,并行科技董事长陈健在演讲中指出,其MaaS服务得到趋境科技的大力支持,双方合作将高质量Token的生产成本大幅优化,并将特定场景下的集群性能提升50%,共同为智谱、Kimi、MiniMax、DeepSeek等头部大模型客户提供优质服务。

九源智能计算系统生态联合体副秘书长王豪杰指出,Token时代竞争转向单位成本产出,国产卡面临“生态驱动”困局。九源联合体打造国产智能计算生态,已取得多项成果:全国产化方案适配多款GPU、串行代码高效并行的九源领域编程语言“九齿”、支撑Mooncake推理加速系统、基于国产芯片的高效智能体,并与KTransformers等框架深度联动,推动国产算力从“可用”迈向“好用”。

京东云AI Infra产品负责人郝鹏表示,京东云已与趋境科技达成深度合作,联合打造下一代推理引擎,共同赋能Mooncake开源生态。华为昇腾计算业务副总裁、首席产品规划师叶耀荣强调,趋境与昇腾展开了全方位的技术和商业化合作,部分项目中在昇腾AI集群上实现了2倍以上性能提升。此外,阿里云政企事业部教育科研解决方案总监杨坤、商汤科技大装置首席架构师项铁尧等也分享了与趋境科技在Mooncake等开源项目上深度合作,以及为趋境Token服务提供高可靠算力支持的实践。

在圆桌对话环节,清华大学计算机系副教授章明星与中国移动数智化部副总经理陈国,天数智芯副总裁宋煜,中国科学技术大学计算机学院特任教授、博导李诚,美团首席工程师钱玉磊,趋境科技Mooncake首席工程师杨珂,围绕“国产推理基础设施从‘可用’到‘好用’的路线选择与关键突破”展开探讨。各方凝聚了三大共识:一是软硬深度协同是释放国产算力潜能的关键,需通过系统级优化弥合硬件性能与业务需求之间的鸿沟;二是生态统一与标准建设至关重要,打破“百花齐放”带来的适配难题,才能实现规模化应用;三是人才培养是产业根基,需通过开源社区、技术竞赛等方式,培育兼具理论与工程能力的AI Infra人才。



本次研讨会的成功举办,恰逢AI产业从模型竞争转向规模化应用、从MaaS转向TaaS的关键节点,不仅为AI推理服务领域搭建了产学研用深度交流的平台,更为AI产业高质量发展谋划路径。论坛同期宣布2026年春季启元人工智能大赛正式启动,旨在通过赛教融合,为国产智能计算生态培育新一代人才,持续推动AI产业的开源创新与规模化应用。

转载来源:趋境科技

本文为量子位获授权转载,观点仅为原作者所有。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
预计“白海豚”明晚将在浙江舟山到福建福鼎一带沿海登陆

预计“白海豚”明晚将在浙江舟山到福建福鼎一带沿海登陆

上观新闻
2026-08-08 06:53:21
活久见!湖南宜章悬赏8万通缉组织卖淫集团主犯!网友:第一次听说卖淫还有集团,那么集团规模有多大

活久见!湖南宜章悬赏8万通缉组织卖淫集团主犯!网友:第一次听说卖淫还有集团,那么集团规模有多大

火山詩话
2026-08-07 07:26:54
中国女孩回忆加拿大留学经历!半数同学是印度人,一上课铺天盖地的臭味

中国女孩回忆加拿大留学经历!半数同学是印度人,一上课铺天盖地的臭味

小徐讲八卦
2026-08-07 13:33:54
温州女子带女儿桨板漂流意外落水,“事发教练员说有漩涡不敢捞人,打捞队称水深15米”;俱乐部此前称“包捞包安全”,楠溪江工作人员回应

温州女子带女儿桨板漂流意外落水,“事发教练员说有漩涡不敢捞人,打捞队称水深15米”;俱乐部此前称“包捞包安全”,楠溪江工作人员回应

扬子晚报
2026-08-08 08:39:58
“老人天天吃保心丸,孩子病倒在酒店!” 16万高端河轮游,变每天赶大巴拉练,游轮公司道歉

“老人天天吃保心丸,孩子病倒在酒店!” 16万高端河轮游,变每天赶大巴拉练,游轮公司道歉

21世纪经济报道
2026-08-08 00:22:16
29岁克拉克死因正式公布!法医认定意外死亡:吸食海洛因与可卡因

29岁克拉克死因正式公布!法医认定意外死亡:吸食海洛因与可卡因

罗说NBA
2026-08-08 05:56:23
佛山一中学招聘物理教师,笔试前13名均遭淘汰?教育局:已叫停招聘,成立调查组全面核查

佛山一中学招聘物理教师,笔试前13名均遭淘汰?教育局:已叫停招聘,成立调查组全面核查

极目新闻
2026-08-07 15:53:23
广东大爷突然接到陌生电话用潮汕乡音冒充孙子,哭喊“阿公快救我”,吓得赶紧凑了10万元交给骗子,结果对方立马上车逃跑,警方:已抓获

广东大爷突然接到陌生电话用潮汕乡音冒充孙子,哭喊“阿公快救我”,吓得赶紧凑了10万元交给骗子,结果对方立马上车逃跑,警方:已抓获

环球网资讯
2026-08-08 07:18:53
看完U17国足3‑1点杀河床!不得不承认5个事实,决赛再战阿森纳!

看完U17国足3‑1点杀河床!不得不承认5个事实,决赛再战阿森纳!

田先生篮球
2026-08-07 22:34:42
竹知了竟然被说成是“日本玩具”,这节奏越来越离谱了

竹知了竟然被说成是“日本玩具”,这节奏越来越离谱了

历史总在押韵
2026-08-08 00:47:50
余承东:鸿蒙智行全系交付168万辆,至今保持电池零燃烧事故记录

余承东:鸿蒙智行全系交付168万辆,至今保持电池零燃烧事故记录

映射生活的身影
2026-08-06 08:53:46
西方:工业母机卡你40年!中国:卡个锤子,我连传动轴都不用了!

西方:工业母机卡你40年!中国:卡个锤子,我连传动轴都不用了!

影孖看世界
2026-08-07 16:46:49
真凉凉了!美国正式封堵“赴美生子”!撤签、终身禁入,连孩子美国籍都要动!您支持吗?

真凉凉了!美国正式封堵“赴美生子”!撤签、终身禁入,连孩子美国籍都要动!您支持吗?

华人生活网
2026-08-08 01:49:08
约4.2米长、30公斤重!广西一农户家惊现缅甸蟒,吞食十余只鸡!消防十几秒制服:无毒但具有强攻击性

约4.2米长、30公斤重!广西一农户家惊现缅甸蟒,吞食十余只鸡!消防十几秒制服:无毒但具有强攻击性

环球网资讯
2026-08-08 07:13:17
北京我最推荐的景区!没有之一,强烈推荐每个来北京的人都要去!

北京我最推荐的景区!没有之一,强烈推荐每个来北京的人都要去!

尼古拉斯Nana
2026-08-07 00:58:15
情侶公路肉搏被拍下!社交网络疯传终被罚

情侶公路肉搏被拍下!社交网络疯传终被罚

环球趣闻分享
2026-08-07 20:25:06
震惊!300多人大群公开“摊牌”,聊城一金融基层员工长文怒斥被长期压榨

震惊!300多人大群公开“摊牌”,聊城一金融基层员工长文怒斥被长期压榨

火山詩话
2026-08-08 06:56:40
真的杀疯了!连斩三大欧洲豪门,4名中国小将被全球球探锁定

真的杀疯了!连斩三大欧洲豪门,4名中国小将被全球球探锁定

林子说事
2026-08-08 06:04:51
众星炮轰周星驰

众星炮轰周星驰

新民周刊
2026-08-07 11:12:44
太难伺候了!水均益33岁女儿又崩溃了,原因是保姆辞职不干了,这已经是第6个保姆了,网友:肯定是雇主的问题。

太难伺候了!水均益33岁女儿又崩溃了,原因是保姆辞职不干了,这已经是第6个保姆了,网友:肯定是雇主的问题。

谭谈社会
2026-08-07 20:14:11
2026-08-08 09:27:00
量子位 incentive-icons
量子位
追踪人工智能动态
13103文章数 176530关注度
往期回顾 全部

科技要闻

突然涨价,"只收电费钱"的梁文锋,变了吗

头条要闻

超360个问题 投资者涌进宇树交流会提问王兴兴

头条要闻

超360个问题 投资者涌进宇树交流会提问王兴兴

体育要闻

去年信誓旦旦3000万 今年NBA查无此人

娱乐要闻

周也热恋结束,六个字暴露单身状态

财经要闻

一枚“回旋镖”,击中王思聪

汽车要闻

越7全球首秀 传祺开始进攻方盒子越野

态度原创

时尚
本地
家居
教育
军事航空

夏天穿彩色真的很合适,不沉闷、不老套,高级养眼有时尚感

本地新闻

课本里的童年,绍兴正上演

家居要闻

2026建博会(广州) 公装联探展交流活动

教育要闻

初中数学竞赛题,创新性很强

军事要闻

乌防空导弹严重短缺 泽连斯基公开喊话

无障碍浏览 进入关怀版