商汤大装置代继：Token经济大潮下，AI基础设施怎么演进？

智东西
作者 ZeR0
编辑 漠影

智东西4月14日报道，4月8日，“人工智能赋能新型工业化深度行”活动在郑州举行，正式拉开2026年工业和信息化部“人工智能+”行动序幕。本次活动由国家先进计算产业创新中心主办，国家工业信息安全发展研究中心与光合组织联合承办，聚焦打通从算力底层到工业场景的“最后一公里”，推动人工智能与制造业深度融合。

商汤大装置事业群解决方案总经理代继在会上发表《AI基础设施及产业服务实践》主题演讲，系统阐述了Token经济驱动下AI基础设施的演进逻辑与产业落地路径。他谈道，大模型产业正从“开源与闭源之争”转向“技术生态之争”，随着新一代智能体交互模式的火爆，模型已突破普遍应用的技术门槛，而头部模型用户付费意愿的上升标志着Token消费共识正在形成。

与此同时，AI基础设施正迎来历史性建设窗口。代继援引行业研究报告谈道，2025年AI工作负载以模型训练为主导，但到2027年，模型推理将成为主要算力需求。这意味着AI的价值创造正从一次性的模型开发转向持续性的规模化应用。预计到2030年，全球数据中心总容量将突破200GW，5年内规模翻番，复合年增长率达14%。

Token的规模化生产与消费，AI基础设施需要在算力供给、调度效率与系统稳定性等方向实现全面升级。围绕这一趋势，商汤大装置构建了系统化技术支撑体系。

1、多云纳管，保障大规模跨域异构集群稳定运行

面对推理需求爆发与算力结构复杂化的趋势，商汤大装置打造了具备“异构统一纳管与弹性调度能力”的AI基础设施体系。

基于SenseCore AI云平台，商汤大装置实现了多云环境下的统一管理与异构算力调度，平台兼容Kubernetes原生生态，将自建集群、第三方云资源以及多种国产CPU/GPU算力整合为统一资源池。这种“算力池化”能力，使企业能够在不同区域、不同架构之间灵活调用资源，支撑大规模分布式推理任务。

在异构环境下，商汤针对不同芯片架构进行了深度优化，使训练与推理任务均可获得最优的性价比表现。在Token持续消耗的场景下，企业能以更低成本获得稳定、可预期的算力供给，从而提升整体投入产出比。

2、全栈智能可观测，从“可用”到“可控”的关键支撑

如果说算力调度解决的是“资源如何用”，那么可观测性解决的则是“系统是否可控”。

在大规模海量高并发场景下，系统需要同时处理海量请求与复杂任务链路，传统监控体系难以支撑。

对此，商汤构建了覆盖基础设施到应用层的全栈智能可观测体系：单秒可处理80万数据点，性能提升超过20倍；日志检索效率提升60%，显著缩短问题定位时间等。

同时，通过跨地域数据挂载技术，实现“一份数据，多地使用”，在保证接近本地性能的前提下，打破数据孤岛。这不仅降低了数据流转成本，也为跨区域业务部署提供了基础支撑。

在Token经济驱动下，AI调用频率越高，对系统稳定性与可观测性的要求越高，“可感知、可分析、可优化”的智能监控才能真正支撑规模化应用。

3、国产算力规模化商用，推动成本与供给优化

在算力成本与供应链双重挑战下，国产算力成为重要支撑路径，不仅能够降低基础设施成本，也有效提升了算力资源选择的灵活性。

目前，商汤大装置已完成20余款国产AI芯片适配，并率先实现万卡规模国产芯片的异构混训，算力利用率达到80%，训练效率接近同构集群的95%，有效突破单一芯片限制，实现了国产算力规模化商用。

与此同时，商汤联合产业伙伴推出“算力Mall”，将算力资源、平台工具与模型服务进行标准化封装，企业可以像选购商品一样进行组合与调用。这种服务模式，本质上也在重构AI供给方式，使Token成本更加可控。

在产业侧，AI应用正从“局部优化”走向“系统性重构”。代继以某央国企实践为例，展示了AI在传统行业的完整落地路径。

截至目前，商汤大装置已帮助该企业构建起覆盖基础模型（语言、多模态、视觉）、管理平台（大模型开发平台+应用平台+知识库平台）以及上层智能应用的完整技术栈，能力渗透至生产、物流、业务管理、办公等全链条。

（1）生产与质量提升：在传统生产线引入3D动作捕捉多模态模型与数字孪生技术，实现工艺质量的可量化提升；

（2）安全生产管理：结合多模态大模型与视觉小模型，构建起覆盖人员管理、轨迹分析与事件感知的智能安防体系，通过对超过3万路视频的统一管理，全面支撑安保管理及安全生产管理需求。

（3）智能办公：已实现知识问答、内容审核、智能问数、合同审核等众多场景。

代继总结说，商汤以“多模态大模型+视觉小模型+大语言模型”协同的方式，率先在传统行业实现了从车间到园区、从管理到办公的全链条AI重构。随着模型能力的持续提升，越来越多传统行业有望补齐信息化时代未完成的能力短板，实现真正意义上的“智能跃迁”。

从Token经济的兴起，到算力结构的重构，再到产业实践的深化，AI正加速从技术能力转化为现实生产力。在他看来，未来竞争将不再局限于模型本身，而是围绕“基础设施+生态+应用”的系统能力展开。

商汤大装置正通过“平台+生态”的协同优势，构建高效、稳定、灵活的AI基础设施体系，为大模型在千行百业的规模化落地提供坚实支撑。