腾讯云联合IDC发布AI Infra报告:定义Gen Al时代智算新范式

（原标题：腾讯云联合IDC发布AI Infra报告:定义Gen Al时代智算新范式）

9月16日-17日，2025腾讯全球数字生态大会在深圳召开。在9月17日举办的Infra Agent专场中，腾讯云与全球领先的信息技术研究与顾问公司IDC联合发布《AI Infra：加速智能体落地的基础架构、发展趋势与产业实践》报告（以下简称“报告”）。报告深度剖析生成式AI（Gen AI）在规模化落地背景下，AIInfra（AI云基础设施）从基础算力平台向核心智算基础设施的演进路径，系统梳理其技术架构、核心能力与行业适配方案，并结合腾讯云在互联网、交通出行、工业制造、医疗、教育等领域的实践案例，为企业基于AI深化智能化转型提供“技术-场景-价值”三位一体的行动指南。

报告中，腾讯云与IDC共同指出，随着AI应用从技术验证迈向规模化落地，企业对云智算设施的需求已从“单纯算力供给”升级为“全链路业务赋能”，AI Infra（AI云基础设施）正成为驱动产业数智化转型的关键基础设施。

其核心特征可概括为四大维度：

一、分布式底座：支持混合云架构下的云边一体算力布局，实现AI模型与应用全流程管理；

二、异构硬件：融合GPU/TPU/DCU等多元智算芯片、高性能存储与智能网络，构建统一纳管的异构计算资源池；

三、高性能软件：通过异构计算、存储与网络组件，最大化释放硬件性能，支撑模型训推全链路效率提升；

四、场景化方案：针对模型训练/微调、推理优化、智能体（AI Agent）开发等需求，提供模板化行业解决方案。

六大演进趋势：AI原生云重塑智算基础设施逻辑

报告结合产业实践提出，AI Infra（AI云基础设施）正加速向架构重构、行业垂直化、算力智能化、安全能力提升、研发范式革新、服务化转型六大方向突破，其中AIAgent的崛起成为关键驱动力。

架构重构：从“云+AI”到“云原生+Agent协同”。核心在于构建分布式训推一体化架构。通过新一代的智算基础设施，实现GPU/TPU等异构算力池化，支撑微秒级延迟的实时推理网络与Agent长周期上下文保持，同时支持多Agent协同工作，满足复杂业务决策需求。例如，在智能驾驶场景中，云边端协同的算力架构可实现车路协同数据的实时处理与决策。

行业垂直化：以Agent为载体的场景化交付。推动行业Know-how与云原生技术深度融合，提供“开箱即用”的解决方案——如金融领域的智能风控Agent、医疗领域的AI诊疗Agent，可自动调用行业知识库与多模态交互能力（语音/视觉/文本），大幅降低企业应用门槛。

算力智能化：全局资源优化配置。实现异构算力统一纳管与智能调度，通过算力标签体系、性能预测模型动态匹配业务峰谷需求，同时支持边缘Agent轻量化部署，提升算力利用率。例如，腾讯云算力调度平台可将GPU使用率提升80%以上。

安全能力提升：构建可信立体防护体系。覆盖数据全生命周期安全（字段级加密、动态脱敏）、模型安全（对抗训练、水印溯源）与合规认证（等保2.0、GDPR适配），同时引入区块链存证Agent决策链、伦理规则代码化植入，防范AI诱导泄露风险。

研发范式革新：标准化AI研发体系。以MLOps（机器学习全生命周期管理）、AIOps（智能运维）、自动化模型训推、AgentOps（Agent行为审计与协作效能评估）为核心，构建自动化模型训推流水线与版本控制体系，缩短AI应用迭代周期。

服务化转型：AI能力普惠化。将AI能力拆解为模块化、Serverless化服务，通过API市场与按需付费模式降低使用成本，同时提供低代码/无代码开发平台，推动AI技术平权。例如，腾讯云HAI（高性能应用服务）可一键部署混元、DeepSeek等20+主流模型，大幅简化开发流程。

千行百业实践：腾讯云智算落地案例解析

在白皮书中，首次全面详实解析了AI Infra（AI云基础设施）在多个重点行业中的行业适配与深耕。报告纳入了地平线、货拉拉、一汽丰田、燧原科技、作业帮、考试宝、心言集团、尚航科技、元石科技、智诊科技、德适生物等标杆企业，覆盖交通出行、工业制造、教育培训、泛互联网、具身智能、智慧医疗等六大重点行业。

在交通出行领域，地平线借助200Gbps vRDMA加速网络，将自动驾驶训练集群性能提升25%，千卡扩展比达92%；某头部新势力车企通过COS与GooseFS构建的数据闭环，实现百PB级存储成本降低40%，模型训练效率提升30%。工业制造场景中，燧原科技在庆阳部署的国产异构智算中心，以“超大规模云平台+国产化GPU”模式成为“东数西算”示范；某知名手机厂商依托GooseFS存储加速，将大模型分发效率提升3倍，服务稳定性提高57%。

教育培训行业，作业帮通过向量数据库与GPU共享技术，实现AI问答响应提速5倍，成本降低30%；考试宝则基于向量检索将试题聚类准确率从50%提升至95%，覆盖8000万用户。

泛互联网领域，心言集团借助TKE容器与星脉网络，支撑千万级用户高并发访问，成本节约20%；元石科技通过跨国数据传输方案，数据爬取效率提升100倍，合规拦截率超95%。

具身智能与医疗领域同样成果显著：某科研单位构建的多模态训练平台，使机器人训练效率提升200%；智诊科技“好伴AI”依托腾讯云算力打造的医疗大模型，实现500名专家“数字分身”规模化落地，基层健康服务响应提速3倍；德适生物iMedImage™通过HCC集群部署，模型推理吞吐翻倍，覆盖90%临床影像场景。

结语：

随着GenAI与AIAgent的深度融合，AI将进一步突破“技术-场景-合规”的协同瓶颈：在技术层面，多模态融合与具身智能将成为核心方向；在场景层面，从“单点效率提升”转向“全业务流程重构”；在合规层面，动态安全评估与伦理约束将嵌入技术全周期。

据悉，该报告已同步在腾讯云官网、IDC中国官网上线，可为互联网企业服务、交通出行、教育、医疗、工业制造等行业提供可落地的智算转型参考方案。