广州上线全国首个“词元”级算力服务平台

当前，大模型逐渐从大规模训练转向推理应用，词元（Token）成本成为制约AI应用大规模落地的核心瓶颈，企业面临用算难、用算贵的问题。

针对这一痛点，4月3日，广州市算力新基建开工暨算力供需会上，广州市政务服务和数据管理局联合广州数科集团正式发布全国首个基于“词元”级调度的城市综合算力运行服务平台——广州市一体化算力网监测调度平台。

该平台搭建了全市算力资源与应用需求的桥梁，优化算力资源配置，推动更多人工智能应用场景赋能千行百业，共筑算力生态圈。

此外，4个获批算力项目集体开工建设，建成后将新增智算规模4万P，实现广州单体万卡万P智算中心建设零的突破。

“我们的最终目标，就是让算力像水、电一样普惠便捷、随取随用，让各类市场主体都能轻装上阵、专注创新。”广州市政务和数据管理局基础设施处处长陈耿接受南方财经等媒体采访时表示。

算力是新时代的核心生产力，是驱动经济社会数字化转型的新引擎。本次广州市一体化算力网监测调度平台上线，将构建集约高效、安全可靠的一体化算力监测与调度网，满足城市数智化建设及应用需求。

据了解，该平台以“词元”为统一计量基准，构建按量、按周期等多种灵活计费体系，让算力应用及调度统一计量、透明可溯，适配政企多元化场景需求，实现全栈异构算力的统一纳管与资源池化，支持统一编排和词元级调度。

陈耿表示，以“词元”为统一计量基准的算力管理平台实现了从过去粗放的按卡计费，转向精细化的按词元使用量结算的根本突破。

和传统平台相比，该平台有三重优势：一是计量标准更统一，传统算力平台大多以服务器、GPU卡数、内存这些硬件资源作为计费依据，标准分散、口径不一，很难做到跨平台、跨主体的对标比较。平台以词元作为全市统一计量基准，真正实现异构算力“一把尺子量到底”，调度更精准、交易更公平。二是调度更高效，传统模式资源碎片化、调度颗粒度粗；词元级调度可以做到精细化、弹性化分配，避免大材小用、资源空转，真正实现算力随需而动、高效流转。三是管理更透明可溯，依托词元计量，算力使用全链路可追溯、可审计，既满足政务合规要求，也为市场化交易、跨区域调度打下可信基础。

今年2月，广州移动、广州联通、云下科技、连云大数据4个项目成功通过国家算力基础设施建设审批，总投资额48.39亿，新增智算规模将超4万P，4个获批算力项目集体开工建设，全面展示了广州推进算力基础设施建设的决心与速度。

广州市政务和数据局黄津局长表示，作为全国首个基于“词元”级调度的城市综合算力运行服务平台，平台上线标志着广州算力资源管理迈入智能化、集约化新阶段，将为企业提供便捷高效的“一站式”算力服务，切实破解企业用算难、用算贵等问题，让企业轻装上阵搞研发、拓市场。

据悉，平台纳管算力将扩展至7万P，打造集算力交易、供需撮合与政府监管于一体的算力资产流通枢纽，从功能定位上看，该平台以智能监测与高效调度为核心，构建了“1个全市算力纳管基座+1个监测中心+1个调度引擎”的新质智算底座，将推动全市实现算力资源“一盘棋”管理、“一本账”监测、“一张网”调度，降低企业用算成本，引导企业“敢用、想用、会用”算力。

南方财经记者了解到，本次算力供需会已有百度、火山引擎、京东科技、三七互娱、图灵科技等全国28家用算用数企业与本土算力建设单位达成合作。

作为供算单位，中国移动通信集团广东有限公司广州分公司打造了中国移动粤港澳（广州）数据中心，这也是广州首个单体万P新型智算中心。

“我们为广州量身打造‘算力心脏’。”中国移动通信集团广东有限公司广州分公司副总经理谢磊接受南方财经等媒体采访时表示，该智算中心具有双重优势，在技术方面，兼容国内外多种AI芯片，支持超万张加速卡协同计算，算力达万P级。同时深度应用液冷散热、智能节能等绿色技术，实现低碳可持续发展。在定位方面，作为广州算力底座的核心支撑点，无缝对接中国移动全球算力网络，成为大湾区算力协同的关键枢纽。同时聚焦各行各业需求，提供定制化服务，让AI算力真正成为触手可及的工具。

从用算企业的视角来看，广州大力建设智算基础设施，再配合供需对接模式，最大的意义在于把算力从“奢侈品”变成“日用品”。

“大模型逐渐从大规模训练转向推理应用后，Token成本成为制约AI应用大规模落地的核心瓶颈。企业不敢做高并发、高频率的推理服务，因为每问一个问题都在烧钱。”深圳云天励飞技术股份有限公司高级总监陈漱玉表示，本次政府搭台给企业搭建算力服务平台，算力从“买不起的设备”变成“随用随取的服务”，Token成本大幅降低，中小企业，初创公司可以更大胆地尝试，大模型推理将可以真正走进千家万户。此外，这种供需对接也使得供需匹配的效率得到有效提升，从“大海捞针”到“精准匹配”，供需可以精准对接。

华为作为算力设备供应商，主要参与广州市政务云的通算及智算建设，与广州数科合作人工智能赋能中心、国家人工智能中试应用基地，支撑广州自主创新智能算力建设。华为广东政企数字政府广州区域拓展部部长张圣胜表示，华为在广州深厚布局、创新技术、务实赋能，目标是做广州数字经济发展的“算力合伙人”，助力城市千行百业算得快、算得省、算得稳。

当前，广州正强化算力生态培育，聚焦数据要素赋能，实施政务数据提质增效行动，打造一批文本、图像、视频等多模态行业通识和专识高质量数据集，夯实人工智能发展数据根基。同时，聚焦政务服务智能化升级，实施政务智能体领航计划，在全市构建50个政务智能体，覆盖100个应用场景，推动政务服务提质增效、便民利企。此外，聚焦场景开放创新，发布数字政府建设重大应用场景机会清单，吸引优质科创资源、市场主体参与数字广州建设，加快形成智算赋能、产城融合的发展新格局。

未来，广州将持续深耕算力领域，以硬核算力支撑数字经济高质量发展，奋力为全国算力基础设施建设探索可复制、可推广的“广州经验”，打造数字经济创新发展的“广州样板”，让算力红利惠及城市发展、产业升级与民生改善。