![]()
(图片来源:摄图网)
(记者 陈洲)最近,随着人工智能应用场景不断深化,有关Token消耗与使用成本的讨论也越来越多。Token是大模型处理信息的最小信息单元,日常工作生活中每一次向AI提问、使用AI生成内容,都是在调用词元。特别是,今年以来“龙虾”等智能体的爆发,带动词元消耗量显著增长。对于Token消耗与使用成本问题,中国电信不断加强关键核心技术攻关,通过优化资源配置、提升调度效率,持续降低使用成本、提升服务稳定性。
技术升维带动词元高效应用
词元(Token)的高效调用、成本控制与技术升维深度绑定,技术迭代直接决定词元处理的效率与成本,更是破解词元大规模应用瓶颈的核心。当前,词元已成为衡量AI商业化速度与产业景气度的重要观测值,兼具可计量、可定价、可交易特征,被誉为智能时代的“算力货币”。“龙虾”等智能体的爆发,让AI应用从简单对话转向复杂决策,长流程任务、多工具调用场景日益普遍,高密度的词元拆分、调用与结算,对算力调度、网络传输、资源优化提出极高要求。
传统技术架构下,词元处理面临算力浪费、调度滞后、传输时延等难题,直接推高使用成本。算力资源分布不均、调度僵化,导致单位词元算力消耗偏高;网络与算力调度脱节,增加无效词元消耗;词元切分规则不统一,进一步降低处理效率。
技术升维是破解上述难题的关键,通过算力、网络、算法多维度迭代实现全流程优化。算力层面,超节点架构、异构算力协同等技术提升单位算力词元产出;网络层面,算网融合打破壁垒,实现算力全域调度,降低跨区域词元流转时延;算法层面,词元压缩、智能切分减少无效消耗。技术升维不仅提升词元处理速度与稳定性,更能优化成本结构,推动词元应用从“可用”向“好用、经济”转型。
中国电信持续打磨技术,赋能词元经济落地
面对词元经济爆发式增长带来的机遇与挑战,中国电信立足自身优势,持续加强核心技术攻关,以技术提升助力词元经济从概念走向产业现实,逐步实现从“流量经营”向“Token经营”的转型升级,成为词元经济落地的重要推动者。中国电信提出五位一体智能云体系,构建起覆盖算力、网络、算法、服务的全链条技术支撑,依托天翼云息壤智算平台,打造全栈云技术体系,通过算网融合、算电协同等核心技术,实现词元调度效率提升与使用成本降低的双重突破。
天翼云息壤智算平台作为中国电信词元处理的核心载体,以云原生架构、分布式算力调度和AI全栈服务能力,为词元大规模处理提供了坚实支撑。该平台整合了CPU、GPU、NPU等多类型算力资源,通过智能调度引擎实现跨区域、跨架构的统一管理,破解了算力分散、调度滞后的难题。平台采用Trellis架构,实现“资源无关、框架无关、工具无关”的核心目标,可将普算、智算、超算等异构算力集中纳管,用户无需关心算力位置与底层框架差异,只需按需调用,大幅提升了词元处理的便捷性与效率。
算网融合与算电协同技术的深度应用,成为中国电信降低词元使用成本的关键抓手。中国电信依托全域覆盖的网络资源和“东数西算”国家枢纽节点布局,构建低时延、高可靠、广覆盖的算力传输通道,实现跨数千公里的异构算力集群混合训练,有效训练时长占比达92%,平均推理时延降低30%。同时,通过算电协同优化资源配置,借助绿色能源、高效制冷、智能调度等技术,降低算力能耗,进一步压缩单位词元处理成本。
在保障词元服务稳定性与普惠性方面,中国电信持续打磨技术、完善服务。一方面,打造精准流控体系,通过智能算法实时监测词元调用行为,拦截异常调用、恶意消耗等行为,保障词元服务的稳定运行,避免因异常情况导致的成本浪费;另一方面,推出免费Token额度、差异化套餐等举措,面向公众客户创新Token包经营,面向中小微企业推出Coding Plan套餐,面向政府和大型企业提供私有化部署+Token批发,让词元服务更具普惠性。目前,中国电信已拥有超过3000个边缘算力节点,AI应用用户规模超过1.1亿户,实体渠道网点和装维人员队伍逐步成为属地化AI交付力量,推动词元从技术概念走向千行百业的实际应用。
词元产业降本增效离不开技术精进
技术精进是词元产业降本增效的核心动力。当前,算力需求与成本压力的矛盾、标准不统一等问题,制约产业发展。运营商作为信息基础设施保障者,应发挥主导作用,深化技术创新,助力词元经济赋能数字化转型。
加大核心技术研发是基础。运营商需聚焦词元处理痛点,优化智算平台性能与词元处理算法,推动新型算力架构应用,加强自研攻关,构建自主可控技术体系,从根本上控制成本。
深化算网融合与算电协同是关键。完善算网一体架构,依托“东数西算”实现算力全域优化配置,推进算电协同,优先利用绿色能源,降低算力能耗与单位词元成本,推动产业绿色发展。
构建开放生态、完善计量标准是保障。运营商应牵头制定词元计量标准,明确切分、计费规则,联动上下游共建开放生态,优化差异化服务套餐,让词元服务更高效经济,赋能千行百业转型。
人工智能的快速发展,推动词元经济进入爆发期,词元消耗与使用成本的优化,直接关系到AI应用的普及与产业的高质量发展。技术升维是破解词元应用瓶颈、实现降本增效的核心关键,中国电信通过持续的技术打磨与实践,为词元经济落地提供了坚实支撑。未来,随着运营商持续深化技术创新、完善生态布局,必将推动词元使用成本进一步降低、服务效率持续提升,让词元经济真正融入千行百业,为数字经济高质量发展注入新的强劲动能。
特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.