国家知识产权局信息显示,天数彤央(浙江)半导体科技有限公司申请一项名为“基于动态Token预测数量的推理方法、装置及电子设备”的专利,公开号CN122655995A,申请日期为2026年7月。
专利摘要显示,本申请提供一种基于动态Token预测数量的推理方法、装置及电子设备,涉及人工智能技术领域。该方法通过获取推理设备的实时物理性能状态和历史推理负载状态,并利用预训练的强化学习模型动态决策当前推理轮次的最优Token预测数量,实现了MTP推理过程中Token预测数量随设备工况和负载变化的自适应调整,有效克服了现有固定Token预测数量方案在边缘端部署时因热节流导致性能倒挂的技术缺陷,在保障设备稳定运行的前提下最大化推理吞吐量。
天眼查资料显示,天数彤央(浙江)半导体科技有限公司,成立于2025年,位于衢州市,是一家以从事科技推广和应用服务业为主的企业。企业注册资本1000万人民币。通过天眼查大数据分析,天数彤央(浙江)半导体科技有限公司专利信息12条。
声明:市场有风险,投资需谨慎。本文为AI基于第三方数据生成,仅供参考,不构成个人投资建议。
本文源自:市场资讯
作者:情报员
特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.