北京
分享至
北京商报讯（记者 王天逸）8月28日，中科曙光发文称，在2026中国国际大数据产业博览会期间，公司发布新一代词元加速方案ParaCache。
据悉，该方案通过保存并复用大模型已经完成的计算结果，减少不同请求、不同计算节点之间的重复计算。测试显示，在约12万词元输入下，ParaCache可使模型开始回答前的等待时间最高降低98.5%；高并发场景下，系统每秒处理的词元量最高达到原来的27倍。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
