上海
分享至
3月28日消息，中关村论坛由趋境科技与九源智能计算系统生态联合体主办的研讨会上，郑纬民院士表示未来的智能基础设施应围绕Token即服务（TaaS）进行重构，一是全系统异构协同，不同计算任务合理分配至GPU、CPU、内存和SSD，打破算力瓶颈；二是存算协同实现“以存换算”，通过前置KV Cache等技术，大幅降低重复计算量，提升推理效率；三是面向SLO的智能调度，精准地将用户业务需求“翻译”为底层资源决策。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
