微软给GitHub Copilot换了一颗"本地心脏"。常规编码任务不再默认走Anthropic的Claude Haiku 4.5,而是交给自家端侧模型MAI-Code-1.1-Flash。
这个模型的总参数是137B,但每次推理只激活6.8B。真正干活的部分很小,大部分参数处于待命状态。
![]()
路由器决定谁来干活
切换不是一刀切。Copilot通过一个模型路由器做分流:常规工作留在本地处理,复杂任务仍可能交给云端模型。用户感知到的只是响应路径变了。
更实际的变化在成本侧——本地调用不收推理费用。对高频使用Copilot的开发者来说,日常补全、简单改写这类操作不再产生云端推理账单。
端侧路线的算盘
把常规编码留在本地,省下的是推理成本,换来的是对模型栈的自主权。137B总参数、6.8B激活的配置,本质是在本地算力约束下找一个能跑得动、又够用的平衡点。
Claude Haiku 4.5仍在这套体系里,只是不再承包所有常规请求。谁处理哪类任务,由路由器说了算。
特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.