北京
分享至
企业AI助手正在面临一个现实问题：模型能力越强，调用成本越高。Glean给出的解法是把"用多少智能"的决策从开发阶段移入运行时，让系统根据任务难度动态调配资源。
这家公司的基准测试覆盖了180+企业任务，结果显示，相比Claude Cowork，其运行时路由方案可降低81%的token成本。具体到数字：Glean每查询成本为$0.58，而Claude Cowork为$2.98。
成本降了，体验没降
更关键的是，在78%的测试任务中，用户更偏好Glean的输出结果。这意味着成本下降并非以牺牲回答质量为代价，而是通过更精准的资源分配实现的。
需要特别说明的是，这一基准并非模型对模型的直接对比，而是固定模型推理，对比"上下文+路由"系统的整体表现。换句话说，比拼的是系统调度能力，而非底层模型本身。
对正在控制AI预算的企业团队来说，这种"按需分配智能"的思路，或许比单纯换更便宜的模型更具参考价值。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
