北京
分享至
Google DeepMind 提出了一种名为 Pandora's Router 的模型路由新思路，将路由决策建模为“潘多拉魔盒问题”。核心逻辑很直接：先给每个专家模型一个廉价粗略评分，只有当额外信息的预期价值高于成本时，才付费运行更强的评估器。
成本与遗憾双降
在 MATH、RAG 和 EmbedLLM 基准上，该方法的综合路由遗憾与检查成本达到最低或并列最低。以 EmbedLLM 为例，平均检查成本从 1.986 降至 0.075，降幅超过96%；路由遗憾也从 0.370 降至 0.311。
按需付费的评估逻辑
这套机制的本质是避免“一刀切”式的高成本评估。对于简单问题，粗略评分足够；只有面对复杂任务时，系统才愿意为更精确的判断支付额外计算开销。
这种“按需付费”的路由策略，为多模型调度提供了一种更经济的平衡点——在准确性和资源消耗之间，不再需要二选一。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
