北京
分享至
哈佛与斯坦福联合发表新论文，给正在用大模型替代传统检索方案的技术团队提了个醒：首轮检索，嵌入模型仍是首选。
研究团队对比了LLM与嵌入模型在检索任务中的表现，结论很直接——LLM不该被用来做第一轮候选筛选，只有在需要推理的短名单环节才值得引入。
核心数据最能说明问题：Gemini 3.1 Pro在37项任务中得分77.6，与Octen-8B的77.2统计持平，但成本却是天壤之别——前者$154.14，后者仅$0.11，差距高达1431倍。
具体到任务类型，LLM在检索任务中领先8.5分，嵌入模型则在分类任务中领先5.6分。论文建议的架构是：嵌入模型负责候选检索，LLM只处理需要推理的短名单。
一句话总结：别拿大炮打蚊子，检索的活儿交给嵌入模型，省下的成本够干很多别的事。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
