NVIDIA 在一篇新论文里提出了 ACES 评估框架,核心结论很直接:技能文档得分高,不等于智能体在运行时真的能从中受益。
技能的主要贡献,论文认为在于发现与工作流顺序,而不是最终答案质量。
![]()
ACES 的做法是固定任务、模型、沙箱等变量,只对比有无目标技能两次运行的奖励差,这个差值被定义为 Skill Lift。
在生产技能实测中,结构与裁判评分和 Skill Lift 的相关性分别只有 −0.0181 和 −0.0266,几乎为零。
特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.