网易首页 > 网易号 > 正文 申请入驻

模型换个Harness就“变笨”?EverMind把自进化从研究推向产品,让AI“越用越聪明”

0
分享至


同一个模型,权重一个参数都不改,只是换一套Harness,表现就可能大幅波动。这看似是 Agent 工程中的「玄学」,实际上暴露了自进化走向产品必须回答的两个问题:怎样证明改进真实有效,以及怎样获得足够连续、真实、可回溯的数据,让改进能够长期发生。

EverMind正试图用 HarnessBank、Raven 与 EverMe,把这两个问题接成同一条产品路径。

模型没有变,为什么换个Harness 就“变笨”?

在AI Agent 的实际应用中,模型只是能力的一部分。包裹在模型外围的提示词、知识注入、工具调用、运行时逻辑与配置,共同构成了 Harness,也就是 Agent 的「运行外壳」。同一颗模型放进不同 Harness,可能像同一个人进入不同组织:知识与智力没有改变,决策流程、工具条件和反馈机制一变,最终表现便会截然不同。

EverMind 在 HarnessBank 研究中给出了一个直观结果:在 AppWorld 测试集上,同一颗冻结权重的 Qwen3.6-27B 模型,仅通过 Harness 进化,测试集 Pass@1 从 41.3% 提升至 56.7%。在覆盖终端操作、代码生成、数学推理、网页研究、知识工作、应用控制与代码修复的七个基准中,测试集 Pass@1 均取得正向提升,幅度为 5.1 至 15.4 个百分点。

但真正困难的并不是让某一次分数上涨,而是证明上涨来自可复用的机制改进,而不是随机波动、任务过拟合,甚至沙箱崩溃与验证器超时造成的「假成功」。如果连提升是否真实都无法判断,所谓自进化就可能变成自动制造回归。

HarnessBank:把“自我改进”变成可验证的工程

01. 核心架构:一个 Agent 跑任务,一个 Agent 改 Harness

HarnessBank 的核心思路是将系统拆分为两个角色,形成一种「非对称」的进化结构:

l任务Agent:负责在现行的Harness 下执行具体任务。它的骨干模型是被冻结的(默认使用 Qwen3.6-27B),保持稳定;

lEvolver Agent:这是一个独立的、能力更强的模型(例如Claude Opus 4.8)。它的任务是读取「任务 Agent」的执行轨迹,诊断出反复出现的失败机制,并生成新的候选 Harness。

这种设计的精妙之处在于:改进由一个「强模型」来思考,而被改进的只是一个「弱模型」的外壳。


传统人工调优(上)需要耗费大量人力且效率低下,而 HarnessBank 自进化(下)通过双 Agent 架构和基因库分格存档,实现了精准、高效的自动化迭代。

在形式上,进化只允许修改Harness 的可变面(如prompt、注入知识、运行时逻辑、配置),而评估、记账、自进化相关的代码则被锁成不可动内核。这种严格的控制保证了进化前后的结果始终具有可比性。


HarnessBank 框架流程:1) 选出当前最强父代;2) 运行训练任务获取诊断;3) 基于基因库重组或重新发明机制;4) 通过四道门控筛选;5) 评估并竞争入库。

进化过程绝不是盲目的试错,而是遵循严谨的四步循环:

1.选择父代:从「基因库」中按质量偏置选出当前最强的Harness 作为父代;

2.运行诊断:运行一批训练任务,获取完整的诊断信息(分数、轨迹、评估元数据);

3.生成后代:Evolver 基于诊断生成后代:要么从失败轨迹中重新发明一个机制,要么将不同格子的机制重组起来;

4.门控筛选:后代必须通过严格的「筛选门」,通过后才能进入完整评估并最终入库。

02. 避坑指南:现有自进化方案的三大「翻车」陷阱

为什么现有的许多自进化方案在实际应用中常常失效?EverMind 团队在论文中指出了三种典型的「翻车」方式,HarnessBank 针对性地给出了解决方案。

陷阱一:搜索塌缩

传统的贪心演化策略只保留当前看起来最好的改动。随着代数推移,改动的种类越来越窄,最后往往塌缩成prompt 层面的保守修补。那些激进的、结构不同的方案一旦单次失败就会被彻底抛弃。

lEverMind 的应对:Harness Gene Bank

HarnessBank 不按分数高低只存一个最优解,而是采用类似MAP-Elites的思想,按「语义坐标」分格存档。

横坐标(改在哪):prompt、知识、运行时、配置。

纵坐标(为什么改):针对哪类失败病理。

同一病理的候选在同格竞争,不同病理的方案各占一格,既保住了多样性,又确保了每一格的质量。而这件事成立的前提是每一步都过了门控:只有确认真实有效的机制才值得留存,也只有这样,把它们累加起来才是在探索更好的Harness,而不是在累积噪声。

陷阱二:任务过拟合

如果没有门控机制,进化很容易留下「背题补丁」—— 它在训练任务上有效,仅仅是因为记住了这些具体任务,而不是修正了真实的失败机制。

lEverMind 的应对:严格的留出集验收

HarnessBank 明确区分了「多样性」和「防过拟合」。按病理分格解决了多样性和可重组问题;而真正阻挡过拟合的闸门,是测试集全程不参与进化决策,只在最后做一次验收。

陷阱三:收益不可验证

这是最隐蔽也最致命的陷阱。单次运行分数上涨,可能是机制真的起效,但也可能是执行噪声,甚至是沙箱崩溃、验证器超时等基础设施故障被误算成了成功。实测表明,无门控的循环甚至会部署比初始状态更差的「负优化」版本。

lEverMind 的应对:四道严格的「门控」

03. 核心机制:四道门拦住「假提升」

Gated Harness Screening是HarnessBank 全文最核心的设计。每一个生成的后代,都必须在采样的任务子集上通过四道严格的关卡:


消融实验证明了这四道门的分量:如果去掉显著性检验门,收敛后的轮次中有62% 到 76% 是「幻影进展」。而带有完整门控的版本,则能在 10 轮下限处干净退出,确保每一次部署都是真实的提升。

04. 核心洞察:没有万能的 Harness

HarnessBank 在七个基准测试(覆盖终端操作、代码生成、数学推理等)中,测试集 Pass@1 全部实现了正向提升(幅度+5.1%到+15.4%),且绝大多数通过了统计可信检验。

但更重要的发现是:没有万能的Harness。

跨模型实验揭示了一条深刻的「病理到补丁的匹配律」:每个模型都有自己支配性的失败模式。

lQwen3.6-27B容易死于「空转回合」,verify-finalize补丁能带来+15.4%的提升。

lQwen3.6-397B和Gemini 3 Flash则容易死于「粗心」,需要的是「清单补丁」。

l如果把27B 的补丁生搬硬套给 397B,效果几乎归零;如果把针对某一模型的恢复机制错误地应用到另一个模型,甚至会导致严重的负优化(如-15.7%)。

l更极端的例子在数学推理上:Qwen3.6-27B的问题是「想太多」,Gemini 恰恰是「想太少」,同一个推理预算的旋钮,两个模型需要往相反方向拧。

结论很明确:真正可迁移的,是从诊断失败、结构化搜索到统计验证的这整套「流程」,而不是任何一条具体的Harness 或 Prompt。

05. 给 Agent 开发者的四个实战建议

HarnessBank 的方法论并非免费(需要强模型算力和大量的 rollout 预算),但它为 Agent 调优提供了极具价值的指导。EverMind 总结了四条实战经验:

1.验证四问(适用于任何Agent 调优):评估环境干净吗?改动真的执行了吗?增益过显著性检验了吗?比基线强吗?

2.分格存档:别只留当前最好的一套配置,按「改在哪、解决什么问题」分格存,结构不同的好方案才有被重组的机会。

3.别找普适最优:Harness 是模型特定的,别人的配置搬过来可能无效甚至有害。带走诊断到验证的流程,而不是某一条 prompt。

4.先算账再上:强模型和门控都需要成本。这套方法值不值得,取决于你有多怕部署一次「看起来涨了其实是噪声」的回归。

EverMind 通过 HarnessBank 证明了,Agent 的自进化不应是玄学,而应是建立在严谨统计验证基础上的工程实践。

从HarnessBank 到 Raven:自进化开始进入运行时

HarnessBank 回答了「怎样安全地改」,Raven 则把这套方法带入真实 Agent 的运行框架。

作为构建在EverOS之上的自进化 Agent Harness,Raven 将长期记忆、技能体系、运行策略和工具调用连接起来,使 Agent 能够从任务轨迹中总结经验,在不必频繁修改底层大模型权重的情况下,持续优化自身的技能、工作流与外围运行逻辑。

这一步让EverMind 的技术路线形成清晰分层:EverOS 负责把分散的交互、知识与个人信息组织成长期记忆;Raven 负责将这些记忆转化为更好的执行策略 ——HarnessBank 为策略进化提供可验证的方法;SkillCorpus 等研究则帮助成功经验被规模化沉淀、检索与复用。记忆不再只是一个档案馆,而成为 Agent 发现问题、形成经验和改写行为的原料。


然而,从论文和开发者框架走向大众产品,还缺少最关键的一环:持续、真实、由用户直接产生的数据。

基准测试可以证明机制有效,却无法代替一个人在工作、学习、沟通和使用不同应用时形成的长期轨迹。没有这部分数据,自进化很容易停留在实验室;拥有这部分数据,Agent 才可能真正理解「对谁进化、为何进化,以及进化后是否更有用」。

EverMe 上线内测:C 端直接数据飞轮开始成形

目前,EverMind 的首个 C 端产品 EverMe 已上线内测。它并不是把 EverOS 的开发者接口简单搬到消费端,而是在 EverOS 记忆架构基础上,提供更轻便、直观的个人记忆管理与调用能力,让普通用户能够汇集、查看、追溯和使用自己的记忆,并将这些记忆数据交给不同 Agent 服务。

从现阶段产品结构看,EverMe 正围绕 Memory Hub、Knowledge Base、数字分身、与 Agent Hub 四个模块展开:

lMemory Hub:目前已打通11 个 Agent,包括 Claude Code、Codex、OpenClaw、Hermes、Kimi Code、Raven 等,支持历史数据冷启动导入与后续记忆实时写入,并通过 Timeline 管理跨 Agent 的个人轨迹。

lKnowledge Base:支持连接多种常见应用数据,也支持Notion、Obsidian 与本地文件等内容导入,形成个人知识库;用户还可以基于自己的数据进行 Deep Research,让研究结果不只依赖公开互联网,也能结合个人材料、既有项目与长期上下文。

l数字分身:提供主分身、Onboarding、对话流与记忆溯源 Reference,让用户能够看到回答依据了哪些个人记忆,并逐步形成持续更新的数字身份。

lAgent Hub:支持Agent 分享,并为后续的发现、评价与协作机制奠定基础,使个人记忆和专业 Agent 不再被锁在单一产品中。

此外,EverMind 已成为 MiniMax Code 首批支持的 7 个生态伙伴之一。这意味着 EverMe/EverOS 的个人记忆能力正在与主流编码 Agent 生态发生更直接的连接:用户在不同工具中的任务上下文、偏好和经验,有机会被统一沉淀,并在下一次任务中继续发挥作用。

为什么C 端数据飞轮,是自进化产品化的基础

对自进化而言,数据量并不是唯一关键。更重要的是数据是否属于同一个主体、是否跨越足够长的时间、是否包含完整的任务过程与结果反馈,以及用户是否拥有管理和授权这些数据的能力。EverMe 的价值,正是在 EverOS 的记忆架构上建立一个面向个人的直接入口,把原本散落在文件、知识工具和不同 Agent 中的数据组织为连续的个人记忆资产。

当这套入口被持续使用,一个C 端直接数据飞轮便开始形成:

这个飞轮与传统互联网的数据飞轮有本质区别。它不是单纯用更多用户行为训练一个统一模型,而是围绕每个用户建立可管理的长期记忆,再让多个Agent 在授权范围内消费这些记忆。由此产生的,不只是更大的数据池,而是更高质量的个体化经验:哪些信息值得记住、哪个 Agent 在什么场景下更有效、哪种工作流经常失败、什么结果符合用户偏好。

这也解释了为什么EverMe 对 EverMind 的战略意义远大于一个 C 端记忆工具。它把 EverOS 的底层架构、Raven 的运行时进化和 HarnessBank 的验证机制,接入真实用户的长期使用场景。学术研究提供「如何进化」的方法,C 端产品提供「用什么进化」的数据,而连接多个 Agent 的生态则提供「在哪里验证进化」的任务环境。三者结合,自进化才有机会形成可持续的产品闭环。

从「更聪明的模型」走向「越用越懂你的系统」

今天,大模型行业仍习惯用参数规模、基准成绩和上下文长度衡量智能。但对用户而言,真正可感知的进步往往更朴素:它是否记得我做过什么,是否理解我为什么这样做,是否能从上一次的失误中改进,是否能把一个工具里的经验带到另一个工具里。

HarnessBank 证明,冻结权重的模型也能通过外围机制获得显著且可验证的提升;Raven 让这种提升进入 Agent 的持续运行过程;EverMe 则开始把个人数据、记忆管理和多 Agent 生态连接起来。

由此,EverMind 正在形成一条从学术研究、开源基础设施到 C 端产品的完整路径。

这条路径的终点并不是让所有人拥有同一个更强的AI,而是让每个人拥有一个基于自身记忆、能够跨应用协作、并在真实使用中持续进化的智能系统。随着 EverMe 内测推进和更多 Agent 接入,EverMind 所探索的自进化,也正在从论文中的统计显著性,走向用户每天都能感知的能力复利。

注:本文参考EverMind 开源社区大使 「尹珉的 AI 笔记 」原创分析文章《没有万能的 Harness:为什么它换个模型就失灵》改写后获得授权发布。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
一场1-1让邵佳一收获新发现,20岁天才新星持续爆发,国足又添替补奇兵

一场1-1让邵佳一收获新发现,20岁天才新星持续爆发,国足又添替补奇兵

零度眼看球
2026-08-20 06:57:14
宋子文晚年选择吐露实情:西安事变护送蒋介石抵南京当日,叛徒并不是张学良,这个名字藏了35年,再不说就要随同自己入土了

宋子文晚年选择吐露实情:西安事变护送蒋介石抵南京当日,叛徒并不是张学良,这个名字藏了35年,再不说就要随同自己入土了

唠叨说历史
2026-08-04 17:10:49
好莱坞花6亿美元,用30年专门送马特・达蒙回家

好莱坞花6亿美元,用30年专门送马特・达蒙回家

现代快报
2026-08-17 20:01:03
19岁女孩被亲生父亲一周强奸4次,报警后母亲竟让她去撤案

19岁女孩被亲生父亲一周强奸4次,报警后母亲竟让她去撤案

胖胖侃咖
2025-05-28 08:00:16
国家一级女演员陈丽云被逮捕!

国家一级女演员陈丽云被逮捕!

许三岁
2026-03-28 09:24:30
秋收起义六位领导人:毛主席成了一代伟人,剩下五人结局令人唏嘘

秋收起义六位领导人:毛主席成了一代伟人,剩下五人结局令人唏嘘

磊子讲史
2026-08-19 14:46:25
杨幂的“大幂幂”绝非浪得虚名!

杨幂的“大幂幂”绝非浪得虚名!

八卦疯叔
2026-08-20 11:40:06
曾放话“3亿美元也不回归”,德普被曝正洽谈《加勒比海盗》续集,45亿美元IP悬念再起

曾放话“3亿美元也不回归”,德普被曝正洽谈《加勒比海盗》续集,45亿美元IP悬念再起

奶凶的小霸王
2026-08-17 14:07:37
官宣!广东宏远新主帅正式确定,将于明天到队,新老总亲自面试

官宣!广东宏远新主帅正式确定,将于明天到队,新老总亲自面试

多特体育说
2026-08-20 11:35:44
曹云金砸挂仅冰山一角,郭德纲海外巨额资产曝光,何云伟火上浇油

曹云金砸挂仅冰山一角,郭德纲海外巨额资产曝光,何云伟火上浇油

阿凫爱吐槽
2026-08-20 04:20:12
出汗就是血糖最好的反馈!出现这几种情况,多是血糖快失控了!

出汗就是血糖最好的反馈!出现这几种情况,多是血糖快失控了!

叙说医疗健康
2026-07-27 10:00:37
错过《奥德赛》少赚几个亿!如何留住顶级人才,诺兰给好莱坞上课

错过《奥德赛》少赚几个亿!如何留住顶级人才,诺兰给好莱坞上课

极客电影
2026-08-19 18:46:34
美国专家警告:只要中国打响武统第一枪,解决台湾问题只需96小时

美国专家警告:只要中国打响武统第一枪,解决台湾问题只需96小时

霁寒飘雪
2026-08-20 10:01:24
女神为艺术全裸献身,这部R级新片太生猛了

女神为艺术全裸献身,这部R级新片太生猛了

来看美剧
2026-08-19 23:13:20
绝配双子星!阿森纳锁定 1.3 亿终极补强,完美激活王牌新援

绝配双子星!阿森纳锁定 1.3 亿终极补强,完美激活王牌新援

澜归序
2026-08-20 08:13:45
杭州60亿酒局案越发严重!涉事女生曝出多处淤青,舆论指向“强奸未遂”

杭州60亿酒局案越发严重!涉事女生曝出多处淤青,舆论指向“强奸未遂”

火山詩话
2026-08-19 16:32:19
小泉进次郎等参拜“战犯神社”,台湾方面称“尊重”,国台办:民进党当局“媚日恋殖”,让世人再度看清其背叛历史、背叛民族的丑恶嘴脸

小泉进次郎等参拜“战犯神社”,台湾方面称“尊重”,国台办:民进党当局“媚日恋殖”,让世人再度看清其背叛历史、背叛民族的丑恶嘴脸

政知新媒体
2026-08-19 12:30:04
医生提醒:每天吃点它,肌肉一周涨回来,再忙也要看2分钟

医生提醒:每天吃点它,肌肉一周涨回来,再忙也要看2分钟

观星赏月
2026-08-16 07:53:46
中国如今对美国,只剩一条不可触碰的终极红线!

中国如今对美国,只剩一条不可触碰的终极红线!

安安说
2026-08-20 10:21:36
特朗普松了口气:台积电美国工厂利润大增661%,超过中国大陆工厂

特朗普松了口气:台积电美国工厂利润大增661%,超过中国大陆工厂

互联网.乱侃秀
2026-08-20 09:55:00
2026-08-20 12:39:00
猎云网
猎云网
聚焦科技创业创新,钻研产业趋势,用心服务创业者。
59615文章数 327175关注度
往期回顾 全部

科技要闻

DeepSeek Harness更新多模态支持

头条要闻

许家印被判无期徒刑 恒大集团、恒大地产等案一审宣判

头条要闻

许家印被判无期徒刑 恒大集团、恒大地产等案一审宣判

体育要闻

拥有“儿皇梦”的罗德里,为何选择巴萨?

娱乐要闻

汪峰也没想到章子怡,挖到了一条财路

财经要闻

许家印被判处无期 恒大集团被罚88.2亿

汽车要闻

第二代家庭旗舰的样子 奕境X9预售价29.98万起

态度原创

本地
旅游
健康
公开课
军事航空

本地新闻

先导片|攀登不止,让不同的故事在此连接

旅游要闻

夜市、潮饮、露天电影全都有,北京推出夏夜“烟火气地图”

这种脊柱侧弯,运动能救!

公开课

李玫瑾:为什么性格比能力更重要?

军事要闻

弹药危机 美步入“战略更年期”的征兆

无障碍浏览 进入关怀版