网易首页 > 网易号 > 正文 申请入驻

英伟达韩松团队联合开源Harness层RSI,API成本降三成!

0
分享至

智猩猩AI整理

编辑: 没方

随着Coding Agent从简单的代码补全走向长时间自主执行任务,模型需要不断读取文件、修改代码、运行测试并分析反馈。

任务越复杂,交互轮次越多,大量历史上下文和重复工具输出就会持续消耗Token。

如何在不明显牺牲任务完成能力的前提下,降低Agent Harness的运行成本,成为智能体规模化运行的重要挑战。

为此,NVIDIA联合开源SoL-Pi,这是一种受递归自我改进(RSI)启发的自动研究系统,让AI自主发现、测试并改进Agent Harness。


该项目在github上已收获3.5k stars。


研究团队探索了152个优化方向,在535个可执行环境中开展超过3000次运行,最终筛选出四项可复用的优化机制,分别作用于工具执行、上下文压缩、观察结果管理和日志处理。

在EdgeBench测试中,SoL-Pi使用GPT-5.6 Sol和Claude Opus 5作为后端模型,相比原始Pi Harness,Token总流量分别降低49.0%和44.7%,API成本分别降低33.2%和33.5%,同时保留了93.7%和94.3%的平均任务得分。

01

让Harness在自动研究循环

中持续优化

研究团队设计了Broad-to-Deep(由广到深)的自动研究流程。


图1:SoL-Pi:扩展自动研究循环

研究智能体先分析基础Harness的执行轨迹,识别重复操作、上下文增长、冗长工具输出等效率问题,再从上下文、任务进度、工具、委托执行、提示词与策略、改进与评估六大类中提出152个候选方向。

随后,每个候选方向进入独立的研究循环。

AI提出修改方案、实现代码、运行实验、分析结果,再决定保留、修改或放弃。实现阶段还引入基于Ralph Loop的迭代机制,由独立审查者检查实现结果,不合格则继续修改。

为了避免Harness只针对少量测试题优化,团队构建了535个研究环境,包括495个GitHub Issue–PR任务环境,以及40个带有可执行验证器的合成环境。


图2:两类研究环境支持优化机制的发现,同时确保EdgeBench基准测试独立于搜索过程。

所有候选机制都必须满足预先确定的能力约束,并至少改善一项效率指标。

搜索完成后,研究人员冻结候选实现,再进行独立验证,防止利用测试结果反向修改方案。


图3:在整个搜索过程中,开发反馈与留出评估始终保持分离。 执行轨迹用于指导机制提案与实现,而独立审查与开发验证则为修订提供依据。留出评估仅在候选方案冻结之后进行,其结果永不回流至搜索循环。

最终,四项机制通过筛选并整合进入SoL-Pi。


图4:四项保留下来的机制在agent–environment loop的不同环节发挥作用。

  • 工具执行(Action Fusion)

传统Pi执行编码任务时,通常先调用工具修改文件,再等待模型发出下一条命令,运行测试或构建程序。

Action Fusion将文件修改及其后续执行命令合并到一次工具请求中,并在同一条观察结果中返回执行反馈。

例如,Agent修改代码后需要立即运行测试,原本涉及三次API调用的流程可以缩减为两次。

这种方法减少了模型在连续操作之间反复决策的开销,但对于必须先检查修改结果才能决定后续操作的情况,仍然保留分步执行。

  • 上下文压缩(Online Context Compact)

长程任务会不断积累历史消息。传统上下文压缩往往关注窗口长度,却不一定考虑压缩后重新写入提示词缓存的成本。

Online Context Compact利用update_plan维护任务计划,在每个计划步骤完成时,根据已完成步骤的请求数量、剩余步骤和上下文增长速度,估算未来Token开销。

只有预计节省的输入成本超过缓存重写成本,才触发Pi原生的上下文压缩;当上下文接近窗口上限时,也可以执行压缩。

这使上下文管理从简单的长度控制,转向结合任务进度与实际成本进行动态决策。

  • 观察结果管理(ObservationPack)

大段输出不必反复发送Agent执行工具时,可能产生大量日志、文件内容和搜索结果。这些信息会进入后续上下文,即使模型已经读取过,也可能反复产生输入成本。

ObservationPack对超过10 KiB的工具输出进行本地归档。

前两次模型请求仍保留完整输出,从第三次开始,将其替换为稳定引用标识、原始大小信息和约1 KiB的首尾摘录。

需要查看细节时,Agent可以通过引用标识重新读取原始内容。

这样既避免重复传输大段信息,又保留了按需恢复完整证据的能力。

  • 日志处理(Evidence-Preserving Reducer)

对于不少于4 KiB、符合预定义命令范围的构建和测试日志,SoL-Pi引入一个低成本辅助模型,提取错误信息、执行状态和关键证据,生成简短的结果记录。

系统随后使用确定性验证器检查记录格式、原始输出哈希、退出状态、引用原文和大小。

如果验证失败、存在疑似凭据,或者压缩没有节省空间,就直接返回原始日志。

该机制使用GPT-5.6 Luna(high)提取证据,但最终的问题诊断与下一步行动仍由主模型负责。

这四项机制相互配合。

Action Fusion减少工具调用轮次,Online Context Compact降低长期上下文成本,ObservationPack减少重复观察信息,而Evidence-Preserving Reducer压缩构建与测试日志。

02

对比实验与结果分析

表1对比了GPT-5.6 Sol条件下的8种评估配置,并列出了各配置使用的主要后端模型。

实验结果显示,效率模式仅消耗1.10 B Token,比原始Pi减少49.0%,同时保留了Pi平均得分的93.7%(42.0分对比44.8分),Token成本降低33.2%。

表1:EdgeBench基准上的Harness性能对比。


表2对比了GPT-5.6 Sol和Opus 5两种模型下,原生Harness、Pi、SoL-Pi [Efficiency]效率模式以及SoL-Pi [Performance]性能模式的表现。

为了验证方法的迁移能力,研究团队将基于GPT-5.6 Sol开发的SoL-Pi直接应用于Opus 5,没有进行额外的搜索或适配优化。

实验结果显示,在Opus 5上,SoL-Pi保留了原始Pi平均得分的94.3%,同时Token总流量减少44.7%,API成本降低33.5%。

表2:SoL-Pi在EdgeBench上的不同配置及跨模型迁移表现。


表3报告了各Harness成功解决的任务数量、模型总成本以及每项成功任务的平均成本,所有成本均按API费用计算。

实验结果显示,Codex和Pi均成功解决18项任务,而SoL-Pi成功解决15项任务。

与Pi相比,SoL-Pi的模型总成本降低26.3%(211.12美元对比286.45美元),每项成功任务的平均成本降低11.6%(14.07美元对比15.91美元)。

表3:Terminal-Bench 4和IMO 2026基准上的Harness性能对比。


这些结果表明,SoL-Pi的效率优势不仅体现在EdgeBench上,还能够迁移至其他基准测试,在降低总体运行成本的同时,保持一定的任务解决能力。

研究团队进一步使用GPT-5.6 Sol(xhigh)模型,在IMO 2026(国际数学奥林匹克竞赛)题目上评估了这三种Harness,要求每道题的解答都必须使用Lean 4进行形式化表达和验证。

实验结果显示,SoL-Pi成功通过6道题中的3道,模型总成本为62.69美元,每道通过题目的平均成本仅为20.90美元,是三种Harness中最低的。

03

多智能体内核优化实验

研究团队进一步开展了一项多智能体内核优化实验,使用模拟机器周期(simulated machine cycles)作为性能评估指标,以验证SoL-Pi在多Agent协作场景中的表现。

实验对比了三种配置,每种配置分别独立运行两小时:

(1)单Agent模式:使用一个Codex Agent。

(2)Pi多Agent集群:由一个Codex协调智能体(Coordinator)管理20个基于原始Pi Harness的工作智能体(Worker)。

(3)SoL-Pi多Agent集群:由一个Codex协调智能体管理20个采用完整四机制配置的SoL-Pi工作智能体。

其中,单Agent和所有协调智能体均使用GPT-5.6 Sol(xhigh)模型,工作智能体则统一使用GPT-5.6 Luna(xhigh)模型。

所有实验均从相同的冻结初始程序(Frozen Starter)开始,该程序需要147,734个机器周期。每次运行都使用全新会话,不会继承此前实验中的解决方案或研究笔记,以确保对比公平。

在两种多Agent集群中,20个工作智能体被划分为5个小组,每组4个Agent。每个Agent拥有独立的工作空间,而同一小组内的Agent共享一个证据板(Evidence Board)。

工作智能体通过交换研究笔记,复现有潜力的发现,或将不同优化方案组合起来;协调智能体则负责在不同小组之间传递研究结果。

只有当协调智能体提交不可变的候选方案快照,并经过独立验证确认其性能取得严格提升后,系统才会更新全局共享的最优结果。

图5(b)展示了三种配置的实验结果。SoL-Pi多Agent集群最终将机器周期降低至1127,API成本为60.11美元;单Agent模式达到1333个机器周期,成本为39.20美元;Pi基线集群则达到1366个机器周期,成本为82.12美元。


图5:多Agent集群架构及两小时搜索实验结果。

在相同的执行时间预算下,SoL-Pi多Agent集群相比Pi基线集群,API成本降低26.8%,但单Agent模式仍然是成本最低的方案。

所有实验最终提交的候选方案均通过了官方正确性检查。

在速度阈值测试中,SoL-Pi多Agent集群和单Agent均通过全部8项速度阈值,而Pi基线集群仅通过7项,未能达到最后一项要求,即机器周期低于1363。

这些结果表明,SoL-Pi的价值可能不仅局限于提升单个Agent的运行效率,还能够扩展到Agent集群和多智能体系统。

通过提高Harness效率,多Agent系统有望在固定预算下开展更有效的协同探索,从而发现更优的解决方案。

关注+星标,获取AI前沿进展与开源一线动态

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
网传2027年国企要变天,到底真假?评论区炸锅...

网传2027年国企要变天,到底真假?评论区炸锅...

慧翔百科
2026-10-20 17:28:40
女子和男友“车震”时,另一个男友闻声来捉奸,2015年造成了1死1伤

女子和男友“车震”时,另一个男友闻声来捉奸,2015年造成了1死1伤

汉史趣闻
2026-10-21 13:33:16
泰国这回神仙难救!中方再度警示,大批国人变猪仔,谁在自寻死路

泰国这回神仙难救!中方再度警示,大批国人变猪仔,谁在自寻死路

乐天闲聊
2026-10-21 00:41:13
徐帆回应离婚5个月,冯小刚近况曝光,内心早已看透一切

徐帆回应离婚5个月,冯小刚近况曝光,内心早已看透一切

往史过眼云烟
2026-10-20 09:35:06
治不了中国,就再造一个中国?美国已经挑好了这2个国家,是谁?

治不了中国,就再造一个中国?美国已经挑好了这2个国家,是谁?

聊历史的阿稼
2026-10-19 11:42:01
画面不堪入目,地下人奶交易乱象,成年人躺进怀里吃奶的灰色黑产

画面不堪入目,地下人奶交易乱象,成年人躺进怀里吃奶的灰色黑产

易玄
2026-09-12 10:24:46
鲁比奥:美国与乌克兰关系非常紧张,特朗普对有关他“故意采取行动损害乌克兰利益”的说法感到不满,认为这“不公平,也不符合事实”

鲁比奥:美国与乌克兰关系非常紧张,特朗普对有关他“故意采取行动损害乌克兰利益”的说法感到不满,认为这“不公平,也不符合事实”

政知新媒体
2026-10-20 22:48:18
泽连斯基收到晴天霹雳!乌克兰被打的措手不及,只能向美国低头?

泽连斯基收到晴天霹雳!乌克兰被打的措手不及,只能向美国低头?

麓谷隐士
2026-10-21 00:10:04
横店空了!剧组暴跌八成,15万群演在景区找到新饭碗,日薪还涨了

横店空了!剧组暴跌八成,15万群演在景区找到新饭碗,日薪还涨了

阿废冷眼观察所
2026-10-15 12:31:05
蒙古人为什么这么恨中国?四个大实话,听完别不舒服

蒙古人为什么这么恨中国?四个大实话,听完别不舒服

小豫讲故事
2026-10-20 06:00:13
律师圈太疯狂了!灰色拓客方式浮出水面:广东一律所伙同看守所合同工,非法获取在押人员信息

律师圈太疯狂了!灰色拓客方式浮出水面:广东一律所伙同看守所合同工,非法获取在押人员信息

火山詩话
2026-10-21 07:30:11
1千克就能致命,曾经却被当成主粮食用,为何如今还在大量种植?

1千克就能致命,曾经却被当成主粮食用,为何如今还在大量种植?

浩渺青史
2026-10-19 08:11:12
民调赢麻了,但沈伯洋担心起来,台专家:国民党最后能赢13至15席

民调赢麻了,但沈伯洋担心起来,台专家:国民党最后能赢13至15席

DS北风
2026-10-21 10:46:03
提前庆祝,广东队两连败,却收好消息,杜锋朱芳雨有望同时回归

提前庆祝,广东队两连败,却收好消息,杜锋朱芳雨有望同时回归

宗介说体育
2026-10-21 13:22:33
曝街霸新片有春丽大尺度裸露镜头!美乳翘臀一览无余

曝街霸新片有春丽大尺度裸露镜头!美乳翘臀一览无余

游民星空
2026-10-19 16:04:41
前天和男友约会,在接吻的过程中,突然有一股热流进了我嘴里

前天和男友约会,在接吻的过程中,突然有一股热流进了我嘴里

千秋文化
2026-06-24 19:51:09
航班延误4小时给旅客发过期泡面,乌鲁木齐航空公布处理结果:向首位反馈旅客发放2000元现金,已全面完成溯源核查、严肃问责与闭环整改

航班延误4小时给旅客发过期泡面,乌鲁木齐航空公布处理结果:向首位反馈旅客发放2000元现金,已全面完成溯源核查、严肃问责与闭环整改

台州交通广播
2026-10-20 15:21:51
轰38分5断!乔治首秀刷新队史纪录,绿军交易不亏,但选错老大了

轰38分5断!乔治首秀刷新队史纪录,绿军交易不亏,但选错老大了

你的篮球频道
2026-10-21 07:12:47
WTT海报把孙颖莎挤到了边角,这事儿办得有点看不明白!

WTT海报把孙颖莎挤到了边角,这事儿办得有点看不明白!

眼界纵横
2026-10-21 09:35:32
忍无可忍,杨鸣点名广东最差之人,一个中锋连赵睿都顶不住

忍无可忍,杨鸣点名广东最差之人,一个中锋连赵睿都顶不住

南海浪花
2026-10-20 21:26:34
2026-10-21 14:47:00
智猩猩
智猩猩
AI 技术内容与服务平台
258文章数 13关注度
往期回顾 全部

科技要闻

SpaceX收入暴涨!马斯克:这事"不再不可能"

头条要闻

牛弹琴:菲政客嚣张炒作要驱逐中国大使 中方没有客气

头条要闻

牛弹琴:菲政客嚣张炒作要驱逐中国大使 中方没有客气

体育要闻

“我,对得起天津足球!”

娱乐要闻

刘恺威官宣女友,和杨幂一个天一个地

财经要闻

日赚近5亿的长鑫,股价却跌掉了15000亿

汽车要闻

黑科技一次看全 2026奇瑞全球创新大会干货汇总

态度原创

亲子
游戏
本地
房产
军事航空

亲子要闻

今日份治愈来自这对母女的双向奔赴

全副武装的狗狗潜水员带你深潜腐化海洋!《汪洋大盗哥》全新试玩版上线

本地新闻

一场垂直登高赛跑出了"山城"的真正内核

房产要闻

避雷!买一楼送花园,可能藏着大坑!

军事要闻

美原油储备降至44年来最低 美以伊战事或重燃

无障碍浏览 进入关怀版