北京
分享至
让智能体自己改自己，最怕改出问题。Google 与 Carnegie Mellon 的论文提出 Harmony Harness，把 agent harness 的自进化拆成多个目标分别优化，而不是拧成一股绳。
把"通过测试"和"堵住漏洞"分开进化
这套思路的核心，是把通过测试与阻断漏洞建模为两个独立目标，各自进化，再在推理时按任务动态组合。测试要过，漏洞也要堵，两件事不再互相拖后腿。
效果落在数字上：在 SecRepoBench 未见崩溃类型上，66.7% 的修复既有效又阻断了漏洞，起始 harness 只有 36.7%。
安全收益保留 55%，基线是 0%
更关键的一项对比是安全收益保留率：Harmony Harness 为 55%，而 DGM 基线为 0%。也就是说，后者在自改进过程中把安全收益丢了个干净。
多目标进化没有让智能体变慢，而是让它学会在不同任务里切换侧重——该过测试时过测试，该堵漏洞时堵漏洞。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
