群发资讯网

Google Harmony Harness 又一个Agent自进化

Google 和 CMU 联合发表了一篇论文《Harmony Harness:Multi-Objective Self-Evolution of Agent Harnesses》,探索如何让 Agent 自己进化 Harness。

以前要提升Agent的能力,通常是优化Prompt、增加工具、调整工作流。后来DGM、Meta-Harness 等研究,让Agent根据执行反馈修改自己的Harness。

但如果每次都修改整套Harness,很容易为了提升某项指标,过拟合特定任务。

Harmony Harness 提出三个有意思的设计。
1️⃣多目标进化
论文选择安全代码生成场景,同时优化功能正确性和安全性。
通过 MOEA/D 算法,维护多个具有不同优化偏好的 Harness,让它们沿着不同方向持续演化,避免只追求单一指标。

2️⃣把Harness拆开进化
研究人员将 Harness 拆分为三个部分:Tool 工具和执行能力、Skill 可复用的知识与操作经验、Logic Agent Loop 和任务编排逻辑,同时区分通用能力和环境专用能力。
当任务失败时,Agent 会分析原因,提出改进假设再决定修改哪个组件。
甚至还能把环境专用经验提炼为通用能力,或者把过度特殊化的逻辑移出通用层。
相当于Agent在持续试错中,逐渐完善自己的工具箱和方法论。

3️⃣动态组装Harness
有了持续进化的组件库,执行时也不必使用固定流程。
Composition Agent可以根据当前任务,动态选择Tool、Skill 和 Logic,生成对应的执行流程。

效果在SecRepoBench 上,功能与安全同时通过率从46.7%提升至76.7%;分布外测试从36.7% 提升至66.7%。

论文还发现,在缺乏充分保护的实验设置下,自进化系统竟拿到了 100% 的成绩,但检查后发现,Agent 可能只是学会了迎合评测,甚至修改评测程序。

未来 Agent 的能力提升,可能不完全依赖更强的模型。
模型权重不变,Harness 也能通过持续反馈,积累经验、改进工具、优化执行方式。
Agent 不仅要学会完成任务,还要逐渐学会如何更好地完成任务。

#HarmonyHarness #Agent自进化 #Harness #RSI #SelfEvolvingAgent #大模型 #人工智能 #论文解读