文庙散步,让我重新理解了Agent自进化
昨天发烧了,早上9点多醒了,实在睡不着,就只能出来溜溜。
路过文庙的时候看到墙上写着孔子的「君子三戒」:
「少之时,血气未定,戒之在色;及其壮年也,血气方刚,戒之在斗;及其老也,血气既衰,戒之在得。」
看到这个,我突然想到一个挺有意思的问题。
人类其实很习惯通过这些古训、格言反思自己的行为。前人把经历和教训总结下来,后来的人看到之后,也会重新审视自己的行为。
那为什么模型不可以呢?
现在的模型在CoT过程中,其实已经具备一定的反思能力了。
它能发现自己哪一步做错了,为什么失败,甚至重新规划出更好的路径。
但问题是,这些反思很难真正沉淀下来。
这次任务里想明白的事情,下次可能又忘了,踩过的坑还得重新踩一遍。
所以人类才发明了Skill让Agent去规避这这些问题。
那这样的解法其实不本质,或者说太低效了。
这也让我重新理解了,为什么今年七月份加入 @lobehub 之后我们开始做的「自进化」这个功能。
当时的思路是,让 Agent 在特定领域不断执行任务,把成功的方法和失败的教训沉淀到一个Experience Layer(经验层里)。
后来发现,这套机制确实能解决一些之前很难处理的任务,比如过去可能需要人为编写大量 Skills、维护各种Memory,现在Agent 可以在执行过程中自己总结、验证、积累经验,逐渐形成稳定的能力。
人的思考和模型的推理,人的经验积累和Agent的经验沉淀,其实有很相似的地方。
那如果顺着这个思路,其实对于未来模型和Harness的分工变化趋势也变得更清晰了。
模型可以近似理解为System 1,负责当下的推理和生成;外部Harness则承担一部分System 2的工作,负责反思、验证,以及经验的长期积累和调用。
模型的参数没有改变,但整个Agent系统却可以随着任务执行不断积累经验。
人类把经验写成古训,留给后来的人反思。
Agent和模型也可以把经验沉淀下来,留给下一次的自己或者别人。
这可能是Harness在未来最重要的价值。
PS:配图是我专门负责执行Github任务的agent(名字叫Latte😊)
大模型 人工智能 互联网大厂 AIGC ai Agent LobeHub 智能体 深度学习 科技 @科技薯

