群发资讯网

MemT-1.0: 大模型终于开始在内部保存记忆

最近看到一篇挺有意思的论文:MemT-1.0,探索让大模型拥有原生记忆。

现在大部分 Agent 都依赖外部 Memory:把历史对话、任务经验存进数据库或文件,需要时再检索出来,塞回 Context。

MemT 尝试走另一条路:把记忆融入模型内部,让模型在持续交互中更新记忆状态,不必每次都重新读取完整历史。

实验中,128K 历史长度下,持久化存储开销降低约 66 倍,推理速度提升约 1.86 倍。

更有意思的是,研究团队还把它用在 Coding Agent 上。从历史成功轨迹中提取经验,在执行任务遇到困难时,将相关经验写入原生记忆,帮助 Agent 改善后续行动。SWE-bench Verified 实验中,平均成功率从 66.07% 提升到了 69.73%。

当然,这还不是真正完整的自进化。经验的提取和选择仍然依赖外部机制,原生记忆在综合记忆评测上也还没有全面超过传统的文本记忆方案。

但这项研究让我想到:未来 Agent 的记忆可能会分成两部分。

一部分放在外部,保存知识、文件、规则和可追溯的证据;另一部分融入模型内部,积累长期交互中的经验,帮助模型更好地处理下一次任务。

从记住信息,到积累经验,再到利用经验改善行动,可能是 Agent 自进化值得探索的一条路线。

#Agent #AgentMemory #MemT #Memory #Agent自进化 #论文解读