Anthropic 智能体记忆怎么设计:10 个文件打赢 413 个文件

一句话结论:Anthropic 2026 年 11 月 6 日发布的智能体记忆研究给出了一套可操作的答案,记忆的关键在于知道该忘掉什么,Claude Fable 5 在宝可梦红测试里只写 10 个文件 43406 字符就拿到 4 个徽章,而旧版 Sonnet 3.7 写满 413 个文件 977930 字符只拿到 1 个徽章,同时官方明确警告,写死记忆规则反而会让记忆收益倒退。

做长期运行的智能体,记忆几乎一定会被当成一个越大越好的东西来设计。存下全部历史,上下文越攒越长,检索的时候总能捞到点什么。这套直觉在真实任务里会崩。Anthropic 工程团队 11 月 6 日发布的研究 The components of agent memory 给出了一整套实验证据,核心结论有两个。记忆的产出量与效果不成正比,甚至成反比。而怎么写记忆这件事应该留给模型自己判断,外部写死规则会让收益倒退。

这篇研究由 Lance Martin 撰写,编辑指导来自 Caitlin Love、Tom Chivers、Rebecca Hiscott、Jake Eaton 和 Blake Wilson,图由 Monika Tuchowska 制作。研究把智能体记忆拆成四层,从下到上是会话记录、Claude 写的记忆笔记、像 wiki 这样的记忆表示,以及每次会话都会加载的注入上下文。四层之间由 dreaming 机制串联,这个词借的是 Letta 和 UC Berkeley 提出的 sleep-time compute,也就是让模型利用交互之间的空闲时间重整已有上下文。

四层记忆架构

研究先把边界划清楚。智能体记忆指的是 Claude 从经验中获得的知识,包括与用户的交互和它被指派的任务,并在会话之间保留为之后可读的上下文。明确排除在外的有三类,权重变化这种训练期的学习、单次会话内的 in-context learning,以及 compaction 这种用摘要替换旧轮次以腾出上下文窗口的做法。

有了这四层,问题就变成每一层该放什么,以及谁来维护。

层级 形态 谁写入 作用
会话记录 可检索的事件日志 系统自动写入 原始事实底本,供 dreaming 回溯
记忆笔记 Claude 自选的重要观察 Claude 判断后写入 跨会话可用的经验沉淀
记忆表示 wiki 等结构化文档 dreaming 整理产生 给笔记建立索引与层次
注入上下文 每次会话预加载的少量内容 dreaming 提升 + harness 加载 省掉检索成本,但占用 token

类比来自人脑。海马体在当下捕捉经历让记忆快速形成,但只有一部分经历会被整合进长期知识,而这个整合似乎主要发生在大脑离线时。睡眠期间海马体重放近期经历,逐渐把这些经历蒸馏并整合进新皮层。Claude 的做法在结构上是同一个思路,只是把离线时间换成了 dreaming 过程。

宝可梦红实验:10 个文件对 413 个文件

最直观的一组数据来自宝可梦红。研究者给每个模型一个可读可写的记忆文件夹,比较 Sonnet 3.7 和 Fable 5 各自跑到约 10000 步时的记忆目录。

Sonnet 3.7 假设一切都可能有用,于是无差别地写。它的目录里有 413 个文件、分布在 225 个文件夹中,总计 977930 个字符,每次战斗、每件捡到的物品、每个遇到的游戏角色基本各有文件。它最终拿到 1 个徽章。徽章代表玩家在游戏里的进度推进程度。

Fable 5 写了 9 个文件放在 2 个文件夹里,外加一个名为 global.md 的顶层文件,共 10 个文件、43406 个字符,拿到 4 个徽章。

对比项 Sonnet 3.7 Fable 5
记忆文件数 413 10
文件夹数 225 2
字符总量 977930 43406
宝可梦红徽章数 1 4
写入策略 无差别存档 只存推导出的策略与规则

Sonnet 3.7 的做法问题出在游戏状态 constantly 在变,详细的记录会持续过期。随着推进,它不得不花更多时间和资源去翻自己的记忆而不是玩游戏。约在 10000 步附近,它开始开第四个 master 记忆文件夹,接下来的 17 步里创建了 6 个文件、删除了 9 个,游戏里一个动作都没做。

Fable 5 的做法是用记忆去存游戏没直接告诉它的东西。像玩家有多少钱、在地图哪个位置,每回合都能从屏幕上读出来,存下来是冗余的。反过来,关于策略、计划和被验证过的规则的记忆,只有 Claude 自己推导出来才存在,不写下来就消失。它的 global.md 相当于一块仪表盘,装着当前目标、打 gym 的预写计划,以及自己定的记忆使用规则。locations 文件夹放特定路线的导航计划,gameplay 文件夹放从游戏机制里学到的策略。

文件里甚至有一条很具体的经验。连续七次宝可梦球抓小鲤鱼失败之后,Fable 5 写下了规则,如果连续失败三个或更多,就变换时机,在菜单操作之间插入额外的等待按键,捕获是在这么做之后成功的。这类内容没法从屏幕上直接读出来,只能靠自己试出来再记下来。

写死规则反而倒退

CL-Bench 1.0 上的实验给出了量化结果。任务要求 Claude 通过查数据库回答一系列问题,答完会被告知正确答案,并可写一条记忆用于后续问题。研究用 Claude Managed Agents 跑,每题开一个新会话,唯一延续下来的是跨会话持存的记忆目录。

模型 无记忆基线 有记忆 增益
Opus 5.5 0.655 0.838 +0.183
Sonnet 5.5 0.644 0.833 +0.189
Opus 5 0.564 0.828 +0.264
Opus 4.7 0.383 0.700 +0.317
Sonnet 5 0.306 0.610 +0.304
Sonnet 4.6 0.330 0.364 +0.034

各模型表现出的学习闭环能力不同。Sonnet 4.6 最差,它只做到生成关于为什么答错的假设,记忆目录里散落着一堆未经检验的猜测。Opus 4.7 会把笔记整合成单一参考文档,并标出哪些事实已核实、哪些还没确认。Sonnet 5 会在评分器核查后标记答案已确认,答错时补一条更正。Opus 5 是第一个闭合这个回路的,它的条目大多包含一条规则以及规则为真的依据、早期问题的答案、以及踩过的坑的明确警告。

接下来是这项研究最反直觉的一条结论。研究人员测试了给模型规定具体记忆规则的做法,一次测一条规则,比较有无规则时记忆带来的增益。结果当规则设定为只记录失败时,Opus 5 的记忆增益变化是 -0.234,Opus 4.7 是 -0.150,Sonnet 4.6 是 -0.020,全是负数。对强模型来说,给它们自由判断显著性比预先定好固定规则更有效,而这些规则甚至会削弱表现。

帮倒忙的是弱模型。Sonnet 4.6 经常不读记忆目录里的文件,也不去验证自己的假设。提示它回答前先读记忆文件、再显式检验自己的假设后,它的基准分几乎翻倍,从 0.330 涨到 0.364 加精化指令的 0.641。Sonnet 5 不需要提示就会这么做,它在 10 次里有 9 次先读记忆再回答,Sonnet 4.6 不到一半。

dreaming 能修错,也能把笔记推到顶层

Claude 基于会话内的判断写笔记,笔记从一开始就写错或者随环境漂移,下个会话读出来还当真,就麻烦了。dreaming 提供了用原始会话记录去检验笔记的机制。

它还能往上层推。笔记被提升到新的表示层后,agent harness 可以在每次会话开始时预先加载,Claude 不需要搜索,甚至不需要知道有东西可搜。但这一步必须谨慎。注入的记忆占用宝贵 token,一条错误的笔记会被带进每一个会话。加载了也不保证 Claude 会照做,官方文档明确警告更长的指令文件会降低遵从度。所以顶层必须保持小,dreaming 在这里的大量工作就是把细节往下移,只留下链接。

Claude 自己的自动记忆也用同样办法控制体积,它不会把全部自动记忆都装进每个会话的上下文,只加载前 200 行或 25 KB 的内容,并把这部分作为索引header,让 Claude 知道自己知道什么以及去哪里找。

wiki 层的价值取决于任务类型。在 LAB 基准的一个并购任务里,24 道问题中超过一半需要跨多份文档整合信息并做出判断,这时查 wiki 的正确率是 87%,只用搜索是 73%。但另一个 LAB 任务里 wiki 没带来明显增益,因为评分点大多能靠单文档文本搜索直接命中。更极端的情况是 wiki 长得比原始文件还大,作者借用博尔赫斯那段关于精确科学的寓言来比喻,地图画得和帝国一样大,却什么也没抽象出来。

dreaming 还能修正多智能体并发写同一页造成的覆盖问题。最初几个 agent 同时往一张共享的合同条款表里写,结果只保住了 57 个评分事实中的 41 个,占 72%。原因是 agent 互相覆盖了工作,共享表把合同条款总结得很差,有些干脆漏掉。改成每个合同单独一页、由单个 agent 逐字引用条款之后,100% 的评分标准都能满足,从 72% 涨到 100%。

另一个场景是补链接。构建 LAB 基准的 wiki 时,Claude 偶尔会链接到还没创建的页面。第二次 dreaming 扫描发现某个任务里有 9 个链接指向缺失页面,把它们重指向同一文档的已有页面,并新增 3 个页面包含一个索引。

怎么落到自己的智能体里

研究给了几条可以直接照做的结论。第一,记忆预算要花在筛选上,不要花在容量上。写满历史档案的上下文往往不是资产,检索不到重点的旧笔记既占预算又干扰判断。第二,注入层要小。顶层保持小而精,细节往下层放,只留链接,前 200 行或 25 KB 是个可参考的量级。第三,别替模型写规则。给强模型一条诸如只记录失败或只记录结论的硬规则,收益会倒退。第四,让模型先读记忆。弱模型靠一条提示就能把基准分接近翻倍,强模型则本来就在这么做。

dreaming 也有它的成本,它要占用算力,而且产出不一定立刻可访问。研究把几个开放问题列得很直白,Claude 什么时候该创建记忆,怎么让记忆可靠地保持更新,没有任何模型能真正预知未来会发生什么。持续让 Claude 检查记忆在实践中未必可行,更有希望的方向是把 dreaming 聚焦在可能变化的信息上,或者按记忆被访问的频率来调整 dreaming 的节奏。

常见问题

智能体记忆存得越多越好吗?相反。宝可梦红实验里 Sonnet 3.7 存了 413 个文件 977930 字符只拿到 1 个徽章,Fable 5 存 10 个文件 43406 字符拿到 4 个徽章。旧笔记持续过期,模型要花资源翻记忆而不是做任务。

给模型写死记忆规则有用吗?对强模型有害。设定只记录失败时,Opus 5 的记忆增益变化 -0.234,Opus 4.7 是 -0.150。官方结论是给自由判断显著性比预设固定规则更有效。但对弱模型有用,Sonnet 4.6 被提示先读记忆再检验假设后,基准分从 0.330 涨到 0.641。

dreaming 是什么?它是让模型在交互之间的空闲时间重整自己上下文的机制,思路来自 Letta 和 UC Berkeley 的 sleep-time compute。它可以回溯检查并修正写错的记忆笔记,把笔记整理成 wiki 这样的表示,也可以把特定笔记提升到每次会话预加载的顶层。Claude 官方的 managed agents 文档里也提供了 dreams 功能。

这套方法能直接用在宝可梦以外的任务上吗?可以,但收益依赖任务类型。wiki 层在需要跨文档整合判断的任务上把正确率从 73% 提到 87%,在评分点大多能靠单文档搜索命中的任务上则没有明显增益。

小结

这篇研究真正改变的是提问方式。记忆系统的设计问题不再是能存多少,而是怎么判断什么值得存、什么该忘、错了怎么回改。Anthropic 给出的答案是把判断权交给模型本身,把纠正权交给 dreaming 过程。

对正在做长期运行智能体的团队,最直接的动作有三个。把注入层压到小而精,把记忆规则从硬约束改成软引导,然后确保流程里有一环是让模型回读自己的旧笔记并修正它。这三件事都不需要重训模型,改的是 harness。

相关阅读

全部文章归档与模型专题