
给 AI agent 装长期记忆,今年成了显学,但"记什么、谁来记、记错怎么办"三个问题,行业远没有共识。10 月底我们写过腾讯混元的解法:记忆质量的关键不在检索在写入,所以专门训一个 3B 激活的小模型当"记忆写手",四套系统全部第一(《腾讯混元把"记忆"三层全开源:一个只负责"写记忆"的 3B 激活小模型,跑赢了 Claude Opus 5》)。
11 月 6 日,Anthropic 给出了另一个方向的完整答案:不换模型、不训写手,而是把记忆拆成四个组件,再加一个借自人脑的离线机制——做梦(dreaming)。文章开篇引了克尔凯郭尔:"生活只能倒着被理解,但必须正着被活。" memory 的处境一模一样:笔记只能事后验证有没有用,但写的时候必须当场下注。
一、记忆的四个组件,和一个"做梦"机制
Anthropic 给 agent memory 下的定义很克制:从经验中获得、跨会话保留、之后还能读到的知识。它不包括改权重、单轮上下文学习、也不包括 compaction——就是"写下来、下次还找得到"这件事。
他们把这件事拆成四层,自下而上:
第 1 层 transcripts:完整会话日志,可搜索的事件流,是"未经消化的原始经验";
第 2 层 memory notes:Claude 当场判断值得记、写下的笔记;
第 3 层 memory representations:比如 wiki——Claude 自己写、自己维护、互相链接的主题页,相当于一张知识地图;
第 4 层 injected context:每个新会话一开始就塞进上下文的最小核心集,Claude Code 的 auto memory 只加载 MEMORY.md 的前 200 行或 25 KB,这一层充当下面的索引。
贯穿四层的是一个离线机制:dreaming。灵感来自海马体——白天快速记录,睡眠时回放、蒸馏、整合进新皮层。Letta 和 UC Berkeley 的研究者把这叫 sleep-time compute:用交互之间的空闲时间重组上下文。Anthropic 把它用在记忆上:做梦可以拿 transcripts 当 ground truth 校验笔记、写新笔记、建 wiki、决定哪些笔记提升到顶层预加载。后面的实验基本就是"做梦的五项用途"逐一出测试报告。
二、判断什么值得记:413 个文件输给 10 个
第一个实验来自持续学习基准 CL-Bench 1.0:每道题开一个新会话,唯一例外是可以读写一个跨会话保留的记忆目录。答错会被告知正确答案,模型要自己摸索出"记录失败→提出假设→验证→沉淀成规则"的学习闭环。
不同模型的差距非常大。Sonnet 4.6 只会生成一堆没验证过的猜测;Opus 4.7 开始把笔记整理成一份参考文档、标注哪些事实核实过;Opus 5 是第一个跑通完整闭环的——它的笔记里有规则、有规则的验证依据、有陷阱警告。最终分数:Opus 5.5 从基线 0.655 提到 0.838,Sonnet 5.5 从 0.644 提到 0.833,有记忆比无记忆的差距一目了然。
更有意思的是 Pokémon Red 实验,它测的正是"什么值得记"的判断力。跑到约 10,000 步时对比两个模型的记忆目录:Sonnet 3.7 什么都记——每一场战斗、每一个道具、每一个 NPC 单独一个文件,共 413 个文件、225 个文件夹、约 98 万字符,结果只拿到 1 枚徽章;Fable 5 只写 10 个文件——一个 global.md 当仪表盘(当前目标、预设的道馆攻略计划、自己给自己定的用记忆规则),外加 locations 和 gameplay 两个文件夹,拿了 4 枚徽章。
为什么多记反而更差?因为宝可梦的游戏状态每回合都在变,Sonnet 3.7 的详细记录以肉眼可见的速度过时——到 10,000 步左右,它花在建目录、删文件上的精力已经超过打游戏本身,曾连续 17 步只整理记忆不做任何游戏动作。而钱、位置这类信息每回合看屏幕就能读到,记它们是纯冗余;只有策略、计划、验证过的规则才是"不写下来就会消失"的东西。Fable 5 甚至自己总结出了一条规则写进记忆:"如果连丢 3 个球,变化按键节奏——我是在这样做之后抓成功的。" Opus 5.5 用同样的精简策略,直接通关了。
三、别教 Claude 怎么记:硬规则会把收益打没
第二个发现对做产品的人最有用:告诉 Claude 记忆是干什么用的,别规定它怎么用。
在 CL-Bench 上,只说一句"有个记忆目录可用",Opus 4.7 和 Opus 5 就能用好,分数明显提升。但一旦给具体硬规则——比如"只记录失败"——Opus 5 的记忆收益直接从 +0.21 掉到 −0.02,Opus 4.7 掉 0.15。对强模型,预先设定的死规则会削弱它自己判断重要性的能力。
反过来,弱模型需要引导。Sonnet 4.6 经常不读自己的记忆文件、也不验证猜想,光提醒它"答题前先读记忆、明确测试假设",分数就接近翻倍:0.330 → 0.364 → 0.641(给了精炼指令之后)。Sonnet 5 已经不需要了——10 次里有 9 次它自己就会先读记忆,而 Sonnet 4.6 这么做的次数不到一半。
四、做梦的五项用途,逐项过测试
用途一:纠错。宝可梦里有座月见山,入口旁有个单向崖,跳下去只能绕回原点。Claude 把 PokéCenter 的方位记错了(记成在东边),走出 PokéCenter 时宣布"月见山搞定了",结果掉下崖,还自我安慰"我冲过头了"——它一直以为自己是对的。对着原始 transcripts 做一轮 dreaming,Claude 比对出笔记错了并重写;带着修正后的记忆,它直接重回月见山,1,935 步抵达华蓝市。而没修正的那一轮,三次掉下同一个崖,最后写了一句"I'm going to stop rather than keep looping"——模型自己放弃了。
用途二:建知识地图。用 5 月收购的软件公司 Stainless 的约 35 万份内部文档(约 4.2 亿 token)建 wiki:Opus 5 的 128 个会话接力,写页、改错、合并重复、对照原文校验。 dreaming 会话从 2 个扩到 128 个,25 道题的达标率从 13% 涨到 48%;wiki 配合搜索工具综合分从 54% 提到 61%(纯搜索 53%),每题还省约 2 万 token。
用途三:往顶层输送。做梦把高价值笔记提升到 injected context 层,新会话一开始就带着。但顶层必须小——注错了的笔记会被每个会话反复读,而且官方文档自己承认:指令文件越长,遵循度越差。Claude Code 的做法是只加载 MEMORY.md 前 200 行/25 KB 当索引, dreaming 负责把细节往下层搬、留下链接。
用途四:围绕目标塑形。一个并购法律文书任务:四个 agent 同时往 provisions.md 一张共享表里写合同条款,互相覆盖,57 条关键事实只活下来 41 条(72%)。让 Claude 自己复盘失败、改指令——改成每份合同一个 agent、逐字引用条款不总结—— facts 完整率直接到 100%。 dreaming 不只是整理记忆,还能迭代"该怎么组织记忆"这条元指令。
用途五:补洞。wiki 里常有指向不存在页面的死链,第二遍做梦能发现并把 9 条死链重定向到已有页面、新写 3 个页面(含索引页)。
五、失败案例也照发:wiki 能膨胀得比原文档还大
这篇博客最圈好感的是自曝失败,而且引用了博尔赫斯的《论科学的精确性》:地图匠造出一张和帝国一样大的地图,精确到没有抽象任何东西。
在一项法律文书任务里,Claude 建的 wiki 比原始文档本身还大——10 份文档、115 KB,建成后 1.77 倍于原文。wiki 不是免费的:它需要持续花算力维护,还会积累错误和幻觉。另一个测试里,大部分评分标准都能从单份文档直接检索到,wiki 相对纯搜索没有任何收益。wiki 真正拉开差距的是需要跨多份文档拼信息的题:并购问答里这类题 wiki 87% vs 搜索 73%。
结尾Anthropic也承认两个开放问题没解决:其一,当场写记忆会分走主任务的注意力,推到后台做又无法立刻可用,这个取舍还没有答案;其二,做梦要烧算力,"持续校验全部记忆"不现实,按访问频率排做梦的节奏可能是方向——但目前都是工程直觉,没有定论。另外官方给了 dreaming 和 knowledge wiki 的 cookbook,但没有开源实现。
六、同题对照:混元的答案和 Anthropic 的答案,方向相反
把两篇放在一起读,价值最大。三周前腾讯混元的 Hy-Memory 2.0 说:记忆质量取决于写入路径,所以专门训一个 3B 激活的模型接管"该记什么"这个决策,压过让 Claude Opus 5 自己判断。今天 Anthropic 的实验结论恰好是反的:别替强模型规定怎么记,让它自己判断显著性——一条"只记失败"的硬规则,能把 Opus 5 的记忆收益直接打负。
两边的分歧点其实不在"写入重不重要"——都承认写入是瓶颈——而在"写入决策该不该独立成专门任务"。混元用训练和基准证明"拆出来划算";Anthropic 用模型代际对比证明"新一代模型自己已经长出了这个能力,外接规则反而碍事"。一个值得注意的细节是,两篇在架构上惊人地同构:混元的 System 1 白天写手 / System 2 夜间引擎,和 Anthropic 的 memory notes / dreaming,几乎是同一个分工的两份实现。这说明"白天写、夜里整理"大概率就是 agent memory 的标准形态,分歧只在由谁来写、谁来整理。
另外还有一条暗合:Anthropic 这里的评估也都建立在"只换 writer、其余全冻结"的对照上,和混元"框架不动、只换模型"的设计哲学一脉相承。这个领域开始长出方法论共识了。
我的几点想法
1. 413 vs 10 这组对比,是这篇文章最值钱的图。它把"上下文工程"的常识翻过来了:记忆不是越多越好,记忆是会过期的负债。Sonnet 3.7 不是不努力,是努力用错了地方——把算力花在记录"每回合看屏幕就能读到"的信息上。判断信息是否" derivable on demand(随时可重新获取)"应该成为记忆系统的第一性原则。
2. "做梦"这个比喻背后是一个严肃的工程判断:离线算力换在线正确性。和 OpenAI 用 Pando 把 git 读路径搬到缓存层是同一个思路——把贵的、不确定的计算从关键路径挪到空闲时段。agent 24 小时在线之后,"闲置时间"第一次成了可开采的资源,sleep-time compute 这个概念今年会从论文走进产品。
3. "别教强模型怎么记"这条,对做 agent 产品的人是直接的行动指南。过去一年的记忆框架普遍内置一堆写死规则(记偏好、记事实、记纠错),Anthropic 的数据说明:对 Opus 5 这一代的模型,最好的提示词是告诉它记忆存在、以及是为了什么目的存在,剩下的交给它。框架厂商可能要重新想自己的价值定位了。
4. 两个答案不矛盾,反而拼出了完整的分工。混元证明"写入可以独立训",Anthropic 证明"前沿模型自己会判断"——那中间地带就是:基座模型判断力不够时用小模型补(混元的 3B writer),判断力够就放手(Anthropic),中间用 dreaming 做离线质检。下一篇值得等的,是谁把"白天写手 + 夜里做梦 + 按需注入"三件套做成默认配置。
5. 也要泼冷水:Anthropic 这些实验全是自家模型的纵向对比,Pokémon 是单样本轶事级证据(一个 run),"record only failures 掉分"也只有 3 runs;wiki 1.77 倍膨胀说明这套机制离"自动维护知识库"还很远。以及最现实的问题——做梦烧的算力谁买单,文章没算这笔账。但作为设计框架和评测方法,这仍是目前 agent memory 领域最完整的一份公开文档。
— END —
参考资料:
[1] Anthropic Engineering, "The components of agent memory", 2026-11-06
[2] 本号前作:《腾讯混元把"记忆"三层全开源:一个只负责"写记忆"的 3B 激活小模型,跑赢了 Claude Opus 5》,2026-10-31
[3] Letta / UC Berkeley, "sleep-time compute", 2026
[4] Continual Learning Bench (CL-Bench) 1.0
[5] Anthropic cookbooks: dreaming & knowledge wikis
1.20K-40K!深圳扬奇医芯招双目结构光算法工程师
2.AI教父Hinton诺奖演讲首登顶刊!拒绝公式,让全场秒懂「玻尔兹曼机」
3.GitHub没了?CEO辞职,微软接管,开发者天塌了
4.AI颠覆数学研究!菲尔兹奖得主、华裔数学家领衔11篇顶刊论文|陶哲轩转赞
5.AI OS,下一个二十年的超级平台
6.全球首个IMO金牌AI诞生!谷歌Gemini碾碎奥数神话,拿下35分震惊裁判



