大数跨境

刚刚,Anthropic公开Claude记忆架构:模仿人脑机制,后台“做梦”改错

刚刚,Anthropic公开Claude记忆架构:模仿人脑机制,后台“做梦”改错 AI寒武纪
2026-11-07
2

Anthropic近日公开了Claude智能体的完整记忆系统。该系统允许模型在交互间隙利用空闲算力进行“离线做梦”,通过回放和重组历史记录来修正错误、沉淀经验,从而实现真正的跨会话长期记忆。

[图1:跨会话的记忆层级架构图,包含原始记录、记忆笔记、记忆表征和注入上下文,做梦机制在其中贯穿各层]

核心机制:AI的“离线做梦”与记忆修剪

仿生学习:从海马体到睡眠期计算

人类大脑通过海马体捕捉即时信息,并在睡眠等离线状态下回放经历,将重要内容整合进皮层形成长期记忆。Anthropic借鉴这一机制,提出“睡眠期计算”概念,让Claude在两次交互的空闲时间反思日志、修正错误并撰写新笔记,这一过程被称为“做梦”。

Claude的智能体记忆特指从任务交互中获得、能跨会话留存并以纯文本形式被读取的经验。它严格排除了模型权重修改、单次对话内的上下文学习以及简单的摘要替换机制。

[图2:记忆笔记层高亮示意图,展示会话向记忆笔记直接写入关键观察结果]

预测未来:大模型的学习闭环

记笔记本质是对未来的预测。在CL-Bench 1.0数据库任务测试中,不同版本的Claude展现出显著差异:

  • Claude Sonnet 4.6:生成大量未检验的猜测,缺乏整合。
  • Claude Opus 4.7:开始整合笔记,区分已证实与未证实细节。
  • Claude Sonnet 5:能根据裁判反馈标记正确项并记录勘误。
  • Claude Opus 5及以上:完整跑通学习闭环,笔记包含经检验的规则、证明过程及陷阱警告,最终得分超过0.83。

[图3:左图为CL-Bench数据库任务中无状态基线与带记忆存储的对比柱状图;右图为30道题的累积奖励走势线状图]

实战测试:记忆策略对性能的影响

宝可梦游戏实测:冗余记忆的负面影响

在Pokémon Red游戏测试中,模型的表现取决于其记忆筛选能力:

Claude Sonnet 3.7(失败案例):过度记录所有细节(413个文件,97.7万字符),导致大量过期信息堆积。在第10000步时,花费17个操作步骤整理文件却未推进游戏进度,仅获得1枚徽章。

Claude Fable 5(成功案例):仅维护9个文件和全局总控文件(4.3万字),摒弃屏幕可见数值,专注记录推导规律和长期策略。例如总结“连续失败后插入等待操作”的捕获技巧,最终获得4枚徽章。

Claude Opus 5.5:采取极简策略,仅维护任务目标与下一步规划,成功通关游戏。

[图4:Sonnet 3.7与Fable 5运行一万步时的记忆目录树状结构对比图]

提示词工程:自由筛选优于硬性规则

实验表明,对于高阶模型,赋予其自主筛选重点的自由效果最佳。

  • 弱模型辅助:对于Sonnet 4.6等早期模型,强制要求查阅笔记可将其基线跑分从0.330提升至0.641。
  • 强模型限制:对Opus 5等先进模型施加“仅记录失败”等死板规则,反而导致性能大幅下跌(增益暴跌0.234)。前沿模型更适应自主决定记忆重点。

[图5:左图为Sonnet 4.6通过引导提示词大幅提升表现;右图为强加“仅记录失败”规则导致Opus 5与4.7性能暴跌的统计]

纠错与知识构建:做梦机制的核心价值

回溯修正:解决“月见山跳崖”困境

实时记录的笔记可能存在错误。在宝可梦月见山关卡中,Claude因误记坐标导致反复跳崖失败。未开启做梦机制的模型陷入死循环;而开启该机制的模型在离线阶段对照原始录像复盘,发现位置矛盾并修正笔记,随后成功通关。

[图6:高亮做梦环节借助原始记录修正记忆笔记的箭头路径]

[图7:左侧为无修正状态下跳下悬崖的路径示意,右侧为做梦修正后重返洞口的路线]

[图8:无记忆、原始错误记忆与做梦纠错三种机制下前往华蓝市的进度走势图]

构建知识维基:处理大规模企业资料库

针对Stainless公司4.2亿Token的代码资产库,Opus 5通过128次连续会话构建结构化知识维基(Wiki):

  • 效率提升:答题达标率从13%升至48%;结合搜索工具后,得分从53%提升至61%,每题节省约20000 Token检索消耗。
  • 复杂推理优势:在需多文件交叉验证的企业并购问答中,维基准确率(87%)显著高于单纯搜索(73%)。
  • 局限性:对于只需全文搜索专有名词的简单任务,维基无增益;若控制不当,维基体积可能膨胀至原文的1.77倍,失去提炼意义。

[图9:做梦机制从记录与笔记层自下而上构建记忆表征层的示意图]

[图10:中图为维基在构建过程中答题得分走势,左右两图为第2轮与第128轮生成的网络图拓扑差异]

[图11:左图为跨多文档复杂推理场景下维基的明显优势,右图为单一文档即可检索场景下维基收益有限的对比]

[图12:维基体积膨胀至原本语料1.77倍的反面案例结构图]

工程实践:分层注入与多智能体协作

记忆分层:索引置顶,细节后置

为避免长上下文污染决策并节省Token,Claude采用克制策略:顶层Prompt仅注入少量索引信息(如MEMORY.md前200行),告知模型“懂什么”及“去哪找”,具体细节留待后台检索。

[图13:顶层注入上下文与下层被动检索层级的流动关系图]

多智能体协作:自动修复冲突与死链

在法律合同文书测试中,初始多智能体共用文件导致28%的关键事实丢失。经“做梦”反思后,系统重写规则为“单页独立存储+逐字摘录”,使留存率达100%。此外,离线做梦还能自动扫描并修复维基中的死链,补充目录索引。

[图14:多个Agent覆盖写入导致信息丢失,与独立拆分单页逐字引用后的保留率对比图]

[图15:二次做梦修复失效超链接、补充目录与升级索引的前后网络对比图]

结语:权衡与展望

智能体记忆系统仍面临工程权衡:实时记录会分散注意力,完全离线则无法即时应用新知;全面核对记忆算力开销巨大。未来设计的核心在于依据调用频率动态分配“做梦”频次。尽管无法百分百预测未来,但通过离线反思与纠错,AI已迈出摆脱“金鱼记忆”、实现自主进化的关键一步。

【声明】内容源于网络
0
0
AI寒武纪
1234
内容 798
粉丝 0
AI寒武纪 1234
总阅读21.2k
粉丝0
内容798