大数跨境

Claude总犯同一个错?先查查它记住了什么

Claude总犯同一个错?先查查它记住了什么 石臻说AI
2026-11-07
4
导读:把Claude想成一位随身带着笔记本的助理:它会记下你的要求,也可能记错、记过时。Anthropic公开的记忆整理方法,讲的就是这位助理怎样挑出有用的经验、回查错误,再把需要的内容带进下一次工作。

⭐ 设为星标 · 第一时间收到推送

石臻说AI编辑:石臻
导读: 把Claude想成一位随身带着笔记本的助理:它会记下你的要求,也可能记错、记过时。Anthropic公开的记忆整理方法,讲的就是这位助理怎样挑出有用的经验、回查错误,再把需要的内容带进下一次工作。

助理的笔记本,里面不能什么都混着放

让AI长期帮忙写文章、整理资料,总希望它记得多一点,下次少问几遍。

可时间一长,它的本子里什么都有:你的长期偏好、上次做到哪一步、一个还没证实的猜测,还有已经作废的要求。

比如,“以后写短一点”可以留下;“这一段展开讲讲”可能只针对某篇文章。要是把后一句当成你的长期偏好,以后每篇都可能越写越长。

原始资料留着,开工时只带当前需要的提醒。讲解示意
原始资料留着,开工时只带当前需要的提醒。讲解示意

11月6日,Claude背后的公司Anthropic介绍了一套分层整理记忆的方法:

记录、笔记、知识索引、开工提醒,承担不同的工作。
记录、笔记、知识索引、开工提醒,承担不同的工作。
  • 原始记录
    :当时聊了什么、做了什么,留着以后查证。
  • 经验笔记
    :从记录里挑出值得记住的事,例如已确认的要求、有效的办法。
  • 知识索引
    :把相关笔记按主题连起来,知道去哪一页找细节。
  • 开工提醒
    :每次开始任务时,先读当前最需要的那一小部分。

就像助理的资料柜、笔记本、目录和手边便签。柜子可以很大,但去办眼前这件事,用不着把整个柜子背走。

这里的“记忆”是以后还能读取的资料。多写几页笔记,并不等于把模型重新训练了一遍。

笔记写错了,提醒它再看一遍也没用

Anthropic用了一个《宝可梦》游戏案例。Claude把一个地标的位置记错了,后续导航继续相信那条笔记,于是走回了错误的路线。

研究者让它对照原始会话记录,检查当时发生了什么。纠正笔记以后,它才重新走对了方向。

左侧继续相信错误笔记;右侧回查记录后,返回洞穴入口。
左侧继续相信错误笔记;右侧回查记录后,返回洞穴入口。

这像助理把“周五交稿”误记成了“周四交稿”。让它多读几遍本子,读到的还是错日期。翻出当时的聊天或邮件,才有机会查出问题。

Anthropic把这种在任务间隙回看记录、整理记忆的做法叫作dreaming,也就是“做梦”。它做的事很具体:对照原始记录,核对笔记,再决定怎么改。

所以,重要笔记最好留下来源、日期和适用范围。

“客户不喜欢这个方案”太笼统;“周二会议上,客户认为报价偏高,其他部分还没定”就更方便以后查。前一句容易让它放弃整套方案,后一句提醒它继续讨论报价。

当然,原始记录也可能有错。回查先解决“有没有记歪”的问题,外部事实仍要找文件、数据或最新确认。

资料整理得漂亮,也可能漏掉关键内容

笔记越来越多,按主题整理成相互链接的知识库,查找会方便一些。这里的wiki,可以理解成一套有目录、页面之间能互相跳转的资料。

但整理也会出错。

Anthropic做合同资料测试时,让几个AI助手一起更新同一张汇总表。它们互相覆盖,漏掉了关键信息。

后来改成每份合同单独成页、各有负责写入的助手,并要求保留原始条款:

调整写入方式后,该任务保留的考核事实由41项补齐至57项。
调整写入方式后,该任务保留的考核事实由41项补齐至57项。

这里的41/57与57/57,指这个特定任务要求保留的事实数量。不能把它当成“这样整理,所有业务都能百分之百正确”。

这和几个人同时改文档很像:最后一版看着挺整齐,前面某个人写的内容,却可能已经没了。

而且,知识库也不是越大越好。研究中有些任务从知识库受益不明显,还有一次整理出的资料比原始文件更大。如果以后反而更难找东西,就该检查是不是抄进了太多没用的内容。

因此,AI说“整理好了”,还得验一下。挑几件平时常查的事问它:这条要求是谁说的?原文在哪里?后来改过没有?看它能不能把答案和依据一起找出来。

研究与图表来源: https://www.anthropic.com/research/components-of-agent-memory

每次开工,先看一张短便签

资料存好了,最后还有一步:这次开工,先读哪几条?

技术文章把它叫作“注入上下文”。你可以把它理解成:助理坐到桌前,先看一眼今天手边的提醒,再去做事。

最上层的开工提醒会进入下一次会话,详细记录仍留在下面。
最上层的开工提醒会进入下一次会话,详细记录仍留在下面。

这张便签要短,也要常更新。放得太满,会挤占当前任务需要的空间;把一条错误要求放进去,还可能让它每次开工都先读到同一个错误。

以Claude Code为例,它不会把所有记忆文件一次性全部读进来,而是先读有限的入口内容,再按需查详情。可以通过/memory查看和编辑它保存的笔记。

https://code.claude.com/docs/en/memory

普通人可以先从一份现成的项目笔记开始:保留原件,让AI另做一份整理稿,你看过以后再决定用不用。

保留原件,整理副本,核对后再使用。本文建议的人工整理方法
保留原件,整理副本,核对后再使用。本文建议的人工整理方法

可以把相关笔记和有权限使用的原始记录交给AI,再这样说:

💡 PROMPT

提示词:

请帮我整理这份笔记,先不要改原文件。找出重复、互相矛盾、已经过期,或者没有依据的内容。每个修改建议都告诉我:根据哪条记录、什么日期。拿不准的标成“待确认”,不要猜。最后给我一份精简的新版,让我先检查。

官方另有面向开发者的Dreams功能,目前仍是需要申请权限的研究预览,按所选模型的使用量收费。它会生成另一个记忆库,保留输入,供人审核后决定是否使用。

这不表示普通Claude聊天已经会在每晚自动替你整理全部记忆,也不代表订阅里包含无限免费的整理服务。

https://platform.claude.com/docs/en/managed-agents/dreams

下次AI又犯同一个错,除了再提醒一次,也可以问一句:“你上次到底记了什么?把依据找出来,我们一起改掉。”

📚 往期精选

Google 的 Gemini 4 来了,先小范围开放

Jev 到底是什么?一个不会写字的“智能 if”

Jev 把 Agent 上下文压缩变成了选择题

Codex又重置啦

Jeff Dean 在 Google 干了 27 年,…

有时候觉得,Anthropic就是个小丑🤡

又双叒叕重置了,匹夫速蹬!

codex又又又重置啦,但是明天开始恢复5小时

Anthropic为了训练模型不惜损坏数百万书籍

速蹬!codex重置哥发话几个小时之后重置!


【声明】内容源于网络
0
0
石臻说AI
AI科技博主,10年+大厂互联网经验,专注: AI资讯|生产力工具|AI提效 | 科技数码 用AI提效,剩下的时间摸鱼 , 🛰:szzdzhp001
内容 244
粉丝 0
石臻说AI AI科技博主,10年+大厂互联网经验,专注: AI资讯|生产力工具|AI提效 | 科技数码 用AI提效,剩下的时间摸鱼 , 🛰:szzdzhp001
总阅读5.1k
粉丝0
内容244