最近学到一个AI的小技巧,当AI会话过长时,可以让AI总结当前窗口的会话,然后在新窗口发给AI。
我每天都会把自己的复盘发给AI,让AI帮我二次复盘,但之前有个烦恼,我的每日复盘有时候有几千字,如果持续三十天每天和AI对话,这时候上下文窗口可能有数十万字,显然难以有AI可以胜任这种任务,能顺畅的继续对话,往往会出现幻觉。
比如我持续对话30天后,在第31天把最新一天的复盘发给AI时,AI评论的却不是我最新一天的复盘,而是前两天的内容。
为了解决这个问题,我想到一个很好的办法:通过新开一个对话的方式,用自己的提示词让AI对过往的对话内容进行总结。
我的提示词如下:
帮我总结一下过往的复盘,我要交接给另一个AI继续对话,请你保证内容的全面性和准确性,总结完成后,必须核查一下
其实挺简单的,这时候我在新对话,把AI给我写的总结它,就可以无缝对接,继续开始新的每日复盘了,这样就可以有效避免上下文窗口过大,AI易产生幻觉的问题。
其实,这个思路就是很多做 Agent 产品时常用的方法,比如用Code X,它会显示当前上下文窗口的百分比,它会自动压缩上下文,只保留关键部分,并及时写入记忆中。
所以,当你发现与 AI 的对话内容过多,AI 出现幻觉时,可以尝试我的方法:
先让 AI 总结当前窗口的内容
新开一个会话,把总结内容和新的内容一起发给 AI
这样就能实现持续、准确的对话了,当然,像某些AI产品,有长记忆功能,可能不需要手动新开对话,体验会更好。

