就在上个月,一家叫Engram的美国AI公司结束隐身,宣布完成9800万美元融资。投资方是General Catalyst、Kleiner Perkins、红杉资本。OpenAI联合创始人、前不久刚刚加入Anthropic的AI大神Karpathy以个人身份参与了投资,并担任团队顾问。
△ Engram团队(图源/网络)
团队规模13人,成立仅8个月,就拿了近一亿美元,这家做“记忆”AI公司凭什么这么被看好?
Engram的CEO Dan Biderman在阐述公司理念是用了一个概念叫“天才陌生人”:今天的大模型智商很高,什么都能聊两句,但每次见面都像第一次认识你。它懂互联网,不懂你的公司;它会推理,但不记得你昨天说过什么。
Karpathy和一批顶级投资机构押注的,就是用“记忆”帮AI解决这件事。消息一出,AI“记忆”赛道的热度,被推到了前所未有的高度。
但疑问也跟着来了:2025年底到2026年初,大模型上下文窗口竞赛已经白热化。Gemini突破百万token,Claude和GPT跟上,国内厂商陆续宣布支持超长上下文。产品手册能整本塞进去了,几百页行业报告可以一次性上传,客户三年内的聊天记录AI能先读完再开口。
上下文窗口都到百万了,AI“记忆”能力还有那么重要吗?
企业场景下,长上下文难掩三道“暗伤”
长上下文是实打实的技术进步,这点没有争议。但它进了企业场景以后,几件事开始浮现。
企业端用下来会发现一个问题。把三年客户沟通记录导进系统,第一次对话AI很亮眼,能引用两年前的项目背景。第二次对话,它对之前上传的文档没了反应。第三次也一样。每一次都是重来。
zylos.ai今年初的一份研究给了个数据:2025年,近65%的企业AI失败归因于上下文漂移或记忆丢失。上下文窗口确实变长了,但AI并没有因此"记住"客户。
上下文解决的是“一次能读多少”,企业需要的是“记住了多少,能用多久”。
具体来说,上下文再长,也掩盖不了三道“暗伤”:
◎ 第一道,读再多,无法跨会话。
上下文窗口让模型在一次对话里看到更多东西,对话结束,这些内容清零。下一轮对话,企业得把背景资料重新塞一遍。每塞一次,多消耗一次上下文,多等一轮推理,多付一次钱。客服、营销外呼这类高频场景,这套逻辑跑不通。
◎ 第二道,读得越多,越容易忘。
斯坦福大学Liu等人2024年发表在TACL上的一项研究发现:在多文档问答任务中,相关信息放在上下文中间位置时,模型准确率比放在开头或结尾低了30%以上。
AI“看见了”不等于“用上了”。zylos.ai的另一组测试更直白,约三分之二的被测模型,在2000个token里找不到一句简单的话。Chroma测了18个前沿模型,结果一致,每个模型都随输入增长而性能下降,无一例外。
◎ 第三道,token成本居高不下。
百万token上下文的每次推理,输入量巨大,算力增加,响应变慢,账单往上走。
Mem0在2025年发表的一项研究对比了两条路径。朴素全上下文方案,token消耗是记忆层方案的大约10倍,响应延迟高出91%。差距不在模型能力上,差在有没有记忆。
行业新共识:上下文≠记忆
过去半年,行业开始把"上下文"和"记忆"分开来看。上下文是模型当前对话里看到的东西,对话结束就清零,短期的、临时的。记忆跨会话、跨时间、跨场景保留,能更新、能召回、能演进,长期的、积累的。
zylos.ai在总结2026年趋势时给过一个判断:"未来的方向不是更大的窗口,而是更智能的分层存储。"SegmentFault的综述直接给了选型结论:"单纯依赖超长上下文模型无法从根本上解决上下文丢失问题。"
企业场景下,上下文和记忆的差异更加明显。以下面两个场景为例:
◎ 客服场景:客户三天前来问过产品A,今天再来,AI主动说"您上次关注的产品A,最近有个新功能上线"。不需要百万token上下文,需要记忆。
◎ 营销场景:一个潜在客户在微信私域里两次提到预算敏感,AI外呼时自动避开高价方案,优先推性价比选项,转化率会不一样。这也不靠百万token上下文,靠记忆,跨渠道的、持续的、能根据新信息自己更新的那种。
上下文和记忆不是对立关系,但在企业落地的优先级排序上,记忆的紧迫性正在被更多从业者正视。Engram把企业数据训练进模型,是一条路。
红熊AI走的是另一条路:自研AI原生记忆架构——记忆科学“记忆熊”,先调记忆再做推理,让记忆成为独立于模型参数的一层,运行时实时调取和更新。路径不同,方向一致,都指向“AI不能只靠上下文”。
资本押注,需求倒逼,记忆赛道点燃
真正把记忆赛道点燃的,不仅是资本市场的押注,还有企业端的真实痛感。
早期企业AI项目的重点,是证明AI能做点什么:回答问题,写个文案,做点分析。现在的重点在变。AI能不能持续记住这个客户的偏好?多轮对话里事实会不会前后矛盾?跨部门、跨渠道场景下,记忆能不能共享,关键信息会不会丢?
这些问题的答案,决定了AI在企业里是"好玩的工具",还是"能替人力、创造价值的生产系统"。
业界对记忆的重视程度,还体现在以下两个信号:首先是LongMemEval、LoCoMo等专门评测记忆能力的标准,被越来越多厂商关注和引用。
另一个信号则更直接。企业采购AI能力时,开始把记忆能力拎出来独立评估。以前它藏在大模型能力下面,是个附属项,现在成了独立维度。
采购方会问:你这个系统能记住客户多久?跨部门能不能共享?信息更新了会不会冲突?这些问题背后,是AI落地逻辑的转向。从"能不能用"到"用得准不准"。
红熊AI过去两年投得最多的就是这个方向。自研AI原生记忆架构,不走“把历史对话存进数据库再检索”的RAG思路。
真正的记忆系统不止要读,也要写;不止要召回,也要判断信息是不是过期了、有没有冲突。先调记忆,再做推理,记忆的准确性直接决定推理的准确性。
AI 竞赛的“下半场”
过去一年,大模型行业的主旋律是“更长、更大、更强”。更长的上下文,更大的参数,更强的推理。这条路的天花板已经开始隐约可见。上下文窗口不可能无限拉长,参数规模不可能无限扩张,推理能力的边际提升也在递减。
AI竞赛“下半场”的赛点,可能不在能力维度上继续拉伸,而在状态维度上的突破。让AI不只是更聪明,而是更懂你、更记得你。
也就是说:基模提供思考力,记忆提供进化所依赖的状态,二者缺一不可。补上了“记忆”这一环,AI才能成为一个有持续状态的对话者,不是每次从零开始的“天才陌生人”。
记忆赛道还有意思在另一个地方:它不像基模那样已经被少数大厂高度集中。这里有空间,有变化,有还没被定义的行业标准。记忆跟人、组织和业务过程走,不跟某一代模型走。谁先把记忆做准,谁就可能在企业AI的下半场拿到一张不一样的牌。
红熊AI在这条路上,已经走了两年。
红熊AI产品线上发布会
7月31日18:00 敬请关注
⍌ 预约红熊AI产品发布会~

