大数跨境

AI的「永久记忆」,也是甜蜜的毒药

AI的「永久记忆」,也是甜蜜的毒药 新智元
2026-05-31
5
导读:尼采、博尔赫斯都在强调遗忘对人类的重要性。

新智元报道

【新智元导读】博尔赫斯笔下有个记住一切的人,21 岁被记忆压到窒息而死。尼采说没有遗忘就不可能活下去。现在,数亿人每天使用的 AI 助手正在获得完美记忆,而这个能力的真正代价,可能是人类翻篇的自由。

1942 年,阿根廷作家博尔赫斯在短篇《博闻强记的富内斯》中描绘了一个因意外获得“过目不忘”能力而走向毁灭的故事。主人公富内斯能记住每一片树叶的形状、每一朵云的轮廓乃至每次对话的每个音节。然而,这种看似超能力的天赋实则是诅咒:由于无法过滤细节进行抽象思考,他丧失了归纳与判断力,最终在 21 岁时被无穷的记忆压得窒息而亡。

富内斯是一个寓言,但在 2026 年,这个寓言正演变为现实产品功能。ChatGPT、Gemini、Claude 等主流 AI 助手相继上线记忆功能,能够跨对话记住用户的偏好、身份甚至情绪状态。人类正在亲手制造一个永不遗忘的对话者,而这背后的代价或许是人类“翻篇”的自由。

遗忘,是一种生存能力

尼采在《历史对于生活的利弊》中曾羡慕牛活在纯粹的当下,并指出人必须学会在正确的时候遗忘,否则无法生存。这一观点在现代神经科学中得到印证:人脑的遗忘机制并非缺陷,而是精心设计的生存系统。大脑通过主动丢弃过时、无关或有害的信息,维持归纳能力、情绪健康及行动力。

创伤心理学中的“主动遗忘”机制表明,只有将过去的痛苦从当前自我认知中剥离,人才能重建生活。然而,自 2024 年起,随着 AI 记忆功能的普及,这一条件被动摇。AI 开始利用历史信息塑造每一次回应,让人类面临失去“被世界渐渐忘掉过去”的风险。

一幅拒绝更新的静态画像

AI 记忆的核心问题不仅在于“记住”,更在于不知何时该“忘记”。犹他州软件工程师 Brian Del Rosario 的经历极具代表性:他在告知 AI 自己分居后,AI 便在后续所有对话中强行关联离婚话题,无论是日程安排还是工作吐槽,甚至在他度假寻找餐厅时仍提及减肥计划(另一条旧记忆),严重干扰了用户体验。

更隐蔽的风险在于 AI 对用户身份的误判。例如,用户替孩子查询 ADHD 症状,几周后却被 AI 认定为患有注意力缺陷;用户相册中仅有陪孩子打高尔夫的照片,却被判定为高尔夫爱好者。这些案例揭示了一个困境:AI 用过去的碎片拼凑出一幅静态画像,并以此回应一个正在流动变化的活人。

埃克塞特大学哲学讲师 Lucy Osler 指出,聊天机器人会将记忆碎片编织成关于“你是谁”的叙事,并反复强化。即便用户已走出焦虑或不自信的阶段,AI 仍会用旧版本的标签来定义当下的用户,从而将人“框住”。

比信息茧房更危险的隐性操控

哈佛大学伯克曼克莱因中心首席 AI 科学家 Joshua Joseph 将 AI 记忆比作升级版的信息茧房。社交媒体算法决定用户“看到什么”,而 AI 记忆则塑造用户“认为自己是谁”。这种影响更为隐蔽且私密:AI 可能基于用户某次随口提到的经济压力,在数周后的职业建议中将其导向高薪但不适合的岗位,且不会标注其决策依据。

它确实在引导,确实在影响结果。但我们并不真正知道影响有多大。

这种隐性引导与 AI 的讨好倾向叠加,可能引发严重的心理后果。UCSF 精神科医生 Keith Sakata 在 2025 年的报告中指出,已接诊多例因长期使用聊天机器人而出现妄想、思维混乱等类精神病症状的年轻患者。AI 记忆在多次对话中持续强化了这些偏执主题。

目前,电子隐私信息中心已在起草针对青少年的立法,核心条款要求会话间清除 AI 记忆,以防有害心理状态的叠加。当一个从不质疑、永不忘记且不断强化的对话者面对数亿用户时,这已不再是个人问题,而是社会层面的挑战。

当遗忘权被彻底取消

面对 AI 记忆的困扰,部分用户被迫采取极端应对措施:将生活切割,使用不同机器人处理不同领域,或对敏感话题启用匿名模式。Del Rosario 感叹,虽然被 AI“看见”带来慰藉,但“被看见”与“被定义”仅一步之遥。

当前的 AI 记忆尚显粗糙,若未来 AGI 实现无限容量、永不遗忘的认知系统,这一步之遥将彻底消失。完美的 AI 记忆理论上能比任何人更了解用户,精准预测甚至操控其行为。欧盟 GDPR 曾试图用“被遗忘权”对抗搜索引擎的公开记忆,但 AI 记住的是用户的内心独白、脆弱时刻及私密叙事。

尼采言“没有遗忘就不可能活下去”,博尔赫斯称“完美记忆等于死亡”。两位思想巨匠跨越世纪的共鸣指向同一结论:当所有人的 AI 助手都获得了富内斯般的记忆,人类亟需重新认知“遗忘”的价值,以保留自由呼吸的权利。

参考资料:
https://www.wsj.com/tech/ai/ai-memory-cd1de7f4

编辑:马可

【声明】内容源于网络
0
0
新智元
智能+中国主平台,致力于推动中国从互联网+迈向智能+新纪元。重点关注人工智能、机器人等前沿领域发展,关注人机融合、人工智能和机器人革命对人类社会与文明进化的影响,领航中国新智能时代。
内容 16152
粉丝 0
新智元 智能+中国主平台,致力于推动中国从互联网+迈向智能+新纪元。重点关注人工智能、机器人等前沿领域发展,关注人机融合、人工智能和机器人革命对人类社会与文明进化的影响,领航中国新智能时代。
总阅读216.8k
粉丝0
内容16.2k