大数跨境

北大助理教授创业押注实时RSI:让AI摆脱“出厂即定型”

北大助理教授创业押注实时RSI:让AI摆脱“出厂即定型” DeepTech深科技
2026-11-10
6
导读:一个真正属于你的 AI,应该是什么样的?它或许能够记住你的兴趣和习惯,了解你正在做的工作,甚至知道你过去几个月读过什么、思考过什么。


一个真正属于用户的 AI,应当能够记忆兴趣习惯、理解工作内容,甚至复盘过往的思考轨迹。随着 AI 智能体(AI Agent)走向实用化,能够提供长期陪伴与个性化服务的“个人智能体”(Personal Agent)正成为行业焦点。

实现这一愿景的核心在于:AI 如何在长期使用中积累知识并转化为自身能力?当前行业多依赖扩大上下文窗口、检索增强(RAG)或外部记忆系统,但这些信息仍存储于模型参数之外,AI 仅是“查阅”而非真正“学会”。

近日,在中关村科学城 ACC2026 活动上,DeepTech 专访了北京大学人工智能研究院助理教授、无涯智远创始人张牧涵。他提出通过实时递归自我改进(Real-time RSI),让模型在发布后仍能通过与用户交互持续学习,将经验写入参数,从而打造真正懂用户的个人智能体。

上下文局限与持续学习的必然性

从理论到工程:探索 AGI 底层原理

张牧涵本科毕业于上海交通大学 IEEE 试点班,后赴美国圣路易斯华盛顿大学攻读计算机科学博士,师从 IEEE 会士陈一昕教授。2019 年至 2021 年,他在 Facebook AI Personalization 团队工作,参与支撑全球十亿级用户的推荐系统研发。这段经历使他完成了从理论研究到工程实践的转型,也让他意识到要实现通用人工智能(AGI)的突破,需深入理解底层原理并探索新技术范式。随后,他选择回国加入北京大学,聚焦前沿基础研究。

突破上下文窗口的物理瓶颈

ChatGPT 的出现促使张牧涵将研究重心转向语言模型,特别是上下文学习(ICL)。尽管 ICL 展现了少样本学习能力,但受限于上下文窗口容量及计算成本(注意力计算量随序列长度平方增长,KV Cache 线性增加),无限扩充窗口并非长久之计。

张牧涵指出,人类具备终身学习能力,而传统静态模型参数不变,新信息仅能通过上下文临时提供。他主张探索将值得保留的信息持续写入模型参数,使 AI 像人类一样形成“长期记忆”,而非仅有“短期工作记忆”。为此,其团队在稀疏注意力、高效架构(如 HISA)等方面开展研究,相关成果已被 DeepSeek-V4.1-Flash 等技术报告引用,旨在缓解上下文容量压力,但最终目标仍是实现参数内的知识内化。

实时 RSI:让模型在运行中进化

超网络机制解决传统难题

传统持续学习面临两大瓶颈:一是频繁更新参数带来的高昂计算与显存成本;二是“灾难性遗忘”,即学习新知识时丢失旧知识。张牧涵团队采用“超网络”(Hypernetwork)方案解决这一问题。超网络是一个具备海量参数的网络,负责生成基座模型的参数更新。

具体流程为:基座模型接收新内容形成内部表征,超网络将其转化为各层参数更新并加载至基座。与传统微调需多次反向传播不同,训练好的超网络仅需一次前向传播即可生成更新。在 27B 基模测试中,短文档内化平均耗时约 200 毫秒,计入加载总耗时约 2 秒,且有效保留了原有通用能力。

参数内学习与应用场景

相比直接放入上下文或 RAG 检索,参数内学习更适用于需长期、反复使用的知识与经验,如企业规章制度、法规条例、代码规范等。这种方式无需每次携带大量原文,显著降低 KV Cache 占用及推理成本。此外,对于海量交互轨迹,参数内学习可从中提取普适策略,优化模型行为倾向,这是单纯依靠上下文难以实现的。

张牧涵强调,“实时”意味着模型能在版本迭代间隙及时吸收新经验,适应个人与企业不断变化的任务与偏好,实现低成本、高频次的自我进化。

个人智能体的未来:从标准化到极度个性化

多模态信息的统一内化

未来的个人智能体将在用户授权范围内,吸收其阅读、对话及屏幕显示等多模态信息。尽管多模态数据易导致上下文膨胀,但团队致力于探索从 Token 到参数空间的统一映射机制,通过基础设施优化,实现视觉、听觉等信息的快速参数化,保留隐式风格与偏好。

生成专属内容的想象空间

张牧涵认为,终极的个人智能体应比用户更懂自己。除了日常事务处理,它还能根据用户偏好创作小说、音乐或游戏情节,打破由创作者生产“标准件”的传统模式,实现内容的极度个性化生成。

初创团队的差异化路径与文化

押注学习范式创新

面对大厂在算力与人才上的优势,无涯智远选择在小而精的技术突破上发力,押注学习范式的创新。团队聚集了一批包括高考状元、竞赛金牌得主在内的年轻研究者,以技术为导向,保持透明公开的讨论氛围。

诚实与感恩的研发原则

张牧涵建议年轻从业者诚实面对自身缺陷与技术本质,避免被表面成绩迷惑,坚持长期主义。他深受上海交大“饮水思源”校训影响,强调感恩与诚信,希望推动持续学习成为模型的标配能力,让每个人和企业都拥有实时进化的个性化智能。

展望未来三至五年,张牧涵期望团队能推动 RSI 范式产生世界级影响,助力成员成长为领域顶尖人才,并最终让持续学习技术广泛惠及大众。


注:封面/首图由 AI 辅助生成

【声明】内容源于网络
0
0
DeepTech深科技
DeepTech 是一家专注新兴科技的资源赋能与服务机构,以科学、技术、人才为核心,通过科技数据与咨询、出版与影响力、科创资本实验室三大业务板块,推动科学与技术的创新进程。DeepTech 同时是《麻省理工科技评论》中国区独家运营方。
内容 5772
粉丝 2
DeepTech深科技 DeepTech 是一家专注新兴科技的资源赋能与服务机构,以科学、技术、人才为核心,通过科技数据与咨询、出版与影响力、科创资本实验室三大业务板块,推动科学与技术的创新进程。DeepTech 同时是《麻省理工科技评论》中国区独家运营方。
总阅读164.1k
粉丝2
内容5.8k