尽管大型语言模型（LLM）的上下文窗口迅速扩大，但在处理超长复杂文本时仍面临性能下降问题，即“Context rot”（上下文腐烂）。递归语言模型（Recursive Language Models, RLM）通过改变上下文的管理方式而非单纯扩大窗口，有效解决了这一难题。
递归语言模型（RLM）是什么？
由MIT研究人员Alex L. Zhang、Tim Kraska和Omar Khattab提出的RLM并非新型AI模型，而是一种架构方法。它允许现有语言模型在推理中反复调用自身，并通过外部记忆分段处理信息。实验表明，经典LLM随上下文变长性能下降，而RLM表现更稳定。
该系统不直接加载长文档，而是将文本存储于外部环境作为变量或数据结构。模型以小型子任务形式按需调用内容，整合中间结果生成最终输出。简言之，模型不再试图同时“记住”所有文本，而是获得按需回溯的结构：编写代码检查外部文本、执行过滤提取，并在需要时再次调用自身处理子任务。
RLM不仅扩展上下文，更强调在推理阶段（inference-time）智能使用计算资源。通过将任务分解为程序化步骤逐步推进，其核心理念是“组织更好的推理过程”而非依赖“更大的模型”。
聚焦于Agentic AI和企业应用的RLM
RLM在Agentic AI及企业场景中潜力显著。在处理法律、金融等超长文档领域优势突出，并能提升大型代码库分析效率，适用于企业知识管理和内部文档系统。此外，RLM在服务长期多步骤任务的AI代理中亦具价值，其架构与Agentic AI天然契合，因记忆管理、工具调用和多步决策已成为系统基本组成部分。
RLM不仅是理论框架。Google开发者论坛示例展示了如何在Agent开发工具包（ADK）中构建RLM逻辑：长文本保存在名为“context”的外部变量中，模型可对其执行编程操作（如过滤表达式、计数或通过子代理分解任务）。这将RLM核心思想落地实践——模型从单纯阅读文本转变为处理文本的系统一部分，使长上下文问题从令牌窗口问题转化为编程管理问题。
然而，RLM也面临挑战。外部内存使用、多重调用结构及子任务管理增加了系统复杂度，实时场景下还存在延迟（latency）风险。
该方法旨在确保现有能力得到有序可控的使用，而非提升模型推理能力，因此基础模型质量依然关键。简言之，RLM不会让模型变得更“聪明”。
RLM受到的关注表明，团队正转向设计更智能的系统而非依赖更大模型。此前检索增强生成（RAG）虽为主流，但在多文档比较、长链推理分析及多步规划中存在局限。RLM不仅提供信息，还试图系统化管理信息处理流程，促使业界探索RAG、Agent与RLM结合的混合架构。
RLM标志着AI领域的新趋势：竞争焦点从拥有更多参数的大模型转向系统架构。未来或将出现更多混合系统，结合大模型、RAG、Agent架构及类RLM推理策略。