最近 DeepSeek 扔出一颗炸弹：V4 全系列正式支持 1M token 上下文，Pro 版 1.6T 参数、49B 激活，用了一套叫 CSA+HCA 的混合注意力架构，号称推理成本只有 V3.2 的 27%。群里当天就有人开始说："RAG 可以扔了吧，直接塞进去不就完了？"
我没有立刻反驳，因为我理解这种冲动。
所以我完全理解为什么有人想一了百了，把整个知识库扔进百万上下文、让模型自己去找。但这个想法有个问题：1M token 的上下文，并不等于 1M token 的有效注意力
先承认一件事：这场技术变革是真实的，不是 PPT。
DeepSeek V4 在 4 月 22 日开源，两个版本均支持 1M token 上下文。同时段，GPT-5 也跟进了 1M token 的生产级发布。Gemini 系列更早，实验版本甚至支持 2M。放到两年前，这是不可想象的数字——GPT-3 那会儿才 4K。
1M token 是什么概念？大约 75 万个英文单词，换算成中文大概是 50 万字。一个中型代码仓库、一年的项目文档、一整本技术手册——理论上可以一次性塞进去。
也有一个让 RAG 从业者尴尬的故事流传：某工程师花了两周搭了一套 RAG pipeline——向量库、分块策略、embedding 模型、检索评估……然后有人指出，整个语料库也就 15 万 token，直接塞进 Gemini 一个下午就搞定了。
这种故事会让人觉得，RAG 是在为不存在的问题构建复杂的解法。
但这里有个认知陷阱，需要拆开说。
"1M 上下文"这个数字，是一个营销数字，不是一个工程数字。模型能接受 1M token 的输入，和模型能在 1M token 里有效注意到每一个细节，是两件完全不同的事。
2026 年的实测数据已经很能说明问题：
先说注意力衰减。这是物理限制，不是某家模型的 bug。当你往一个模型里塞 100 万 token，它在处理时要对所有内容计算注意力权重。Token 数越多，中间位置的内容越容易被稀释。超过 256K 之后，遗忘曲线就会急剧变陡。你测 needle-in-a-haystack 通过了，不代表复杂的多跳推理也能过。
再说延迟。45 秒的首 token 等待时间，放在 Agent 系统里是什么体验？一个多节点的 workflow，每个节点都要等 45 秒，这个 Agent 基本废了。
最后说成本。1250x 不是夸张，是按 token 定价乘出来的真实数字。如果你的应用日活查询量稍微上来一点，成本会让你怀疑人生。
这是整篇文章我最想说的一点。
当有人说"RAG 不行了"，他们脑子里 RAG 长这样：用户问一句话 → 向量搜索 → 取 top-5 chunk → 塞进 prompt → 生成回答。这套东西叫朴素 RAG（Naive RAG），它确实问题很多：
-
语义相似 ≠ 答案相关，向量检索会搜出"听起来像"但没用的内容 -
chunk 切割破坏上下文，一段话的前半截和后半截可能分属不同 chunk -
没有多跳推理，问"A 的 B 的 C 是什么"，一次检索根本搜不到 -
没有自我纠错，搜错了就错了，Agent 拿着废料往下走
我在 Cogent 早期吃的就是这个亏。但没有人在 2026 年的生产系统里还在用朴素 RAG。拿它和百万上下文比，是拿 2022 年的技术和 2026 年的模型打擂台，当然显得 RAG 很弱。
真正的对比对象，是已经进化了好几代的 RAG：
把这个问题想清楚之后，答案其实很朴素：RAG 和长上下文不是竞争关系，是上下游关系。
NotebookLM、Gemini Deep Research、大多数 2026 年的生产级 AI 搜索产品，都是这么干的：先用 RAG 从几百万 token 的语料库里精准检索出 5 到 20 万 token 的相关内容，再把这些内容交给长上下文模型做深度推理和综合。
RAG 负责精准过滤，长上下文负责深度推理。各司其职，互不替代。
对做 Agent 系统的工程师来说，这个组合在实践中的形态是 Agentic RAG：检索不再是固定流程，而是 Agent 工作流里的一个动态决策节点。Agent 在推理过程中，如果发现当前上下文信息不够，主动触发检索；检索结果不满意，再追加一轮或换策略。
在我的 Cogent 架构里，这意味着检索需要成为一个具备自我评估能力的 Skill 节点，而不是一个固定的前置步骤。
不废话，直接给结论。根据你的实际场景选方案：
一个简单的判断口诀：语料小且静态 → 长上下文；语料大或动态 → RAG；复杂推理 → 混合。大多数真实的生产场景，答案都是混合。
DeepSeek-V4 的 1M 上下文是真正的技术进步，我非常认可。它让那些原本需要 RAG 的小规模、静态场景得到了解放，工程成本大幅下降。
但"RAG 已死"是一个懒人叙事。它把一个复杂的工程权衡问题，简化成了"谁更强"的网络争论。
死掉的是朴素 RAG：固定切块、单路向量、top-k 直喂、无自我纠错。这套东西在 2023 年就已经开始暴露问题，只是现在有了更好的替代品，终于可以体面地退出历史舞台。
活下来的，是进化后的检索体系：混合检索、重排序、查询改写、Agentic 决策。这些东西解决的问题，1M 上下文并没有解决。
作为一个在 Cogent 上踩了两年 RAG 坑的工程师，我的结论是：检索质量依然是 Agent 系统成败的核心变量。模型再强，给它喂了错误的上下文，它依然会自信地推理出错误的结论。
这件事，1M token 解决不了。
