Google前首席科学家杰夫·迪恩(Jeff Dean)近日在接受Y Combinator采访时指出,随着AI技术的发展,单纯依赖模型本身的重要性正在下降。未来的核心竞争力在于“上下文工程”,即如何将模型与工具、检索系统及AI智能体有效整合,构建出能解决复杂问题的强大系统。
模型选择重要性下降,上下文工程成为关键
针对业界普遍存在的“模型焦虑”及Token消耗担忧,迪恩认为这可能导致开发者忽视了更大的机会。Y Combinator的Diana Hu在采访中也提到,AI进步的重心已从单纯追求更大参数和数据量,转向了围绕模型的生态系统建设。
Diana Hu表示:“过去的AI进步意味着更好的模型、更多数据和更大参数。但近年来,重点已转移到模型之外的事物,如检索、工具、记忆和代理等。这些要素正被整合进所谓的‘上下文工程’中。”
迪恩对此表示认同,并强调模型仅是解决问题系统的一小部分。与其期望模型独立完成所有任务,不如为其配备必要的工具和准确的信息访问能力。他指出,一个优秀的系统应包含懂得使用各类工具、能够检索相关信息及历史记录,并能将有效信息精准注入上下文的模型。
多智能体编排决定系统上限
迪恩进一步阐述了智能体编排的重要性。他对比了两种模式:一种是仅依靠海量训练数据的通用模型;另一种是能够针对特定任务检索精准信息并进行高效编排的智能体。后者因信息清晰度高,在处理具体问题时表现更优。
迪恩解释道:“训练数据如同将数万亿Token混合成的汤,而直接用于特定问题的上下文则清晰得多。关键在于理解可用工具、将问题分解为工具调用序列、尝试多种解决方案并进行评估。这种复杂的智能体及多智能体系统编排,将是未来发展的核心方向。”
通过试错优化指南与技能
关于如何提升上下文工程能力,迪恩建议开发者在实践中从失败中学习。他认为,相比于难以外部调整模型参数,通过创建更精准的指南(Guidelines)和技能(Skills)来引导模型使用工具,是更为务实且高效的改进路径。
迪恩建议:“利用现有框架尝试解决问题,观察模型的失败点。通常可以通过编写更好的指南或定义特定技能,让模型学会如何使用工具来解决某类问题。这一过程不仅能优化系统设置,还能帮助你深刻理解模型需要何种额外信息才能变得更强大。”
核心要点总结
- AI模型正逐渐演变为大型AI系统中的基础组件,而非唯一焦点。
- 上下文工程的核心在于协调工具、检索系统与AI智能体的协同工作。
- 优化模型周边的系统架构往往比单纯升级模型更能带来显著效果。
- 通过分析失败案例并完善操作指南与技能定义,是提升AI应用能力的有效手段。

