编者摘要:DSPy 3.5 是面向生产落地的基础性版本,主打轻量化、提速与稳定性升级,为 4.0 版本铺垫。它移除大量冗余依赖,改用 lm15 替代 LiteLLM 作为默认调用引擎,OpenAI SDK 也改为可选;安装体积、依赖数量、导入耗时均大幅下降。核心模块精简为 Predict、ReAct、RLM、Flex,ReActV2 合并为 ReAct,RLM 脱离实验态,二者共享历史记录与图像能力。XMLAdapter 成为默认解析适配器,对小模型结构化输出更稳。代码解释器迁移至 Deno 沙箱,搭配 InterpreterPool 池化可极大加速 Flex 调用。新增图像输入、包围框能力,RLM 沙箱支持 import dspy 调用 DSPy 子程序,原生传递图片对象。版本存在少量破坏性变更,trajectory 接口改为 history.messages,废弃 TypeSafe 组件。整体大幅降低部署成本,解决企业落地痛点。
10 个关键问题 Q&A
-
Q:DSPy 3.5 定位是什么? A:基础重构版,轻量化提速、提升稳定性,为 4.0 铺路,重点解决生产落地难题。 -
Q:模型调用层有什么重大改动? A:默认换成 lm15,LiteLLM 改为可选,需要时安装 dspy [litellm]。 -
Q:核心模块现在有哪 4 个? A:Predict、ReAct、RLM、Flex;ReActV2 正式合并进 ReAct。 -
Q:结构化输出默认适配器改成什么?好处? A:XMLAdapter,小模型结构化输出、代码提取更可靠,兼容模型常见输出瑕疵。 -
Q:ReAct 读取轨迹的破坏性变更是什么? A:不再用 prediction.trajectory,改用 prediction.history.messages。 -
Q:解释器底层换成什么?池化优势? A:Deno 沙箱;InterpreterPool 可将 Flex 调用提速 94%,单池沙箱约占 400MB 内存。 -
Q:RLM 最大新能力是什么? A:沙箱内可 import dspy,直接调用 Predict 等 DSPy 子程序,不再只能裸 LLM 调用。 -
Q:图像能力有哪些更新? A:全模块支持图片签名,RLM/Flex 可传递 dspy.Image,内置 Pillow,支持 to_pil ();决策模型支持 bbox。 -
Q:哪些实验组件被移除? A:dspy.experimental.TypeSafe,直接使用 dspy.LM。 -
Q:升级安装命令? A:pip install -U dspy
附录 DSPy 3.5 更少依赖,更快、更轻
发布时间:2026 年 11 月 10 日
https://x.com/isaacbmiller1 与 https://www.dbreunig.com/
我们很高兴正式推出 DSPy 3.5,这是一次基础性版本更新,让 DSPy 变得更轻、更快、稳定性更强。
AI 生态迭代速度极快。DSPy 的核心定位,是让你用稳定的签名(Signature)定义任务,再基于当下最优的组件轻松实现任务逻辑。
DSPy 的签名接口自 2023 年推出以来基本保持不变,即便 AI 领域已经发生翻天覆地的变化,很多 2022 年写的程序,至今依然可以直接在现代大模型上运行。大模型逐步具备推理、工具调用、代码编写能力;优化手段也从最初的少样本示例筛选,拓展到微调、提示词优化、代码重写、决策模型阈值调优等方向。但在这一切变化之中,签名始终是一套稳定可用的契约,用来描述我们想要完成什么任务。
DSPy 3.5 清理并现代化了这些年累积下来的冗余代码。它算不上噱头最足的一个版本,同时包含少量不兼容变更。正如一位企业内测用户评价:“3.5 解决了我把 DSPy 落地到生产环境遇到的所有难题。”
更少依赖,更快、更轻
LiteLLM 现在改为可选依赖。DSPy 改用轻量、可扩展的引擎 lm15(https://github.com/lm15-dev/lm15-python)对接各类大模型服务商。OpenAI Python SDK 同样改为可选依赖。程序启动速度大幅提升,内存占用显著下降。
|
|
|
|
|
|---|---|---|---|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
LiteLLM 在 DSPy 的成长过程中发挥了重要作用,用户如果继续想用它,可以安装 dspy[litellm]。
切换到 LM15 之后,现在调用大模型会传入带类型标注的 Request,并返回 Response对象。这套结构化设计,能让大家更方便、灵活地自定义大模型调用逻辑。 教程文档:https://dspy.ai/current/tutorials/custom_lm_engines/
精简后的四大核心模块
现在核心模块精简为四个:Predict、ReAct、RLM(https://www.cmpnd.ai/blog/rlms-in-dspy.html)、Flex(https://www.cmpnd.ai/blog/let-the-model-write-the-code.html)。 ReAct和 RLM 现在共用一套历史记录系统,提示词缓存能力更好,统一支持图片输入。
支持图片输入的签名,可以在全部模块里顺畅运行。ReAct和 RLM 都会把运行记录放在 prediction.history,你可以查看它,或者回传给模型继续多轮对话。 RLM 不再标记为实验性功能;原来的 ReActV2也正式改名为 ReAct。
⚠️ 不兼容变更:原先读取
prediction.trajectory的代码需要修改,请改用prediction.history.messages。 迁移指南:https://dspy.ai/current/diving-deeper/react/#migration-to-dspy-35
XML 成为默认适配器
适配器负责对大模型的输入做格式化、对输出做解析。这个决定经过慎重评估:我们在不同规模、不同家族的大量模型上做内部测试与基准验证,确认切换后可靠性提升,同时不损失性能。
尤其对于小模型,XMLAdapter可以输出更可靠的结构化结果、更干净地提取代码,并且更好兼容模型常见的输出异常。
速度大幅提升的解释器
新版 DSPy 的代码解释器运行在 Deno 沙箱中,替换了旧版在宿主机上构建、运行预测器的方案。沙箱基于预编译标准库 + 已经导入 DSPy 的内存快照缓存启动。
|
|
|
|
|
|---|---|---|---|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
可选的 dspy.InterpreterPool池化能力,让 Flex 调用提速 94%;代价是每个沙箱实例大约占用 400MB 内存。
其他新增能力
- 决策模型支持图像
决策模型新增包围框(bounding box)与图片输入能力,底层跑在 lm15 上。移除了 dspy.experimental.TypeSafe,直接使用标准dspy.LM。 - RLM 可调用 DSPy 子程序
RLM 沙箱内的代码现在可以 import dspy、构建带类型的模块。也就是说,运行过程里不仅可以发起原始 LLM 调用,还能委托给dspy.Predict这类子智能体。 - RLM & Flex 原生支持图片
dspy.Image对象可以完整传入 RLM 沙箱,生成的代码可以用to_pil()裁剪、读取图片,再传给 LLM。沙箱默认预装 Pillow。
更多细节、行为变更与迁移提示,见 Release 页面: https://github.com/stanfordnlp/dspy/releases/tag/3.5.0
我们对 DSPy 3.5 充满期待,它为后续 4.0 的重大更新打好了基础。 立即体验:
pip install -U dspy
术语对照表
-
Signature:签名(DSPy 核心抽象,定义输入输出、任务目标,不绑定具体提示词) -
Adapter:适配器(负责序列化、解析大模型结构化输出) -
ReAct:ReAct 智能体(推理 + 行动框架) -
RLM:Recursive Language Model,递归语言模型,DSPy 的代码执行智能体 -
Flex:代码生成与执行模块 -
InterpreterPool:解释器池,复用 Deno 沙箱,降低启动开销 -
LiteLLM /lm15:大模型网关 / 调用层,统一对接多家 LLM 服务商

