大模型的能力边界由模型本身划定，但如何以合理成本提供超大规模服务，关键取决于一个长期被忽视的中间层：推理框架。
训练赋予模型能力，推理则让模型落地应用。面对海量用户调用，推理框架负责统筹调度庞大算力集群，其效率直接决定 AI 服务的算力成本与能耗。
DeepSeek 长期致力于将推理性能推向极致。在开源一系列大模型、TileLang 编译工具及推理算子库的基础上，我们决定进一步将内部推理框架 DeepInfer 全面开源。
「为善与众行之，为巧与众能之。」我们希望通过分享内部部署经验，助力开发者与企业优化大规模推理的吞吐与延迟，高效构建私有化及公有云部署，降低算力成本与能源消耗，推动大模型普惠。我们将持续支持社区进行大规模部署优化，欢迎加入开源行列。
DeepInfer 核心能力
基于 DeepInfer，我们已实现 DeepSeek V4.1 Flash 高吞吐、低延迟的大规模推理服务。未来，DeepSeek 新模型的推理代码及后续优化也将在此持续更新。
DeepInfer 推理框架：集成高性能算子与深度优化的推理引擎，支持分布式推理、推测解码、SWA Bounded Replay、结构化输出等能力，兼容英伟达与华为昇腾平台。
deepseek-recipe 编解码组件：同步开源的生产级 Token 编解码组件，与 DeepSeek 官方 API 处理逻辑完整对齐，确保社区获得与官方部署一致的 API 体验。
开源仓库地址
DeepInfer: https://github.com/deepseek-ai/DeepInfer
deepseek-recipe: https://github.com/deepseek-ai/deepseek-recipe
更多技术细节可参考 DeepSeek知乎技术报告。
未来展望
借助全面开源的模型、算子库与推理框架，我们期待全球 AI 服务的范围与质量获得前所未有的扩展与提升，变得更加公平、透明、可信赖。通过加快技术迭代、减少能源浪费，让有限资源以更高效的方式在基础设施与用户终端间流转，以大众可负担的成本传递更强大的智能，释放伴随智能而来的善意与无限可能。
DeepSeek 将与各界携手，为实现这一愿景不懈努力。
