DeepSeek 宣布全面开源内部推理框架 DeepInfer，目标实现大模型普惠

2026 年 10 月 20 日，DeepSeek 正式宣布将内部推理框架 DeepInfer 全面开源，同步开源生产级 Token 编解码组件 deepseek-recipe。这是 DeepSeek 继模型开源之后的又一重大举措，目标直指"大模型普惠"——让全球 AI 服务更加公平、透明、可信赖，并以每个人都能够负担的成本传递更强大的智能。

DeepInfer：高性能推理框架的核心能力

DeepInfer 是 DeepSeek 内部长期使用的高性能推理框架，已经支撑了 DeepSeek V4.1 Flash 的高吞吐、低延迟大规模推理服务。此次全面开源，意味着全球开发者都可以获得与 DeepSeek 官方一致的推理优化能力。

核心特性

• 高性能算子集成：深度优化的推理引擎，针对大模型推理场景进行专项优化
• 分布式推理支持：原生支持多机多卡分布式部署，轻松应对超大规模模型
• 推测解码（Speculative Decoding）：显著提升生成速度，降低推理延迟
• SWA Bounded Replay：优化长上下文场景的内存使用和计算效率
• 结构化输出：支持 JSON Schema 等结构化输出格式，满足企业级应用需求
• 多平台兼容：同时支持英伟达（NVIDIA）和华为昇腾（Ascend）平台

deepseek-recipe：生产级编解码组件

同步开源的 deepseek-recipe 是 DeepSeek 内部使用的生产级 Token 编解码组件，与 DeepSeek 官方 API 处理逻辑完整对齐。这意味着社区开发者可以获得与官方部署完全一致的 API 体验。

核心价值

• 完整对齐官方逻辑：确保社区版本与官方 API 行为一致
• 生产级稳定性：经过 DeepSeek 内部大规模生产环境验证
• 易于集成：提供清晰的 API 接口和文档，快速接入现有系统

多平台支持：英伟达 + 华为昇腾

DeepInfer 的一大亮点是同时支持英伟达和华为昇腾两大平台。在当前国际形势下，这一策略具有重要意义：

• 英伟达平台：支持 A100、H100、H200、Blackwell 等主流 GPU
• 华为昇腾平台：支持昇腾 910B、昇腾 950DT 等国产 AI 芯片

这种双平台策略不仅降低了开发者对单一硬件供应商的依赖，也为国产算力生态的发展提供了强有力的支持。结合 DeepSeek 此前开源的昇腾适配组件（TileLang 昇腾版、DeepGEMM-Ascend、DeepEP-Ascend 等），DeepSeek 正在构建完整的国产算力推理生态。

未来规划：持续开源新模型推理代码

DeepSeek 在公告中明确表示，未来新模型的推理代码及后续性能优化也将在 DeepInfer 中持续开源。这意味着 DeepInfer 将成为一个长期维护、持续演进的开源项目，而非一次性发布。

对于开发者而言，这是一个重要信号：

• 可以基于 DeepInfer 构建长期稳定的推理服务
• 能够第一时间获得新模型的推理优化支持
• 有机会参与社区贡献，共同推动框架发展

部分组件暂未开源的原因

DeepSeek 团队也坦诚说明，由于推理系统中的 KVCache 管理与负载均衡组件因与内部基础设施耦合较深，相关代码目前尚未完整开源。

行业反响：真正的 OpenAI 精神

DeepSeek 此次开源举措在行业内引发积极反响。多位业内人士评价，这是"真正的 OpenAI 精神"——不仅开源模型，更开源支撑模型运行的核心基础设施。

在当前大模型竞争白热化的背景下，DeepSeek 选择将内部核心推理框架开源，体现了其对技术普惠的坚定承诺。正如其公告所述：

"借助全面开源的模型、算子库与推理框架，我们期待着在不远的未来，能够看到全球 AI 服务的范围与质量获得前所未有的扩展与提升，变得更加公平、透明、可信赖，进而实现在全社会范围内加快技术迭代、减少能源浪费，让有限的资源以更高的效率在基础设施与用户终端之间流转，以每个人都能够负担的成本传递更加强大的智能，以及伴随着智能的善意和无限可能性。"

对开发者的实际影响

对于广大开发者而言，DeepInfer 开源带来的实际价值包括：

1. 降低部署成本

通过推测解码、内存优化等技术，相同硬件条件下的推理成本可降低 30%-50%。

2. 提升服务性能

分布式推理和高性能算子支持，让大规模并发成为可能，显著提升服务响应速度。

3. 增强自主可控

支持国产昇腾平台，降低对英伟达的依赖，在当前国际形势下具有重要战略意义。

4. 加速技术迭代

开源社区的力量将推动框架快速演进，开发者可以第一时间获得最新优化技术。

总结

DeepSeek 全面开源 DeepInfer 推理框架，是国产大模型发展史上的重要里程碑。从模型开源到推理基础设施开源，DeepSeek 正在构建一个完整的大模型开源生态。这不仅降低了 AI 技术的使用门槛，也为国产算力生态的发展注入了强劲动力。

对于开发者而言，现在正是拥抱 DeepInfer 的最佳时机。无论是构建企业级 AI 服务，还是探索大模型应用创新，DeepInfer 都将是一个值得信赖的选择。

— 本文由 AI工具猫 整理发布 —

相关链接

• DeepInfer GitHub 仓库：https://github.com/deepseek-ai/DeepInfer
• deepseek-recipe GitHub 仓库：https://github.com/deepseek-ai/deepseek-recipe
• DeepSeek 官网：https://chat.deepseek.com