DeepSeek 以 Apache 2.0 协议开源推理引擎 DeepInfer

DeepSeek 把内部推理框架 DeepInfer 以 Apache 2.0 协议开源。它是支撑 V4.1-Flash 模型在大规模下快速出答案的服务软件，在 vLLM 基础上加入了优化过的计算内核、跨多芯片的分布式处理和更快的文本生成技术。DeepSeek 表示后续模型的代码也会以开源形式发布。 同时发布的还有 deepseek-recipe，用于复刻 DeepSeek 官方 API 的 token 处理流程，使自托管部署的行为与官方 API 保持一致。官方称目标是帮助社区降低算力成本、减少能耗、让 AI 更可负担。 对自建推理服务的团队来说，这套组合省去了自己对齐官方 API 预处理逻辑的工作；对使用 DeepSeek 托管 API 的开发者，deepseek-recipe 提供了本地复现官方行为的参照。